À l'heure actuelle, les modèles d'IA les plus performants au monde sont hébergés dans le cloud, sur des serveurs que vous ne contrôlez pas. Les agents IA ont débloqué un énorme potentiel de productivité, mais ce potentiel est conditionné par un compromis massif : pour accomplir quoi que ce soit d'utile, on attend de vous que vous envoyiez aveuglément vos informations sensibles en dehors de votre propre infrastructure.
Nous pensons que l'indifférence qui entoure ce sujet est dangereuse. Confier vos données de travail brutes à un point de terminaison cloud vous expose à des risques auxquels vous n'étiez pas confronté auparavant, notamment :
- Récolte de données d'entraînement : votre code propriétaire et vos données privées sont utilisés pour entraîner de futurs modèles d'IA.
- Surfaces d'attaque accrues : un point de défaillance supplémentaire où vos données peuvent être exposées par des violations de sécurité ou des fuites accidentelles.
- Exposition réglementaire : des obligations liées au partage de données transfrontalier ou avec des tiers (par exemple, RGPD, HIPAA) auxquelles vous devez soudainement vous conformer.
- Monétisation par des tiers : les fournisseurs d'IA partagent vos données avec des sous-traitants dans le cadre d'accords de service vagues, ou les monétisent directement.
- Fuite d'identifiants : exposition de vos données opérationnelles, de vos secrets d'affaires et des données confidentielles de vos clients ; vol de vos idées innovantes, d'adresses IP internes et de clés d'API.
- Les fournisseurs d'IA utilisent votre contenu contre vous : les données que vous envoyez peuvent déclencher des restrictions opaques, des tarifs punitifs ou des refus de service en fonction de ce que vous écrivez ; par exemple, être facturé davantage ou se voir refuser le service parce qu'une base de code mentionne un outil concurrent (Hacker News).
Pour lutter contre cela, nous avons publié une solution open source sous licence MIT appelée Agent Redactor. Agent Redactor est un proxy de sécurité local qui s'interpose entre vos agents IA et les grands modèles de langage (LLM). Nous aimons le considérer comme un pare-feu IA transparent pour vos données sensibles.
Il utilise un modèle d'IA ONNX embarqué sur l'appareil, conjugué à des règles déterministes d'expressions régulières et de mots-clés, pour détecter et rédiger automatiquement les informations personnellement identifiables (PII), les identifiants et les données propriétaires des requêtes API, avant que quoi que ce soit ne quitte votre machine. Le logiciel restaure ensuite les valeurs d'origine dans les réponses du LLM de manière transparente, en les reconstituant même à travers les fragments transmis en continu. Votre flux de travail ne s'interrompt jamais, mais le fournisseur cloud ne voit que <<REDACTED_PII_1>>. En garantissant que les données sensibles et les clés d'API restent strictement locales, Agent Redactor permet aux développeurs et aux entreprises d'adopter les outils d'IA en toute sécurité, sans compromettre la confidentialité des données ni la conformité.
Pourquoi l'open source MIT ?
Nous croyons qu'un logiciel de confidentialité comme celui-ci doit être open source. La confiance se vérifie, elle ne se donne pas.
Les fournisseurs d'IA affirment déjà que vos données sont en sécurité, et pourtant les fuites continuent d'être documentées. Les mots seuls ne suffisent pas à gagner la confiance. Au lieu de simplement vous dire qu'Agent Redactor est sûr, nous l'avons publié sous licence MIT afin que vous puissiez le vérifier vous-même. Il n'y a ni télémétrie, ni comptes obligatoires, ni appels cloud cachés.
Tout le monde peut lire le code source, voir exactement ce qu'il fait et nous tenir responsables. Avec le temps, nous espérons que cette ouverture attirera des contributeurs qui soumettront du code, signaleront des bogues et aideront à renforcer l'outil d'une manière que nous ne pourrions pas accomplir seuls. C'est le véritable avantage de l'open source : les problèmes sont trouvés et corrigés rapidement, au grand jour, par davantage d'yeux que les seuls nôtres.
Où nous en sommes
Notre première version d'Agent Redactor prend en charge Windows et est disponible dès maintenant. Les versions macOS et Linux arrivent bientôt.
Vous pouvez lire la documentation et télécharger l'application sur agentredactor.negativestarinnovators.com ou auditer notre code sur le dépôt GitHub d'Agent Redactor. Essayez-le, protégez vos secrets et dites-nous ce que vous en pensez.
