Aktuell werden die leistungsfähigsten KI-Modelle der Welt in der Cloud auf Servern gehostet, die Sie nicht kontrollieren. KI-Agenten haben enormes Produktivitätspotenzial freigesetzt, doch dieses Potenzial steckt hinter einem massiven Kompromiss fest: Um etwas Nützliches zu erreichen, wird von Ihnen erwartet, dass Sie Ihre sensiblen Informationen blindlings außerhalb Ihrer eigenen Infrastruktur versenden.
Wir halten die Gleichgültigkeit, die diesem Thema entgegengebracht wird, für gefährlich. Die Übergabe Ihrer rohen Workflow-Daten an einen Cloud-Endpunkt birgt Risiken, denen Sie zuvor nicht ausgesetzt waren, darunter:
- Ernte von Trainingsdaten: Ihr proprietärer Code und Ihre privaten Daten werden zum Training künftiger KI-Modelle verwendet.
- Größere Angriffsflächen: Ein zusätzlicher Ausfallpunkt, an dem Ihre Daten durch Sicherheitsverletzungen oder versehentliche Lecks offengelegt werden können.
- Regulatorische Risiken: Verpflichtungen rund um grenzüberschreitende Datenweitergabe oder Weitergabe an Dritte (z. B. DSGVO, HIPAA), die Sie plötzlich einhalten müssen.
- Monetarisierung durch Dritte: KI-Anbieter teilen Ihre Daten im Rahmen vager Servicevereinbarungen mit Subunternehmern oder monetarisieren sie direkt.
- Offenlegung von Zugangsdaten: Preisgabe Ihrer Betriebsdaten, Geschäftsgeheimnisse und der vertraulichen Daten Ihrer Kunden, Diebstahl Ihrer innovativen Ideen sowie interner IP-Adressen und API-Schlüssel.
- KI-Anbieter, die Ihre Inhalte gegen Sie verwenden: Gesendete Daten können intransparente Einschränkungen, Strafpreise oder Dienstverweigerungen auslösen, je nachdem, was Sie schreiben – zum Beispiel, wenn Ihnen Zusatzgebühren berechnet oder der Dienst verweigert wird, weil eine Codebasis ein Konkurrenzprodukt erwähnt (Hacker News).
Um dem zu begegnen, haben wir eine quelloffene MIT-Lösung namens Agent Redactor veröffentlicht. Agent Redactor ist ein lokaler Sicherheits-Proxy, der zwischen Ihren KI-Agenten und großen Sprachmodellen (LLMs) sitzt. Wir betrachten ihn gern als transparente KI-Firewall für Ihre sensiblen Daten.
Er nutzt ein ONNX-KI-Modell auf dem Gerät zusammen mit deterministischen Regex- und Schlüsselwort-Regeln, um personenbezogene Daten (PII), Zugangsdaten und proprietäre Daten aus API-Anfragen automatisch zu erkennen und zu redigieren, bevor irgendetwas Ihren Rechner verlässt. Die Software stellt anschließend die Originalwerte in den Antworten des LLM nahtlos wieder her – selbst über gestreamte Chunks hinweg. Ihr Workflow bricht nie zusammen, aber der Cloud-Anbieter sieht nur <<REDACTED_PII_1>>. Indem sichergestellt wird, dass sensible Daten und API-Schlüssel strikt lokal bleiben, ermöglicht Agent Redactor Entwicklern und Unternehmen, KI-Tools sicher einzuführen, ohne Datenschutz oder Compliance zu gefährden.
Warum MIT Open Source?
Wir glauben, dass Datenschutzsoftware wie diese quelloffen sein muss. Vertrauen wird überprüft, nicht geschenkt.
KI-Anbieter behaupten bereits, Ihre Daten seien sicher – und dennoch werden immer wieder Leaks dokumentiert. Worte allein schaffen kein Vertrauen. Anstatt Ihnen nur zu sagen, dass Agent Redactor sicher ist, haben wir ihn unter der MIT-Lizenz veröffentlicht, damit Sie es selbst überprüfen können. Es gibt keine Telemetrie, keine erforderlichen Konten und keine versteckten Cloud-Aufrufe.
Jeder kann den Quellcode lesen, genau sehen, was er tut, und uns daran messen. Mit der Zeit hoffen wir, dass diese Offenheit Mitwirkende anzieht, die Code einreichen, Fehler melden und helfen, das Tool auf eine Weise zu härten, die wir allein nicht leisten können. Das ist der wahre Vorteil von Open Source: Probleme werden schnell gefunden und behoben – öffentlich und von mehr Augen als nur unseren.
Wo wir jetzt stehen
Unsere erste Version von Agent Redactor unterstützt Windows und ist ab sofort verfügbar. macOS- und Linux-Versionen folgen in Kürze.
Sie können die Dokumentation lesen und die App auf agentredactor.negativestarinnovators.com herunterladen oder unseren Code im Agent-Redactor-GitHub-Repository prüfen. Probieren Sie es aus, schützen Sie Ihre Geheimnisse und sagen Sie uns, was Sie denken.
