Agenten überall: Der Informationsfluss - Negative Star Innovators Blog

Unsere These lautet, dass jeder einzelne Mensch letztlich KI-Agenten sowohl in digitalen als auch in physischen Bereichen seines Privat- und Berufslebens steuern wird. Selbst körperliche Arbeit wird durch Roboter automatisiert und von Agenten orchestriert werden, die Menschen steuern. Viele Agenten werden dauerhaft und mit wenig oder ganz ohne fortlaufende menschliche Aufsicht arbeiten. Sie werden Aufgaben delegieren und noch lange nach ihrer Einrichtung durch einen Menschen Informationen mit anderen Agenten austauschen. Diese Agenten werden Arbeiten ausführen und Informationen in einem Ausmaß austauschen, das Menschen manuell weder bewältigen noch erfassen können. Es wird schlicht nicht genug menschliche Zeit geben, um die enorme Menge an Informationen zu verstehen, die zwischen diesen Agenten ausgetauscht wird. Jeder zusätzliche Agent und jede zusätzliche Interaktion vergrößert den Bereich, über den Informationen zu Dritten gelangen können – mit gefährlichen Folgen.

Wir glauben, dass Agenten jeden Aspekt des Alltags vermitteln werden, indem sie an Anrufen teilnehmen, frühere Aufzeichnungen durchsuchen, Nachrichten verwalten, Dokumente abrufen, Kameras bedienen, Einkäufe tätigen, Roboter steuern und Menschen bei Verhandlungen vertreten. Häufig wird jede Partei ihren eigenen Agenten haben. Bei einem Vorstellungsgespräch könnte der Agent des Arbeitgebers das Gespräch transkribieren und analysieren, während der Agent des Bewerbers relevante Erfahrungen abruft, die Aussagen des Arbeitgebers bewertet und den Bewerber berät. Bei einer Vertragsverhandlung kann der Agent jeder Partei die vorgeschlagenen Bedingungen anhand ihrer eigenen Prioritäten prüfen, Risiken kennzeichnen und Änderungen vorschlagen, bevor die beteiligten Personen die endgültige Vereinbarung genehmigen.

Selbst wenn Sie selbst keine Agenten einsetzen, können Informationen, die Sie mit anderen Personen und Organisationen teilen, dennoch von Agenten verarbeitet werden, die Sie nicht kontrollieren. Diese Agenten werden in der Lage sein, diese Daten zu speichern und zu analysieren, neue Informationen daraus abzuleiten und auf Grundlage der Ergebnisse zu handeln.

Welche Informationen preisgegeben werden können

Die Informationen, die preisgegeben und gegen uns verwendet werden können, gehen weit über personenbezogene Daten, die eine Identifizierung ermöglichen (Personally Identifiable Information, PII), und Zugangsdaten hinaus.

Vertrauliche Aufzeichnungen und Zugangsdaten
Informationen, die von Natur aus privat sind oder für den Zugriff auf Konten, Vermögenswerte, Identitäten oder private Kommunikation verwendet werden können. Dazu gehören PII, Passwörter, Authentifizierungstoken, Telefonnummern, Adressen, Konto- und Zahlungsdaten, Finanz- und Rechtsunterlagen, private Kommunikation sowie Aufzeichnungen über Kundenkonten und -transaktionen. Diese Risiken betreffen Einzelpersonen und Organisationen gleichermaßen und gehen weit über herkömmliche Definitionen von PII hinaus.
Privater Kontext, Pläne und Know-how
Informationen, deren Sensibilität sich daraus ergibt, was sie über Absichten, Fähigkeiten, Methoden, Beziehungen oder angesammeltes Wissen offenbaren. Für Unternehmen gehören dazu Produktstrategien, proprietäre Methoden, Forschung, nicht öffentliche Preisstrategien und Geschäftsbedingungen, Lieferantenbeziehungen, Beschaffungsstrategien, ausgehandelte Bedingungen, proprietärer Quellcode, Kundeninformationen, interne Dokumente und betriebliches Know-how. Für Einzelpersonen gehören dazu private Projekte, unveröffentlichte kreative Arbeiten, Hobbys, Interessen und Freizeitaktivitäten, persönliche und berufliche Pläne, familiäre, soziale und berufliche Beziehungen, persönliche Verpflichtungen und Routinen sowie sonstiger privater Kontext, dessen Offenlegung manipulatives Marketing, gezielte Betrügereien, Rufschädigung oder Beziehungsschäden, den Verlust von Verhandlungsmacht oder Bedrohungen für Lebensunterhalt, Autonomie oder Sicherheit ermöglichen könnte.
Sensible menschliche Daten und daraus abgeleitete Rückschlüsse
Biometrische, physiologische und verhaltensbezogene Daten sowie daraus gezogene Rückschlüsse können verwendet werden, um uns zu identifizieren, unsere geistige und körperliche Gesundheit sowie unsere Vorlieben und Abneigungen abzuleiten und Modelle zu erstellen, die vorhersagen, wie wir uns unter bestimmten Umständen wahrscheinlich verhalten werden. Forscher haben beispielsweise gezeigt, dass herkömmliche Videokameras winzige physiologische Veränderungen erfassen können, um ohne jeglichen körperlichen Kontakt Gesundheitskennwerte wie Herzschlag, Blutdruck, Sauerstoffsättigung des Blutes, Atemfrequenz, Herzfrequenzvariabilität und Alter zu messen [1] [2] [3]. Im Bereich der geistigen und kognitiven Gesundheit können aus kurzen Audioaufnahmen extrahierte „Stimmbiomarker“ durch die Analyse subtiler akustischer Merkmale wie Sprechgeschwindigkeit, Tonhöhe, Nulldurchgangsraten und Wortwahl auf Demenz, Depressionen, Schlaflosigkeit und Angstzustände hinweisen [4] [5] [6] [7]. WLAN- und HF-Radarsignale können unsere genauen Körperpositionen, Schlafphasen, Atemfrequenzen und Herzschläge erkennen, indem sie messen, wie Funkfrequenzen vom menschlichen Körper reflektiert werden – selbst durch Wände hindurch [8] [9] [10]. Der menschliche Gang liefert einen weiteren sensiblen Datenstrom: Gehmuster können zur Identifizierung von Personen verwendet werden, die Gehgeschwindigkeit steht bei älteren Erwachsenen in Zusammenhang mit der Überlebensrate, und Gangmerkmale können auf neurologische Störungen, kognitive Belastung, Müdigkeit und Schlafmangel hinweisen [11] [12] [13] [14] [15] [16]. Darüber hinaus können Modalitäten wie physiologisches Eye-Tracking – die Auswertung von Pupillenerweiterung, Fixationsdauer und Blickmustern – unsere kognitive Belastung bewerten, aufgabenspezifische Problemlösungsstrategien und Aspekte der Aufgabenbewältigung offenbaren sowie unsere Vorlieben und Abneigungen anzeigen [17] [18] [19].
Abläufe in der physischen Welt und Sensordaten
Informationen, die von Robotern, Fahrzeugen, Kameras, Mikrofonen und anderen physischen Sensoren erfasst werden. Dazu gehören Video, Audio, räumliche Karten, genaue Standorte, Grundrisse von Wohnungen oder Anlagen, Sicherheitsvorfälle, Maschinentelemetrie, Haushalts- und Bewegungsmuster sowie betriebliche Abläufe, die offenbaren, wie ein Unternehmen oder Haushalt tatsächlich funktioniert. Eine Offenlegung kann Risiken für Datenschutz, Sicherheit und physische Sicherheit schaffen, nicht nur herkömmliche Risiken für die Datensicherheit.

Diese Kategorien überschneiden sich, und Informationen, die für sich genommen harmlos erscheinen, können sensibel werden, wenn sie mit anderen Daten verknüpft, im Laufe der Zeit angesammelt oder zur Ableitung neuer Rückschlüsse verwendet werden.

Wie preisgegebene Informationen gegen Sie verwendet werden können

Wie vertrauliche Aufzeichnungen und Zugangsdaten gegen Sie verwendet werden können

Passwörter, Authentifizierungstoken und Kontodaten können unmittelbaren Zugriff auf Konten, Vermögenswerte und private Kommunikation ermöglichen. Andere Aufzeichnungen ermöglichen möglicherweise keinen unmittelbaren Zugriff, können aber Rechtsstreitigkeiten, finanziellen Druck, Kundenbeziehungen, Gesundheitsinformationen oder private Gespräche offenlegen.

Für eine Einzelperson kann dies Identitätsdiebstahl, Betrug, Erpressung oder die Offenlegung des Privatlebens bedeuten. Für ein Unternehmen kann es Schäden für Kunden, regulatorische Haftung, Betriebsstörungen und Vertrauensverlust bedeuten. Eine preisgegebene Aufzeichnung kann auch Ausgangspunkt für einen größeren Angriff werden; ein einziges Dokument kann Kontonamen, interne Systeme, Beziehungen oder Sicherheitspraktiken offenbaren, die nachfolgende Angriffe wirksamer machen.

Aus Unternehmenssicht: Ihre Daten und Ihr angesammelter Kontext sind Ihr Burggraben

Ihre Daten sind Ihr Burggraben. Wenn Sie die Kontrolle darüber verlieren, kann dies Ihr Unternehmen offenlegen, Wettbewerber stärken und Ihre Differenzierung untergraben. Wenn führende Frontier-KI-Unternehmen mit Ihren Geschäftsdaten trainieren, können die dabei gewonnenen Erkenntnisse die Ergebnisse verbessern, die sie allen bereitstellen – einschließlich Ihrer Wettbewerber. Wissen, das in Ihrem Unternehmen angesammelt wurde, kann so zu einer Fähigkeit werden, die im gesamten Markt verfügbar ist. KI-Anbieter können auch in die Märkte ihrer Kunden expandieren. Claude Design könnte mit Figma konkurrieren, während Personal Finance in Claude mit Finanzberatungs- und Privatfinanzdiensten konkurrieren könnte. Am Ende könnten Sie einen künftigen Wettbewerber bezahlen und ihm gleichzeitig den Kontext liefern, der ihm hilft, Ihren Ersatz zu entwickeln.

KI macht es günstiger, ein Unternehmen zu gründen und zu führen sowie Produkte zu entwickeln. Je einfacher Produktentwicklung und Betrieb werden, desto stärker werden sich die Märkte mit ähnlichen Angeboten füllen, die um knappe Aufmerksamkeit konkurrieren. In diesem Umfeld gehören Ihre Daten und Ihr betriebliches Know-how zu den wenigen Burggräben, die bestehen bleiben können.

Das Risiko beschränkt sich nicht auf die absichtliche Wiederverwendung durch einen KI-Anbieter. Sobald Informationen Ihre Kontrolle verlassen, können sie durch eine Sicherheitsverletzung offengelegt, länger als erwartet gespeichert, sorglos mit Mitarbeitenden, Auftragnehmern oder Dritten geteilt oder durch rechtliche Verfahren wie Vorladungen, Gerichtsbeschlüsse, Beweisaufnahmeverfahren oder Hintertüren von Regierungen offengelegt werden. Sie können auch mit anderen Datensätzen kombiniert werden und so mehr offenbaren, als Sie preiszugeben beabsichtigten.

Aus individueller Sicht: Beziehungen, Routinen und Manipulation

Für Einzelpersonen beschränkt sich der Schaden nicht auf Identitätsdiebstahl oder die Offenlegung eines privaten Dokuments. Angesammelter Kontext kann familiäre und soziale Beziehungen, persönliche Verpflichtungen, Hobbys, Routinen, Absichten, Einschränkungen, Zukunftspläne und unsere persönlichsten psychischen Zustände offenbaren. Er kann zeigen, wer mit wem verbunden ist, wer wem vertraut, wer von wem abhängt und unter welchem Druck eine Person steht. Dies geschieht bereits, doch KI hat die wirtschaftlichen Rahmenbedingungen verändert, auf die wir später eingehen.

Marketingunternehmen können diese Informationen nutzen, um hochgradig individualisierte und manipulative Werbung zu erstellen. Betrüger können denselben Kontext nutzen, um betrügerische Anfragen und Identitätstäuschungen überzeugender zu machen. Ein Betrüger, der die familiären Beziehungen, gegenwärtigen und künftigen Pläne sowie Kommunikationsmuster einer Person kennt, könnte diese Informationen nutzen, um eine Deepfake-Imitation eines Familienmitglieds glaubwürdig erscheinen zu lassen.

Dieser Kontext kann auch die Verhandlungsposition einer Person schwächen. Ein Arbeitgeber, Käufer, Kunde oder eine andere Vertragspartei könnte erfahren, wie dringend jemand eine Stelle oder einen Verkauf benötigt, welche Alternativen die Person hat oder welche Einschränkungen ihre Entscheidungen prägen. Private Routinen und Informationen über Beziehungen können außerdem Risiken für Autonomie und Sicherheit schaffen, einschließlich Manipulation, Stalking, Nötigung und unerwünschtem Kontakt.

Keine einzelne Tatsache muss hochgradig sensibel erscheinen, damit das angesammelte Gesamtbild gefährlich wird.

Wie sensible menschliche Daten gegen Sie verwendet werden können

Stellen Sie sich vor, was mit dem Aktienkurs eines Unternehmens geschehen würde, wenn sein CEO während einer Telefonkonferenz zu den Geschäftsergebnissen Anzeichen psychischer Belastung, psychiatrischer Erkrankungen und/oder Krankheit zeigen würde, die eine KI durch die Überwachung von Stimme und Körper des CEO erkennen könnte. Das Ergebnis könnte selbst dann katastrophal sein, wenn die KI ein falsch positives Ergebnis lieferte.

Ein weiteres Beispiel: Unternehmen könnten ermitteln, welche Bilder und Themen Sie ansprechen, welche Menschen Sie sexuell attraktiv finden – bis hin zu einzelnen Merkmalen –, was Sie nicht sehen möchten und welche Kommunikationsstile Sie am überzeugendsten finden. Anschließend könnten sie Sie auf Grundlage dieser Informationen manipulieren, beispielsweise indem sie mithilfe generativer KI-Videos Millionen maßgeschneiderter Anzeigen für Millionen von Einzelpersonen erstellen – ein individuelles Video für jede Person – und jede Anzeige genau zu dem Zeitpunkt ausspielen, zu dem die jeweilige Person am ehesten zu einem Kauf neigt.

Ein Personaler, der Ihren Videoanruf auswertet, könnte möglicherweise in Echtzeit einschätzen, wie verzweifelt Sie eine Stelle benötigen, und diesen Rückschluss nutzen, um ein niedriges Angebot zu rechtfertigen. Eine Krankenversicherung könnte Ihre Beiträge auf Grundlage eines Telefongesprächs ändern, ohne Ihnen jemals mitzuteilen, warum sich ihre Risikobewertung geändert hat.

Der Rückschluss muss nicht schlüssig sein, damit jemand danach handelt. Die betroffene Person muss auch nicht wissen, dass der Rückschluss gezogen wurde. In den meisten Fällen würde sie es nie erfahren. Der bessere Ansatz besteht darin, von vornherein zu verhindern, dass aus Videos, Audio und anderen Datenströmen biologische und psychologische Rückschlüsse erzeugt oder geteilt werden.

Offenlegung in der physischen Welt: Sicherheit, Schutz und betriebliche Abläufe

Daten aus der physischen Welt offenbaren mehr als die Objekte, die in einem Kamerabild erscheinen. Anlagenkarten können Eingänge, Sperrbereiche und die Abdeckung durch Sicherheitssysteme offenlegen. Roboter- und Maschinentelemetrie kann Produktionsraten, Kapazitäten, Wartungsprobleme, Betriebszeitpläne und Details proprietärer Verfahren offenbaren. Sicherheitsvorfälle können zeigen, wo Systeme versagen und wo physische Schwachstellen bestehen.

In einem Haushalt können räumliche Karten, Kameras, Mikrofone und Bewegungsmuster den Grundriss einer Wohnung, die Anwesenheit von Personen, vorhandene persönliche und sensible Gegenstände, die genutzten Räume und die Bewegungsabläufe im Alltag offenbaren. Informationen, die zur Ausführung einer nützlichen physischen Aufgabe erfasst wurden, können somit zu Informationen über Belegung, Verwundbarkeit und Verhaltensanalyse werden.

Wenn Agenten die Kontrolle über Roboter, Fahrzeuge und andere physische Systeme erlangen, werden preisgegebene Informationen nicht nur die physische Welt beschreiben. Sie können auch offenbaren, wie die in ihr agierenden Systeme beeinflusst werden können.

Warum KI die Wirtschaftlichkeit der Informationsausbeutung verändert

KI ermöglicht die Analyse von mehr Informationen und die Ableitung von mehr Informationen, als dies je zuvor möglich war. Darüber hinaus kann KI selbstständig auf Grundlage von Informationen handeln. Sie kann beispielsweise automatisch Nachrichten versenden, Werbung ausrichten, Inhalte generieren, Anfragen genehmigen oder ablehnen, Gebühren festlegen, Transaktionen einleiten und Roboter steuern, ohne darauf zu warten, dass ein Mensch jede Entscheidung prüft.

In der Vergangenheit bedeuteten begrenzte menschliche Zeit und Kosten, dass die meisten verfügbaren Informationen nicht vollumfänglich genutzt werden konnten. Nur wenn die potenzielle Rendite die Kosten rechtfertigte, sahen wir hochwirksame Analysen und Maßnahmen, etwa wenn staatliche Nachrichtendienste einander ausspionierten oder Unternehmen mit hohem Marktwert Wirtschaftsspionage betrieben.

Die Kosten für Massenanalysen und die hochgradig individualisierte Nutzung von Informationen mithilfe von KI sinken rapide. Die Kosten menschlicher Arbeitszeit sind nicht mehr der Engpass. Der Engpass wird Rechenleistung sein, und Rechenleistung wird im Laufe der Zeit weiter günstiger und leistungsfähiger werden.

Dies verändert die Wirtschaftlichkeit der Ausbeutung. Informationen, deren Analyse, Kombination oder Nutzung zuvor zu teuer war, können nun kontinuierlich und in großem Maßstab verarbeitet werden. Ein Akteur muss nicht mehr rechtfertigen, warum sich die Kosten lohnen, eine Person damit zu beauftragen, Sie oder Ihr Unternehmen zu untersuchen.

Ausbeuter müssen nicht immer richtigliegen

Ein Rückschluss muss nicht in 100 % der Fälle richtig sein, um nützlich zu sein. Er muss lediglich einen statistischen Vorteil bieten.

Ein Werbetreibender, der seine Einschätzung, wann jemand für ein Angebot empfänglich ist, auch nur geringfügig verbessern kann, kann über Millionen von Impressionen hinweg profitieren. Ein Betrüger kann selbst dann profitieren, wenn die meisten Versuche scheitern. Ein Arbeitgeber, Versicherer oder Wettbewerber kann von einer probabilistischen Bewertung profitieren, die in vielen Einzelfällen falsch, im Durchschnitt aber nützlich ist.

Falsch positive Ergebnisse beseitigen das Risiko nicht. Ein falscher Rückschluss auf Krankheit, Belastung, Verwundbarkeit, Unehrlichkeit oder Absicht kann dennoch eine Entscheidung, eine Verhandlung oder den Ruf einer Person beeinflussen. Die bewertete Person erfährt möglicherweise nie, welche abgeleiteten Informationen verwendet wurden, und hat möglicherweise keine sinnvolle Möglichkeit, diese anzufechten.

Wo Agenten Informationen preisgeben

Informationen können zu Dritten gelangen, wenn Agenten Kontext an externe Frontier-KI-Anbieter senden, wenn lokal ausgeführte Agenten mit der Außenwelt kommunizieren, wenn Agenten in einem geschäftlichen oder kundenbezogenen Kontext Informationen mit anderen Agenten austauschen und selbst dann, wenn ein Agent direkt mit einem externen Menschen kommuniziert.

Dieselben Informationskategorien können in Prompts, Dokumenten, Gesprächsverläufen, Tool-Aufrufen, Workflow-Protokollen und Nachrichten zwischen Agenten auftauchen. Eine Agentennachricht kann genauso leicht Zugangsdaten, strategisches Wissen, Rückschlüsse über Menschen oder eine physische Karte enthalten wie eine herkömmliche Datei.

Für eine externe Offenlegung muss ein Agent außerdem nicht ein gesamtes Dokument senden. Ein Agent kann sensible Informationen durch eine kurze Abfrage, eine Bitte um Unterstützung, eine Zusammenfassung, einen Tool-Parameter oder eine Antwort an eine andere Partei offenbaren.

Lokale Inferenz beseitigt die Preisgabe von Informationen nicht

Lokale Inferenz beseitigt dieses Problem nicht. Sie ändert lediglich den Ort, an dem das Modell ausgeführt wird, nicht jedoch, ob Informationen weiterhin nach außen gelangen müssen.

Lokale Inferenz wird mit sinkenden Kosten zunehmend eingesetzt werden. Frontier-Modelle werden jedoch weiterhin von KI-Unternehmen in der Cloud bereitgestellt werden, da das Training und der Betrieb der leistungsfähigsten Modelle teure Rechenleistung erfordern, die die Budgets der meisten Menschen übersteigt. Die Cloud-Bereitstellung ermöglicht es Anbietern außerdem, den Zugriff auf neue Modelle zu kontrollieren und zu beobachten, wie diese Modelle in der realen Anwendung abschneiden.

Selbst wenn das primäre Modell lokal ausgeführt wird, müssen Agenten möglicherweise weiterhin mit externen Tools, Diensten, Kunden, Robotern und anderen Agenten kommunizieren. Lokale Inferenz ist daher eine wichtige Kontrolle, aber keine vollständige Lösung.

Agenten benötigen interne Zugriffsgrenzen

Agenten benötigen außerdem interne Grenzen. Mitarbeitende erhalten keinen uneingeschränkten Zugriff auf jedes Unternehmenssystem und jedes Dokument; ebenso sollten Agenten nur die Informationen erhalten und teilen, die für ihre Rolle und Aufgabe erforderlich sind.

Ein Agent, der den Kundensupport unterstützt, sollte nicht automatisch Zugriff auf Quellcode, Rechtsunterlagen oder die Kommunikation der Unternehmensleitung erhalten. Ein Agent, der einen Roboter koordiniert, benötigt nicht unbedingt Zugriff auf Mitarbeiterakten. Dass ein Agent Informationen benötigt, bedeutet nicht, dass jeder nachgelagerte Agent dieselben Informationen benötigt.

Diese Grenzen müssen auch die Kommunikation zwischen Agenten regeln. Informationen sollten sich nicht allein deshalb weiterverbreiten, weil ein anderer Agent sie anfordert. Der Zugriff sollte auf die Aufgabe begrenzt, auf die erforderlichen Informationen beschränkt und durch ausdrückliche Regeln darüber eingeschränkt werden, was gespeichert oder geteilt werden darf.

Informationsgovernance für eine von Agenten geprägte Welt

Letztlich handelt es sich um ein Problem der Data Governance. Statische Richtlinien, die für Dokumente und Datenbanken verfasst wurden, reichen nicht aus, wenn Informationen kontinuierlich durch Prompts, Tools, Agenten und physische Systeme fließen. Die Governance muss auch Agenten berücksichtigen, die – sofern sie über ausreichende Berechtigungen verfügen – Konfigurationen, Tools oder andere Teile der Betriebsumgebung verändern können, die sie eigentlich einschränken sollen.

Organisationen und Einzelpersonen benötigen Möglichkeiten, um festzulegen, auf welche Informationen ein Agent zugreifen darf, welche Informationen vor dem Verlassen einer Vertrauensgrenze geschwärzt werden müssen, welche Agenten sie erhalten dürfen und welche Aufzeichnungen über diese Offenlegungen vorliegen. Sie benötigen außerdem Kontrollen für Informationen, die durch Aggregation oder Inferenz sensibel werden und nicht durch ihre ursprüngliche Klassifizierung.

Es gibt außerdem ein Unabhängigkeitsproblem. KI-Anbieter verfolgen legitime eigene Ziele: die Verbesserung ihrer Modelle, die Durchsetzung von Sicherheits- und Missbrauchsrichtlinien, die Verwaltung von Kapazität und Kosten, die Erfüllung rechtlicher Verpflichtungen, die Erzielung von Gewinnen und die Expansion in neue Produkte. Diese Ziele sind nicht deckungsgleich mit dem Schutz des Wettbewerbsvorteils oder der Betriebskontinuität jedes Kunden. Anbieter können ihre Durchsetzungspraktiken auch kurzfristig ändern – und tun dies.

Unternehmensvereinbarungen, Zusagen zum Verzicht auf Training und Compliance-Kontrollen können Risiken verringern, beseitigen diese Abhängigkeit jedoch nicht. Organisationen werden außerdem mehrere Modelle, Anbieter und lokale Inferenz nutzen. Sie benötigen eine unabhängige Datenschutz- und Governance-Schicht, die unter ihrer Kontrolle bleibt und in diesem gesamten Mix einheitliche Richtlinien anwendet. So können sie die beste verfügbare Intelligenz nutzen, ohne mehr sensiblen Kontext als nötig offenzulegen oder sich darauf verlassen zu müssen, dass jeder Anbieter dieselben Regeln durchsetzt. Eine Vereinbarung mit einem KI-Anbieter verhindert nicht, dass Ihre Daten durch Sicherheitsverletzungen, die Weitergabe an Auftragnehmer und Mitarbeitende, Gerichtsbeschlüsse oder Hintertüren von Regierungen preisgegeben werden.

Datenschutz und die Beschränkung von Informationen werden zu einer kritischen Infrastruktur, die von allen Unternehmen und Einzelpersonen genutzt wird. Ziel ist es nicht, Agenten daran zu hindern, Informationen zu verwenden. Ziel ist vielmehr sicherzustellen, dass immer leistungsfähigere Agenten nur die Informationen verwenden können, die sie tatsächlich benötigen, ohne dass jede Interaktion zu einem unkontrollierten Wissenstransfer in die Außenwelt wird.

Agent Redactor: Der erste Schritt zu überprüfbarer Kontrolle

Um diese multimodale Datenschutzinfrastruktur aufzubauen, müssen wir dort beginnen, wo Agenten heute am stärksten Informationen verlieren. Das sind Texte, Prompts und Tool-Aufrufe, die an KI-Anbieter gesendet werden.

Agent Redactor ist ein lokaler Open-Source-Proxy, der direkt zwischen KI-Agenten und ihren LLM-Endpunkten sitzt. Mithilfe eines KI-Modells auf dem Gerät, deterministischer Regeln und Schlüsselwortabgleich fängt er ausgehende Anfragen ab und schwärzt sensible Kontextinformationen, bevor diese Ihren Rechner überhaupt verlassen. Anschließend stellt er die ursprünglichen Werte in den Antworten nahtlos wieder her, sodass Ihre Workflows ununterbrochen weiterlaufen. Er wurde bislang für die Verwendung mit Claude Code, Codex, Hermes, OpenClaw und OpenCode getestet. Er sollte auch mit anderen agentenbasierten Frameworks funktionieren, wurde damit jedoch noch nicht getestet.

Heute adressiert Agent Redactor den unmittelbarsten und praktischsten Preisgabeweg: schriftlichen Kontext, der von Agenten an externe Modellanbieter gesendet wird. Unsere Vision reicht jedoch weit über Texte hinaus, die an einen KI-Anbieter gesendet werden.

Agent Redactor ist der grundlegende Schritt in einer viel größeren Vision. Unser letztendliches Ziel ist es, genau die multimodale Kontrollschicht zu entwickeln, die in dieser These beschrieben wird: eine Schicht, die Modalitäten wie Stimme, Video, Telemetrie aus der physischen Welt und biometrische Rückschlüsse steuern kann, bevor sie gegenüber Agenten Dritter, KI-Anbietern oder einer nicht vertrauenswürdigen Umgebung offengelegt werden. Wir entwickeln die Architektur für eine Zukunft, in der Sie die Leistungsfähigkeit von Agenten voll ausschöpfen können, ohne die Daten aufzugeben, die Ihr Unternehmen verteidigungsfähig machen und Ihr Privatleben zu Ihrem eigenen machen.

Wir glauben, dass Agent Redactor disruptive Wirkung entfalten wird, indem er die Kontrolle über Informationen von den Zusagen der KI-Anbieter auf eine lokale, überprüfbare Schicht verlagert, die vom Nutzer kontrolliert wird.

Dies ist ein gewaltiges Vorhaben und erfordert einen offenen, kollaborativen Ansatz. Die von uns beschriebene Zukunft rückt schnell näher.

Das Zeitfenster zur Sicherung unserer Daten ist genau jetzt, bevor das Ökosystem der Agenten geschlossen wird und von einigen wenigen großen Akteuren kontrolliert wird. Wir laden Sie ein, Agent Redactor auszuprobieren. Testen Sie ihn in Ihren Workflows, teilen Sie uns Ihr Feedback mit oder tragen Sie direkt zur Codebasis bei. Wir müssen die Nachfrage nach überprüfbarem Datenschutz demonstrieren und diese Kontrollen jetzt in das System einbetten, bevor Agentenarchitekturen dauerhaft geschlossen werden. Arbeiten Sie mit uns am Aufbau der Datenschutzinfrastruktur für das Zeitalter der Agenten.