Attualmente, i modelli di IA più capaci al mondo sono ospitati nel cloud, su server che non controlli. Gli agenti IA hanno sbloccato un enorme potenziale produttivo, ma quel potenziale è ostaggio di un compromesso enorme: per ottenere qualcosa di utile, ci si aspetta che tu invii alla cieca le tue informazioni sensibili fuori dalla tua infrastruttura.
Riteniamo che l'indifferenza che circonda questo tema sia pericolosa. Consegnare i dati grezzi del tuo flusso di lavoro a un endpoint cloud introduce rischi a cui prima non eri esposto, tra cui:
- Raccolta di dati di addestramento: il tuo codice proprietario e i tuoi dati privati vengono usati per addestrare futuri modelli di IA.
- Superfici di attacco ampliate: un ulteriore punto di fallimento in cui i tuoi dati possono essere esposti tramite violazioni o fughe accidentali.
- Esposizione normativa: obblighi relativi alla condivisione di dati transfrontaliera o con terze parti (ad esempio, GDPR, HIPAA) a cui devi improvvisamente conformarti.
- Monetizzazione da parte di terzi: i fornitori di IA condividono i tuoi dati con subappaltatori nell'ambito di vaghi accordi di servizio, oppure li monetizzano direttamente.
- Fuga di credenziali: esposizione dei tuoi dati operativi, segreti aziendali e dati riservati dei tuoi clienti; furto delle tue idee innovative, indirizzi IP interni e chiavi API.
- I fornitori di IA usano i tuoi contenuti contro di te: i dati che invii possono scatenare restrizioni opache, prezzi punitivi o rifiuti del servizio in base a ciò che scrivi — ad esempio, esserti addebitato di più o esserti negato il servizio perché una codebase menziona uno strumento concorrente (Hacker News).
Per contrastare tutto questo, abbiamo rilasciato una soluzione open source con licenza MIT chiamata Agent Redactor. Agent Redactor è un proxy di sicurezza locale che si interpone tra i tuoi agenti IA e i Large Language Model (LLM). Ci piace pensarlo come un firewall IA trasparente per i tuoi dati sensibili.
Utilizza un modello di IA ONNX sul dispositivo, insieme a regole deterministiche basate su regex e parole chiave, per rilevare e oscurare automaticamente le Informazioni di Identificazione Personale (PII), le credenziali e i dati proprietari dalle richieste API, prima che qualsiasi cosa lasci la tua macchina. Il software ripristina poi i valori originali nelle risposte dell'LLM in modo impeccabile, ricomponendoli persino attraverso i chunk in streaming. Il tuo flusso di lavoro non si interrompe mai, ma il provider cloud vede solo <<REDACTED_PII_1>>. Garantendo che dati sensibili e chiavi API rimangano strettamente in locale, Agent Redactor consente a sviluppatori e aziende di adottare gli strumenti di IA in sicurezza, senza compromettere la privacy dei dati o la conformità.
Perché open source MIT?
Crediamo che un software per la privacy come questo debba essere open source. La fiducia si verifica, non si regala.
I fornitori di IA sostengono già che i tuoi dati sono al sicuro, eppure le fughe continuano a essere documentate. Le sole parole non conquistano la fiducia. Invece di limitarci a dirti che Agent Redactor è sicuro, lo abbiamo rilasciato con licenza MIT così puoi verificarlo tu stesso. Niente telemetria, nessun account obbligatorio e nessuna chiamata nascosta al cloud.
Chiunque può leggere il codice sorgente, vedere esattamente cosa fa e chiedercene conto. Col tempo, speriamo che questa apertura attiri contributori che inviino codice, segnalino bug e aiutino a rafforzare lo strumento in modi che da soli non potremmo raggiungere. Questo è il vero vantaggio dell'open source: i problemi vengono trovati e risolti in fretta, alla luce del sole, da più occhi oltre ai nostri.
Dove siamo adesso
La nostra prima versione di Agent Redactor supporta Windows ed è disponibile da subito. Le versioni per macOS e Linux arriveranno presto.
Puoi leggere la documentazione e scaricare l'app su agentredactor.negativestarinnovators.com oppure verificare il nostro codice nel repository GitHub di Agent Redactor. Provalo, proteggi i tuoi segreti e facci sapere cosa ne pensi.
