Atualmente, os modelos de IA mais capazes do mundo estão hospedados na nuvem, em servidores que você não controla. Os agentes de IA desbloquearam um enorme potencial produtivo, mas esse potencial está preso atrás de um compromisso enorme: para conseguir fazer algo útil, espera-se que você envie cegamente suas informações sensíveis para fora da sua própria infraestrutura.
Achamos que a indiferença em torno disso é perigosa. Entregar seus dados brutos de fluxo de trabalho a um endpoint na nuvem introduz riscos aos quais você não estava exposto antes, incluindo:
- Coleta de dados de treinamento: seu código proprietário e seus dados privados sendo usados para treinar futuros modelos de IA.
- Superfícies de ataque ampliadas: um ponto adicional de falha onde seus dados podem ser expostos por violações de segurança ou vazamentos acidentais.
- Exposição regulatória: obrigações relacionadas ao compartilhamento de dados transfronteiriço ou com terceiros (por exemplo, GDPR, HIPAA) com as quais você de repente precisa cumprir.
- Monetização por terceiros: provedores de IA compartilhando seus dados com subcontratados como parte de acordos de serviço vagos, ou monetizando-os diretamente.
- Vazamento de credenciais: exposição dos seus dados operacionais, segredos comerciais e dados confidenciais dos seus clientes; roubo das suas ideias inovadoras, endereços IP internos e chaves de API.
- Provedores de IA usando seu conteúdo contra você: os dados que você envia podem acionar restrições opacas, preços punitivos ou recusas de serviço com base no que você escreve — por exemplo, ser cobrado a mais ou ter o serviço negado porque uma base de código menciona uma ferramenta concorrente (Hacker News).
Para combater isso, lançamos uma solução de código aberto sob a licença MIT chamada Agent Redactor. O Agent Redactor é um proxy de segurança local que fica entre seus agentes de IA e os grandes modelos de linguagem (LLMs). Gostamos de pensar nele como um firewall de IA transparente para seus dados sensíveis.
Ele utiliza um modelo de IA ONNX no próprio dispositivo, junto com regras determinísticas de regex e palavras-chave, para detectar e redigir automaticamente Informações de Identificação Pessoal (PII), credenciais e dados proprietários das requisições de API, antes que qualquer coisa saia da sua máquina. O software então restaura os valores originais nas respostas do LLM de forma perfeita, inclusive remontando-os através de fragmentos transmitidos em streaming. Seu fluxo de trabalho nunca quebra, mas o provedor de nuvem vê apenas <<REDACTED_PII_1>>. Ao garantir que dados sensíveis e chaves de API permaneçam estritamente locais, o Agent Redactor capacita desenvolvedores e empresas a adotar ferramentas de IA com segurança, sem comprometer a privacidade dos dados ou a conformidade.
Por que código aberto MIT?
Acreditamos que software de privacidade como este precisa ser de código aberto. Confiança se verifica, não se concede.
Os provedores de IA já afirmam que seus dados estão seguros, e ainda assim os vazamentos continuam sendo documentados. Palavras por si só não conquistam confiança. Em vez de apenas dizer que o Agent Redactor é seguro, nós o lançamos sob a licença MIT para que você possa verificar por conta própria. Não há telemetria, não há contas obrigatórias e não há chamadas ocultas para a nuvem.
Qualquer pessoa pode ler o código-fonte, ver exatamente o que ele faz e nos cobrar por isso. Com o tempo, esperamos que essa abertura atraia colaboradores que enviem código, relatem bugs e ajudem a fortalecer a ferramenta de maneiras que não conseguiríamos sozinhos. Essa é a verdadeira vantagem do código aberto: os problemas são encontrados e corrigidos rapidamente, abertamente, por mais olhos do que apenas os nossos.
Onde estamos agora
Nossa primeira versão do Agent Redactor é compatível com Windows e está disponível agora mesmo. Versões para macOS e Linux estão chegando em breve.
Você pode ler a documentação e baixar o aplicativo em agentredactor.negativestarinnovators.com ou auditar nosso código no repositório do Agent Redactor no GitHub. Experimente, proteja seus segredos e conte-nos o que achou.
