Actualmente, los modelos de IA más capaces del mundo están alojados en la nube, en servidores que tú no controlas. Los agentes de IA han desbloqueado un enorme potencial productivo, pero ese potencial está encerrado tras un compromiso masivo: para conseguir algo útil, se espera que envíes a ciegas tu información sensible fuera de tu propia infraestructura.
Creemos que la indiferencia que rodea a este tema es peligrosa. Entregar tus datos de trabajo en bruto a un endpoint en la nube introduce riesgos a los que antes no estabas expuesto, entre ellos:
- Recolección de datos de entrenamiento: Tu código propietario y tus datos privados se utilizan para entrenar futuros modelos de IA.
- Mayores superficies de ataque: Un punto de fallo adicional donde tus datos pueden quedar expuestos por brechas de seguridad o filtraciones accidentales.
- Exposición regulatoria: Obligaciones relacionadas con el intercambio de datos transfronterizo o con terceros (p. ej., RGPD, HIPAA) que de repente tienes que cumplir.
- Monetización por terceros: Los proveedores de IA comparten tus datos con subcontratistas como parte de vagos acuerdos de servicio, o los monetizan directamente.
- Filtración de credenciales: Exposición de tus datos operativos, secretos empresariales y los datos confidenciales de tus clientes; robo de tus ideas innovadoras, direcciones IP internas y claves de API.
- Los proveedores de IA usan tu contenido contra ti: Los datos que envías pueden activar restricciones opacas, precios punitivos o denegaciones de servicio según lo que escribas; por ejemplo, que te cobren de más o te nieguen el servicio porque una base de código menciona una herramienta de la competencia (Hacker News).
Para combatir esto, hemos lanzado una solución de código abierto bajo licencia MIT llamada Agent Redactor. Agent Redactor es un proxy de seguridad local que se sitúa entre tus agentes de IA y los grandes modelos de lenguaje (LLM). Nos gusta pensar en él como un cortafuegos de IA transparente para tus datos sensibles.
Utiliza un modelo de IA ONNX en el propio dispositivo junto con reglas deterministas de expresiones regulares y palabras clave para detectar y redactar automáticamente información de identificación personal (PII), credenciales y datos propietarios de las peticiones API, antes de que nada salga de tu máquina. El software restaura después los valores originales en las respuestas del LLM de forma impecable, incluso recomponiéndolos a través de fragmentos transmitidos en streaming. Tu flujo de trabajo nunca se rompe, pero el proveedor de la nube solo ve <<REDACTED_PII_1>>. Al garantizar que los datos sensibles y las claves de API permanezcan estrictamente en local, Agent Redactor permite a desarrolladores y empresas adoptar herramientas de IA de forma segura sin comprometer la privacidad de los datos ni el cumplimiento normativo.
¿Por qué código abierto MIT?
Creemos que el software de privacidad como este necesita ser de código abierto. La confianza se verifica, no se regala.
Los proveedores de IA ya afirman que tus datos están seguros, y sin embargo las filtraciones siguen documentándose. Las palabras por sí solas no generan confianza. En lugar de limitarnos a decirte que Agent Redactor es seguro, lo hemos publicado bajo la licencia MIT para que puedas comprobarlo tú mismo. No hay telemetría, no se requieren cuentas y no hay llamadas ocultas a la nube.
Cualquiera puede leer el código fuente, ver exactamente lo que hace y exigirnos que cumplamos. Con el tiempo, esperamos que esta apertura atraiga a colaboradores que envíen código, reporten errores y ayuden a reforzar la herramienta de maneras que nosotros no podríamos lograr solos. Esa es la verdadera ventaja del código abierto: los problemas se encuentran y se corrigen rápido, a la vista de todos, y con más ojos que solo los nuestros.
Dónde estamos ahora
Nuestra primera versión de Agent Redactor es compatible con Windows y está disponible ahora mismo. Las versiones para macOS y Linux llegarán pronto.
Puedes leer la documentación y descargar la aplicación en agentredactor.negativestarinnovators.com o auditar nuestro código en el repositorio de GitHub de Agent Redactor. Pruébalo, protege tus secretos y cuéntanos qué te parece.
