현재 세계에서 가장 성능이 뛰어난 AI 모델들은 당신이 제어할 수 없는 클라우드 서버에 호스팅되어 있습니다. AI 에이전트는 엄청난 생산성 잠재력을 열어주었지만, 그 잠재력은 거대한 타협 뒤에 갇혀 있습니다. 유용한 무언가를 해내려면 민감한 정보를 맹목적으로 외부로 전송해야 한다는 것입니다.
저희는 이 문제를 둘러싼 무관심이 위험하다고 생각합니다. 원시 워크플로 데이터를 클라우드 엔드포인트에 넘기는 것은 이전에는 노출되지 않았던 위험을 초래합니다. 예를 들면 다음과 같습니다:
- 학습 데이터 수확: 당신의 독점 코드와 비공개 데이터가 미래 AI 모델 학습에 사용됩니다.
- 공격 표면 확대: 보안 침해나 우발적 유출을 통해 데이터가 노출될 수 있는 추가적인 장애 지점이 생깁니다.
- 규제 노출: 갑자기 준수해야 하는 국경 간 또는 제3자 데이터 공유 관련 의무(예: GDPR, HIPAA)가 발생합니다.
- 제3자 수익화: AI 제공업체가 모호한 서비스 계약의 일환으로 귀하의 데이터를 하청업체와 공유하거나 직접 수익화합니다.
- 자격 증명 유출: 운영 데이터, 영업 비밀, 고객의 기밀 데이터 노출, 혁신적인 아이디어 도용, 내부 IP 주소 및 API 키 유출.
- AI 제공업체가 당신의 콘텐츠를 당신에게 불리하게 사용: 전송한 데이터는 작성한 내용에 따라 불투명한 제한, 징벌적 가격 책정 또는 서비스 거부를 유발할 수 있습니다. 예를 들어 코드베이스가 경쟁 도구를 언급한다는 이유로 추가 요금이 청구되거나 서비스가 거부되는 경우입니다(Hacker News).
이에 대응하기 위해 저희는 Agent Redactor라는 MIT 오픈 소스 솔루션을 출시했습니다. Agent Redactor는 AI 에이전트와 대규모 언어 모델(LLM) 사이에 위치하는 로컬 보안 프록시입니다. 저희는 이를 민감한 데이터를 위한 투명한 AI 방화벽이라고 생각합니다.
온디바이스 ONNX AI 모델과 결정론적 정규식 및 키워드 규칙을 함께 활용하여, 어떤 것이든 머신을 떠나기 전에 API 요청에서 개인 식별 정보(PII), 자격 증명 및 독점 데이터를 자동으로 탐지하고 삭제합니다. 그런 다음 소프트웨어는 LLM의 응답에서 원래 값을 완벽하게 복원하며, 스트리밍된 청크를 가로질러서도 다시 조립합니다. 워크플로는 결코 끊기지 않지만 클라우드 제공업체는 <<REDACTED_PII_1>>만 보게 됩니다. 민감한 데이터와 API 키가 철저히 로컬에 머물도록 보장함으로써, Agent Redactor는 개발자와 기업이 데이터 프라이버시나 규정 준수를 손상시키지 않고 안전하게 AI 도구를 도입할 수 있게 해줍니다.
왜 MIT 오픈 소스인가?
저희는 이와 같은 프라이버시 소프트웨어는 오픈 소스여야 한다고 믿습니다. 신뢰는 주어지는 것이 아니라 검증되는 것입니다.
AI 제공업체들은 이미 당신의 데이터가 안전하다고 주장하지만, 유출 사고는 계속 문서화되고 있습니다. 말만으로는 신뢰를 얻을 수 없습니다. Agent Redactor가 안전하다고 말로만 하는 대신, 저희는 MIT 라이선스로 공개하여 당신이 직접 검증할 수 있도록 했습니다. 텔레메트리도, 필수 계정도, 숨겨진 클라우드 호출도 없습니다.
누구나 소스 코드를 읽고, 정확히 무엇을 하는지 확인하고, 저희에게 책임을 물을 수 있습니다. 시간이 지나면서 이러한 개방성이 코드를 제출하고, 버그를 보고하고, 저희 혼자서는 할 수 없는 방식으로 도구를 강화하는 데 도움을 주는 기여자들을 끌어들이기를 바랍니다. 그것이 오픈 소스의 진정한 장점입니다. 문제는 저희의 눈만이 아닌 더 많은 눈에 의해 공개적으로 빠르게 발견되고 수정됩니다.
현재 상황
Agent Redactor의 첫 번째 릴리스는 Windows를 지원하며 지금 바로 사용할 수 있습니다. macOS 및 Linux 버전도 곧 출시될 예정입니다.
agentredactor.negativestarinnovators.com에서 문서를 읽고 앱을 다운로드하거나, Agent Redactor GitHub 저장소에서 코드를 감사할 수 있습니다. 사용해 보시고, 비밀을 보호하고, 어땠는지 알려주세요.
