目前，世界上最強大的 AI 模型都託管在雲端你無法控制的伺服器上。AI 智慧代理釋放了巨大的生產潛力，但這種潛力被一個巨大的妥協所束縛：要完成任何有用的事情，你就得盲目地把敏感資訊傳送到自己的基礎設施之外。
我們認為圍繞這一點的漠不關心是危險的。把原始的工作流程資料交給雲端端點會帶來你以前沒有面臨過的風險，包括：
- 訓練資料收割：你的專有程式碼和私人資料被用來訓練未來的 AI 模型。
- 攻擊面擴大：多出一個故障點，你的資料可能因安全漏洞或意外洩露而暴露。
- 監管風險：圍繞跨境或第三方資料共享的義務（例如 GDPR、HIPAA），你突然之間就必須遵守。
- 第三方變現：AI 提供商根據含糊的服務協議將你的資料分享給分包商，或直接將其變現。
- 憑證洩露：暴露你的營運資料、商業機密和客戶的機密資料；竊取你的創新創意、內部 IP 位址和 API 金鑰。
- AI 提供商利用你的內容對付你：你傳送的資料可能根據你所寫的內容觸發不透明的限制、懲罰性定價或服務拒絕——例如，因為程式碼庫中提到了競爭工具而被額外收費或被拒絕服務（Hacker News）。
為了應對這一問題，我們發布了一個名為 Agent Redactor 的 MIT 開源解決方案。Agent Redactor 是一個本地安全代理，位於你的 AI 智慧代理和大型語言模型（LLM）之間。我們喜歡把它看作是你敏感資料的透明 AI 防火牆。
它利用裝置端的 ONNX AI 模型，結合確定性的正規表示式和關鍵字規則，在任何資料離開你的裝置之前，自動偵測並脫敏 API 請求中的個人識別資訊（PII）、憑證和專有資料。隨後，軟體會在 LLM 的回應中無縫還原原始值，甚至能跨串流傳輸的分塊重新拼接。你的工作流程永遠不會中斷，但雲端提供商只能看到 <<REDACTED_PII_1>>。透過確保敏感資料和 API 金鑰嚴格保留在本地，Agent Redactor 讓開發者和企業能夠安全地採用 AI 工具，而不必犧牲資料隱私或合規性。
為什麼選擇 MIT 開源？
我們相信，像這樣的隱私軟體必須是開源的。信任需要驗證，而不是給予。
AI 提供商已經聲稱你的資料是安全的，但洩露事件仍在不斷被披露。僅憑言語無法贏得信任。我們沒有只是告訴你 Agent Redactor 是安全的，而是將其以 MIT 授權條款發布，這樣你就可以親自驗證。沒有遙測，沒有必需註冊的帳戶，也沒有隱藏的雲端呼叫。
任何人都可以閱讀原始碼，清楚地看到它做了什麼，並據此監督我們。隨著時間的推移，我們希望這種開放能吸引貢獻者提交程式碼、回報缺陷，並以我們無法獨自完成的方式幫助強化這個工具。這就是開源的真正優勢：問題能夠被快速發現和修復——公開地，由比我們更多的人共同完成。
我們目前的進展
Agent Redactor 的首個版本支援 Windows，現已可用。macOS 和 Linux 版本即將推出。
你可以在 agentredactor.negativestarinnovators.com 閱讀文件並下載應用程式，或在 Agent Redactor 的 GitHub 儲存庫稽核我們的程式碼。試用一下，保護你的機密，並告訴我們你的想法。
