Jeevan2191999

开源代理 Jnvoy 可保护 LLM 调用免受 PII 和提示注入的侵害

开发者 Jnvoy 创建了一个名为 Jnvoy 的开源代理工具，旨在保护敏感用户数据并防止请求到达 Claude 和 GPT-4o 等大型语言模型之前的提示注入攻击。该代理在本地扫描和审查个人身份信息 (PII)，用可逆标记替换它们，并检测和阻止各种形式的提示注入和工具中毒。Jnvoy 设计易于集成，只需在应用程序代码中更改一个 URL，并提供合规性报告（适用于 GDPR 和欧盟 AI 法案等法规）、语义缓存（以节省成本）和审计日志等功能。