一个名为AVI（Aligned/Agreement Validation Interface，对齐/协议验证接口）的新的开源大型语言模型（LLM）外部过滤器已在GitHub上开发并发布。该过滤器充当智能防火墙，能够拦截提示攻击，并验证模型响应的毒性、道德合规性和法律遵从性，而无需更改LLM的权重。该系统包括输入和输出过滤器、RAG模块、集成了监控工具的Docker，以及在FinanceBench上的实验性功能，旨在通过自然语言简化新过滤规则的添加。 AI
影响 提供了一种灵活的外部方法来实现LLM的安全性和法律合规性，有可能减少昂贵的模型重新训练的需要。
排序理由 发布了一个用于LLM安全和合规的开源工具。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
