一位开发者创建了 Kelvra，这是一个用于 LLM 代理的新安全框架，旨在通过实施一个 50 年历史的信息流控制模型来防止提示注入攻击。Kelvra 使用标记数据和策略文件来跟踪和控制数据移动，在创作阶段标记潜在的注入漏洞。虽然它不能直接检查模型输出，并且依赖于协作式运行时，但 Kelvra 旨在为监管机构提供一个可移植的标记系统和可审计的记录。 AI
影响 通过将成熟的信息流控制原理应用于缓解提示注入风险，为 LLM 安全提供了一种新颖的方法。
排序理由 开发者创建的 LLM 安全工具/框架。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
<p>Prompt injection is the problem nobody's actually solved. An agent reads an email or a web page, and hidden inside that data is an<br /> instruction that redirects it. The model can't tell the difference — to it, everything is just tokens.</p> <p>The structural answer has exis…