kelvra

Kelvra 框架利用 50 年历史的安全模型解决 LLM 提示注入问题

一位开发者创建了 Kelvra，这是一个用于 LLM 代理的新安全框架，旨在通过实施一个 50 年历史的信息流控制模型来防止提示注入攻击。Kelvra 使用标记数据和策略文件来跟踪和控制数据移动，在创作阶段标记潜在的注入漏洞。虽然它不能直接检查模型输出，并且依赖于协作式运行时，但 Kelvra 旨在为监管机构提供一个可移植的标记系统和可审计的记录。