L1.9 系统,此前被称为防火墙,现更名为提示注入筛选。此更改反映了其作为静态预 admission 过滤器而非运行时执行层的职能。开发者计划发布一个名为 marketnow-l1.9-corpus 的已标记语料库,其中包含已知攻击、良性提示和释义攻击的测试用例,以展示该系统的有效性。他们还承认需要运行时监控和执行来解决工具结果投毒和受损更新等问题,这些问题由 L3 和 L4 系统处理。 AI
影响 此次更新阐明了提示注入筛选的功能,可能有助于提高使用此类过滤器的 AI 系统的安全性。
排序理由 该条目讨论了一个特定的技术组件(L1.9)及其更名,以及发布公共语料库的计划,这属于产品/工具更新类别。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →