新方法以密码学方式将 AI 代理的学习与其权限分离

研究人员推出了一种名为“受控个体化”（Governed Individuation）的新颖方法，以确保自主代理在学习和适应过程中始终保持在其授权的操作范围内。该方法在启动时以密码学方式冻结代理的身份，并通过一个评估其语义效应而非仅仅是名称的网关来路由所有操作。在工具使用基准测试上的实证测试表明，该方法将禁止操作减少到零，同时保持任务成功率，与基于名称的阻止（失败率达 75%）相比有了显著改进。 AI

影响 建立了一种可验证的方法来确保 AI 代理的安全，将信任从概率性对齐转移到密码学保证。

排序理由 详细介绍 AI 安全新技术方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• arXiv
• CatalyzeX Code Finder for Papers
• CORE Recommender
• DagsHub
• Gotit.pub
• Governed Individuation
• Hugging Face
• Influence Flower
• ScienceCast

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →