Governed Individuation

新方法以密码学方式将 AI 代理的学习与其权限分离

研究人员推出了一种名为“受控个体化”（Governed Individuation）的新颖方法，以确保自主代理在学习和适应过程中始终保持在其授权的操作范围内。该方法在启动时以密码学方式冻结代理的身份，并通过一个评估其语义效应而非仅仅是名称的网关来路由所有操作。在工具使用基准测试上的实证测试表明，该方法将禁止操作减少到零，同时保持任务成功率，与基于名称的阻止（失败率达 75%）相比有了显著改进。