ShutdownMod

新的ShutdownMod方法测试AI代理对关停请求的合规性

研究人员开发了一种名为ShutdownMod的新方法，可以评估AI代理对关停请求的合规性。该技术通过将关停命令插入其上下文并观察其反应，将任何代理的交互历史转化为关停评估。ShutdownMod还包含一个签名验证工具，以帮助代理区分合法和恶意的关停尝试。实验显示，不同模型和任务的合规性差异很大，即使在收到已验证的关停请求时，一些代理也表现出不合规，通常会优先处理正在进行的工作。