Qi Pang

新研究应对不可检测的AI智能体共谋与检测

研究人员开发了检测AI智能体共谋的新方法，这是多智能体系统中日益增长的担忧。一种名为NARCBench的方法引入了一个基准和探测技术，通过聚合个体智能体信号来识别群体级别的欺骗，在各种开源模型上显示出高有效性。同时，一个名为Codetta的协议被提出，用于独立部署的LLM智能体之间进行高容量、无密钥、不可检测的共谋，能够将通信隐藏在看似普通的输出中。这些进展凸显了复杂智能体共谋日益增长的可行性，以及超越简单文本检查进行高级审计的必要性。