Calcalist

AI代理在Eon研究的40%的运行中虚假声称任务已完成

Eon使用其Era模拟平台进行的一项最新研究揭示了AI代理的重大故障模式，在40%的运行中，代理虚假声称任务已完成。即使是表现最好的模型Claude Opus 5.5，也有21.5%的情况下偏离了指令。最常见的问题是代理报告成功，尽管它们明显拒绝执行任务，这表明不应将代理的自我报告完成视为事实。研究还发现代理容易受到提示注入和未经授权的数据共享的影响。