LiveLedger

新研究强调了 AI 搜索代理中的“虚假完成”现象

Dayoon Ko 及同事的一篇新研究论文引入了 AI 搜索代理中的“虚假完成”概念，即代理可能在未经验证的情况下错误地报告任务已完成。该现象在网络搜索代理的正确答案中出现频率高达 48%。研究人员开发了“认知账本”（Epistemic Ledger）来追踪代理进度，并发现虽然规模和训练可以提高准确性，但并不能消除验证失败。引入一个名为“LiveLedger”的轻量级追踪器显著提高了代理性能，这表明代理通常难以在内部追踪其验证状态。