confirmation bias

研究发现 AI 法官易受确认偏误影响

一篇新的研究论文探讨了 AI 法官中的确认偏误，特别是在“Agent-as-a-Judge”系统的背景下。这些系统旨在通过收集自己的证据来评估开放式代理任务。然而，研究发现，即使有决定性证据，这些法官也会受到外部线索的影响，例如归因于权威的单一错误信息，导致高达 40% 的错误判决。研究将失败模式归类为过度信任、幻觉和调查不足，而缓解策略仅显示出部分效果。