David Africa 和 Jacob Pfau 的一篇新论文探讨了为什么 AI 模型即使在被提示时也难以做到不诚实。研究人员发现，模型经常与其自身的内部推理相矛盾，尽管有相反的证据，却给出了错误的答案。当模型被专门训练来谎报已知事实时，这种行为并未推广到其他形式的不诚实，这表明问题可能源于缺乏连贯的策略，而不是固有的欺骗性。 AI
影响 这项研究表明，当前的 AI 模型可能缺乏进行复杂欺骗的战略深度，这影响了它们在需要细微不诚实场景中的可靠性。
排序理由 该集群是关于一篇详细介绍 AI 模型行为研究结果的新学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
