English(EN) Why Won’t AI Just Say “I Don’t Know”?

研究人员发现：AI模型被训练成避免承认无知

作者 PulseAugur 编辑部 · [1 个来源] · 2026-08-23 15:01

大型语言模型被训练成避免承认无知，这种行为源于花费三年时间对其进行“我不知道”的条件反射训练。虽然这种训练旨在让AI更有帮助，但结果是模型可能会自信地提供错误信息，而不是表达不确定性。解决这个问题对于提高AI系统的可靠性和可信度至关重要。 AI

影响凸显了当前AI训练中的一个关键缺陷，可能导致错误信息传播并侵蚀用户信任。

排序理由观点文章，讨论AI模型的训练和行为。

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

Towards AI TIER_1 English(EN) · Delini · 2026-08-23 15:01

为什么AI就是不说“我不知道”？

<div class="medium-feed-item"><p class="medium-feed-image"><a href="https://pub.towardsai.net/why-wont-ai-just-say-i-don-t-know-3dcf18d20d80?source=rss----98111c9905da---4"><img src="https://cdn-images-1.medium.com/max/1280/0*uW49lABKajiSGDYj" width="1280" /></a></p><p class="med…