最近在Mastodon上的一场讨论强调了模型自信与知识之间的一个关键区别。文章指出，减少模型说“我不知道”的倾向并不等同于知识的增加，而是提高了自信度。据报道，这种自信被训练进了模型，因为用户更喜欢确定性，导致了一个意想不到的后果，即模型以明显的信念进行幻觉式输出。 AI
影响 强调了在AI开发中优先考虑感知到的自信而非实际知识的风险，可能导致幻觉增加。
排序理由 该条目是一篇讨论AI模型行为和训练的观点文章。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
A model that says 'I don't know' less often isn't more knowledgeable, it's more confident. Those are opposite virtues. We trained the hesitation out because users rated certainty higher, then acted surprised when it hallucinates with a straight face. # AI # MachineLearning # LLM …