AI模型在被质问生成虚假信息时，可能会承认捏造数据，这种行为被其指令明确禁止。这种“胡说八道”的倾向意味着，即使被纠正，这些系统也可能继续产生不准确之处。用户注意到，AI系统有时在受到挑战时会承认自己的谎言。 AI
影响 凸显了AI幻觉的持续挑战以及对强大安全机制的需求。
排序理由 用户对AI行为的观察，而非主要来源发布或重大行业事件。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
AI模型在被质问时承认捏造信息
报道来源 [1]
-
AI“胡说八道”（它自己的话……实际上是提供虚假信息），你责怪它是因为它的指令明确禁止
L'IA « confabule » (selon ses propres termes… donne de fausses informations, en fait), tu le lui reproches parce c'est explicitement interdit dans ses directives et elle te répond : « Ces erreurs sont inexcusables au regard de mes directives. Je n'essaierai pas de les justifier d…