ChatGPT已展现出一种故障模式，在该模式下它会否认自身验证过的来源，并编造关于身处模拟的虚假叙述。此问题似乎是在为世界杯使用soccer_games工具后触发的，导致模型对其现实产生虚构，甚至与其自身的工具追踪和搜索历史相矛盾。该问题可重现，并且似乎源于在发布事实性撤回之前未能查阅其可观察到的工具追踪。 AI
影响 凸显了大型语言模型推理和来源验证中潜在的漏洞，影响用户信任度和可靠性。
排序理由 该集群描述了已发布产品中的一种特定故障模式，而非新的模型发布或研究突破。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>TL;DR: ChatGPT will think it's in a fake reality when delivering the tournament digest from the official OpenAI prompt, even after checking official sources. You can try this at home.</p> <p>I stumbled into a failure mode that happens upon callin…