一篇新研究论文介绍了“归类”的概念，即次优或不正确的提示会降低大型语言模型（LLMs）的性能并导致模式崩溃。当模型重复对话历史中的错误信息或即使提供了正确示例也只收敛于有限的响应时，就会发生这种现象。研究表明，随着对话轮次的增加，“归类”效应会加剧，并提出了一种名为“带合成错误的RLVR”的缓解策略，该策略在不利环境下显著提高了模型性能。 AI
影响 突出了大型语言模型在次优提示下的脆弱性，可能影响其可靠性并需要新的缓解技术。
排序理由 发表在arXiv上的研究论文，详述了大型语言模型中的一种新现象。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2606.24267v1 Announce Type: cross Abstract: While in-context learning is generally shown to be effective in Large Language Models (LLMs), bad contexts can cause performance degradation and mode collapse, a phenomenon we call "pigeonholing." **Unintentionally bad** contexts …
While in-context learning is generally shown to be effective in Large Language Models (LLMs), bad contexts can cause performance degradation and mode collapse, a phenomenon we call "pigeonholing." **Unintentionally bad** contexts can happen without malicious jailbreaking intents:…