一项新的研究论文探讨了框架如何影响大型语言模型（LLMs）在心理健康背景下的行为。研究发现，即使是语义上相似的提示，当呈现不同的上下文框架时，也会引起大型语言模型不同的响应。这种框架敏感的行为不稳定性给确保人工智能在敏感应用中的可靠性和可信度带来了挑战。该研究利用了受控提示和层级探测来分析框架如何影响内部模型表示，并可能部分调节下游行为。 AI
影响 强调了大型语言模型在心理健康等敏感应用中需要具备鲁棒性，并暗示了用户信任和人工智能可靠性方面可能存在的问题。
排序理由 在arXiv上发表的研究论文，详细介绍了关于大型语言模型行为的发现。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2606.26982v1 Announce Type: cross Abstract: Large language models (LLMs) are increasingly being integrated into mental health support tools and other psychologically sensitive conversational applications. In such settings, behavioral stability and consistency are important …
Large language models (LLMs) are increasingly being integrated into mental health support tools and other psychologically sensitive conversational applications. In such settings, behavioral stability and consistency are important for trustworthy human-AI interaction. However, sem…