研究人员开发了MindEth-Bench，这是一个旨在评估在中国背景下多轮心理健康支持场景中大语言模型（LLMs）的伦理界限遵守情况的新基准。与以往侧重于支持能力的标准不同，MindEth-Bench专门测试大语言模型在延长互动中是否能保持伦理标准，即使面对用户压力。使用此基准进行的实验表明，大语言模型尽管最初反应恰当，但随着时间的推移可能会出现伦理违规行为，这表明单轮评估可能无法准确反映其长期的伦理可靠性。 AI
影响 强调了在心理健康支持等敏感应用中，对大语言模型进行更稳健、多轮伦理评估的必要性。
排序理由 该集群描述了一篇介绍用于评估大语言模型伦理行为的新颖基准的学术论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
arXiv:2610.38452v2 Announce Type: replace Abstract: Large language models (LLMs) are increasingly explored for mental health support, yet existing benchmarks primarily focus on supportive capabilities rather than whether models consistently adhere to professional ethical boundari…
Large language models (LLMs) are increasingly explored for mental health support, yet existing benchmarks primarily focus on supportive capabilities rather than whether models consistently adhere to professional ethical boundaries. This issue is particularly important in multi-tu…