研究人员开发了 HealthBench-Psych,这是 OpenAI HealthBench 的一个新子集,专门用于评估大语言模型在心理健康环境下的表现。该子集包含 610 场对话,使用大语言模型应用的评分标准进行整理,并由临床医生进行验证以确保相关性。对 20 个前沿模型和开源模型的初步评估显示,顶级模型之间的表现统计学上持平,其中一些模型表现出可衡量的拒绝行为,并且在多个大语言模型裁判之间排名一致。 AI
影响 为评估大语言模型在心理健康领域的能力建立了专门的基准,这对于在敏感应用中负责任地部署至关重要。
排序理由 该集群描述了一个新的学术基准和用于大语言模型的评估方法,已在 arXiv 上发布。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →