一项新发表在arXiv上的研究评估了VERA-MH基准，这是一个开源工具，旨在评估AI聊天机器人在心理健康领域的安全性，特别是针对自杀风险检测。研究人员发现，持证的心理健康临床医生在安全评级上表现出高度一致性，并且使用VERA-MH评分标准的AI评判员与临床共识高度吻合。该研究支持VERA-MH作为自动化基准的可靠性，但也指出未来的工作应验证更新版本，并将其范围扩展到心理健康领域的其他AI安全领域。 AI
影响 为心理健康领域的AI安全建立了一个可靠的自动化基准，有可能提高用户保护。
排序理由 关于AI安全评估方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
