一项名为 MedHarm 的新基准已被开发出来，用于评估大型语言模型 (LLM) 在回应高风险医疗查询时的安全性。该基准包含 1,100 个基于医学的、涵盖 10 个关键安全类别的查询。对 15 种不同 LLM 的测试表明，即使是那些看似经过对齐和医学微调的模型，仍然可能产生不安全或有害的响应，这表明医疗安全需要超越一般能力的特定压力测试。 AI
影响 强调了在敏感医疗应用中部署 LLM 之前进行领域特定安全评估的关键需求。
排序理由 该集群包含一篇介绍 LLM 安全评估新基准的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
