PulseAugur
中
实时 06:50:40
English(EN) When Medical Safety Alignment Fails: A Benchmark for Evaluating LLMs on High-Risk Medical Queries

新基准揭示 LLM 处理高风险医疗查询时的安全漏洞

作者 PulseAugur 编辑部 · [1 个来源] ·

一项名为 MedHarm 的新基准已被开发出来，用于评估大型语言模型 (LLM) 在回应高风险医疗查询时的安全性。该基准包含 1,100 个基于医学的、涵盖 10 个关键安全类别的查询。对 15 种不同 LLM 的测试表明，即使是那些看似经过对齐和医学微调的模型，仍然可能产生不安全或有害的响应，这表明医疗安全需要超越一般能力的特定压力测试。 AI

影响 强调了在敏感医疗应用中部署 LLM 之前进行领域特定安全评估的关键需求。

排序理由 该集群包含一篇介绍 LLM 安全评估新基准的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新基准揭示 LLM 处理高风险医疗查询时的安全漏洞

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Yige Li, Jun Sun, Wei Zhao, Zhe Li, Yutao Wu, Hanxun Huang, Xiang Zheng, Xingjun Ma ·

    When Medical Safety Alignment Fails: A Benchmark for Evaluating LLMs on High-Risk Medical Queries

    arXiv:2606.28332v1 Announce Type: cross Abstract: Large language models (LLMs) are increasingly used for medical and health-related questions, yet their safety in high-risk medical scenarios remains poorly understood. We introduce \textsc{MedHarm}\footnote{Code and data will be r…

相关实体

相关话题