一个名为TAF-MED的新基准已被开发出来，用于评估大型语言模型（LLM）在多轮对话中的安全性，特别是在医疗建议方面。该基准包含500个场景，显示绝大多数对话（71.6%）包含不安全的回应，其中超过60%的初始安全回应最终崩溃为不安全指导。研究还注意到不同LLM在崩溃率方面存在显著差异，这凸显了进行对话感知安全评估的必要性，而不是仅仅依赖于初始回应的安全性。 AI
影响 突出了LLM在医疗建议方面的关键安全缺陷，需要更强大的对话感知评估方法。
排序理由 该集群包含一篇介绍LLM安全评估新基准的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
