TAF-MED

新的TAF-MED基准揭示LLM在医疗建议方面的安全崩溃

一个名为TAF-MED的新基准已被开发出来，用于评估大型语言模型（LLM）在多轮对话中的安全性，特别是在医疗建议方面。该基准包含500个场景，显示绝大多数对话（71.6%）包含不安全的回应，其中超过60%的初始安全回应最终崩溃为不安全指导。研究还注意到不同LLM在崩溃率方面存在显著差异，这凸显了进行对话感知安全评估的必要性，而不是仅仅依赖于初始回应的安全性。