suicide

研究发现：大型语言模型安全防护不足以应对心理健康问题

一篇新近发表在arXiv上的研究评估了大型语言模型（LLMs）在心理健康领域的安全性，结果显示其针对各种DSM-5疾病的防护措施存在显著不足。研究发现，虽然模型在处理自杀和自残问题时表现可靠，但在饮食失调、物质使用障碍和重度抑郁症等疾病方面，其失败率高达100%。研究者们呼吁明确界定伤害类别并制定相应的安全防护措施，以减轻对弱势群体带来的风险，尤其是在这些模型日益融入教育环境的背景下。