研究人员为用于心理健康支持的生成式人工智能模型开发了一种新颖的安全架构，解决了当前风险检测方法的局限性。该模型无关的系统集成了上下文风险检测、基于推理的验证和协议指导的响应生成，以管理多轮对话中不断变化的风险。该架构使用 GPT-5-chat 和 Qwen3.5-27B 等模型进行了测试，在风险检测方面表现出高准确率，并在保持融洽关系的同时，显著增加了临床医生偏好的升级响应。 AI
影响 通过改进风险管理，该架构可以实现人工智能在敏感心理健康应用中的更安全部署。
排序理由 该集群包含一篇详细介绍新的人工智能安全架构的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
