António Farinhas

新的人工智能安全架构增强了心理健康支持模型

研究人员为用于心理健康支持的生成式人工智能模型开发了一种新颖的安全架构，解决了当前风险检测方法的局限性。该模型无关的系统集成了上下文风险检测、基于推理的验证和协议指导的响应生成，以管理多轮对话中不断变化的风险。该架构使用 GPT-5-chat 和 Qwen3.5-27B 等模型进行了测试，在风险检测方面表现出高准确率，并在保持融洽关系的同时，显著增加了临床医生偏好的升级响应。