研究人员开发了 HealthCraft，这是一个新颖的强化学习环境，旨在评估 AI 模型在急诊医学场景中的安全性。该环境模拟了真实的临床条件，并使用双层奖励系统来惩罚安全违规行为。对 Claude Opus 4.6 和 GPT-5.4 等前沿模型的初步测试显示，其安全故障率很高，并且在多步工作流程中的性能急剧下降，凸显了在关键医疗保健领域部署 AI 所面临的挑战。 AI
影响 凸显了当前前沿模型在高风险医疗应用中的关键安全差距，在临床部署前需要进一步研究。
排序理由 该集群描述了一个用于评估 AI 安全性的新研究环境和基准，包括对前沿模型的初步性能结果。 [lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →