研究人员开发了一个名为 Grounded Observer 的新框架，以提高基础模型在教育和心理健康等敏感领域的安全性。该方法借鉴了机器人学的思想，对交互轨迹而非仅仅是单个输出来强制执行行为控制。该框架已在现实场景中进行了测试，包括闲聊、自闭症治疗和学校的降级处理，证明了其适应社会背景和防止不良交互模式的能力。 AI
影响 为 AI 引入了一个新颖的安全框架，有可能提高关键应用的可靠性。
排序理由 发布了一篇详细介绍新 AI 安全框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
