研究人员推出了一种名为“对齐飞轮”（Alignment Flywheel）的新型以治理为中心、混合多智能体系统（MAS），旨在增强自主决策组件的安全性。该架构通过使用一个“提议者”（Proposer）来生成候选轨迹，并使用一个“安全神谕”（Safety Oracle）来提供安全信号，从而将决策生成与安全治理分离开来。一个执行层应用明确的风险策略，而一个治理MAS则通过审计和验证来监督“安全神谕”。“补丁局部性”（patch locality）的核心原则允许通过更新“安全神谕”的产物来缓解安全故障，而不是重新训练决策组件。 AI
影响 引入了一个更具可审计性和可更新性的AI安全治理框架，有可能降低复杂自主系统的风险。
排序理由 学术论文，介绍了一种新的自主系统安全架构。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
