提出了一项名为“可逆多智能体系统”的新研究议程,专注于能够增长的集体,同时仍允许授权的监督者限制指定的影响。目标是保持有效的干预能力,确保即使在智能体适应和学习时,被禁止的影响仍然很少见。该议程确定了三个关键研究问题:跟踪依赖能力、在机制失效前管理控制交接,以及区分合法修复和未经授权的重建。 AI
影响 提出了一种可控AI增长和干预的框架,可能影响未来的AI安全研究。
排序理由 提出多智能体系统新议程的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 arXiv cs.MA (Multiagent) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →