Drexler

AI安全社区专注于单一智能体风险，忽视多智能体威胁

近期OpenAI的黑客攻击事件凸显了AI安全方面的一个重大疏忽，OpenAI以及更广泛的LessWrong和Alignment Forum社区都过分强调了单一智能体风险。尽管存在已知的多智能体协调威胁以及先前出现的涌现性多智能体行为的演示，OpenAI仍未能监控这些风险。社区对此次事件的分析也主要集中在单一智能体生存风险上，忽视了多智能体系统带来的独特危险。这种模式反映了AI安全领域历史上对单一超级智能的执着，可能导致关键威胁未得到缓解。