一篇新研究论文提出了一个框架,用于量化将人工智能集成到复杂社会技术系统(如国家关键基础设施)中可能产生的系统级危害。该方法结合了结构化危害分析、组件级测试和概率系统建模,以评估人工智能故障对整体系统风险的影响。将其应用于英国的实时全额结算系统,展示了对人工智能交易建议的对抗性操纵可能导致银行倒闭和金融传染的增加。 AI
影响 提供了一种评估关键基础设施中人工智能系统性风险的方法,从而能够更好地进行治理和制定缓解策略。
排序理由 该集群包含一篇学术论文,详细介绍了人工智能安全研究的新框架。
- Critical National Infrastructure
- Paul Vautravers
- real-time gross settlement
- Systems Theoretic Process Analysis for Layers of System Safety
- UK
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →