explain xkcd

美国政府因安全担忧迫使Anthropic禁用新AI模型

Anthropic 在其新款AI模型 Fable 5 和 Mythos 5 发布仅三天后，被美国政府强制在全球范围内禁用。此举源于白宫关于先进AI的新行政命令，标志着美国主要AI实验室的旗舰模型首次被政府法令强制下架。政府引用了一个与模型分析软件漏洞能力相关的安全缺陷，这种能力可用于安全目的，也可用于恶意利用。这一事件具有重大意义，凸显了依赖托管AI模型的脆弱性，并可能加速采用更具可控性的开源模型作为替代方案。