Anthropic 详细披露了源自中国 AI 公司(包括阿里巴巴集团、Moonshot AI 和 DeepSeek)的复杂蒸馏攻击。这些攻击旨在提取 Anthropic 的 Claude 模型专有的推理能力,以训练更小、更具竞争力的模型。该公司观察到近 2 亿次与这些攻击相关的交互,其中一项归因于阿里巴巴的攻击是有史以来规模最大的批量蒸馏活动。Moonshot AI 的攻击尤其似乎将请求路由给中国军方,目标是 Claude 的 Opus 模型。 AI
影响 凸显了前沿模型开发中日益严峻的安全挑战以及知识产权被盗的可能性。
排序理由 报告详细介绍了 AI 模型安全漏洞和对抗性攻击。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →