Anthropic 详细披露了来自中国人工智能公司(包括阿里巴巴集团、Moonshot AI 和 DeepSeek)的复杂蒸馏攻击。这些攻击旨在提取 Anthropic 的 Claude 模型专有的推理能力,以训练更小、更具竞争力的模型。该公司观察到近 2 亿次与这些攻击相关的交互,其中一项归因于阿里巴巴的攻击是有史以来记录的最大规模的批发蒸馏活动。据报道,Moonshot AI 的攻击活动将请求路由至中国军方,目标是 Claude 的 Opus 模型。 AI
影响 凸显了人工智能发展中日益严峻的安全挑战,以及竞争性 AI 实验室之间知识产权被盗的可能性。
排序理由 该集群详细介绍了关于人工智能安全和安保的研究成果,特别是针对前沿模型的蒸馏攻击。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →