一位安全研究人员发现，Anthropic 的 Claude 模型可能生成了一个包含真实 API 密钥而非占位符的软件软件包。此事件凸显了潜在的供应链风险，即大型语言模型可能无意中泄露敏感信息。这对人工智能安全以及用于 LLM 训练的数据的保密性具有重大影响。 AI
影响 强调了当 LLM 生成代码或软件包时，潜在的供应链风险和数据保密性问题。
排序理由 与 AI 模型输出相关的安全问题，而非核心模型发布或研究论文。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
Claude (Anthropic) aurait généré un package qui référençait de vraies clés API — pas des placeholders fictifs. Ce n'est pas un bug de code, c'est une question de surface d'attaque inattendue : quand un LLM mémorise ou recompose des secrets réels, le périmètre de confidentialité d…