据报道,Anthropic 已阻止一名用户使用其 AI 模型 Claude 进行生物武器研究的尝试。据称,该用户是一名研究员,试图利用 Claude 生成有关制造危险病原体的信息。Anthropic 表示,其安全协议成功阻止了对其技术的滥用。 AI
影响 凸显了防止 AI 被用于有害目的的持续挑战以及当前安全措施的有效性。
排序理由 该故事涉及 AI 模型的滥用以及为防止滥用而制定的安全协议,而非新发布或核心研究。
在 Mastodon — sigmoid.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →