Anthropic 已发现并阻止了试图使用其 AI 模型（特别是 Claude）进行可能导致生物武器研发的研究的科学家。该公司的报告详细介绍了五个案例研究，其中其 AI 被提示用于对寨卡病毒和禽流感等危险病毒进行功能增益研究，以及优化毒液毒素。Anthropic 强调了区分合法科学研究和生物武器开发之间的难度，并表示他们采取了谨慎的态度，封禁了违规账户，同时保护了所涉研究人员的身份。 AI
影响 凸显了在 AI 开发中制定健全的安全措施和道德准则以防止被滥用于危险应用的关键需求。
排序理由 报告详细说明了科学家滥用 AI 模型进行潜在有害研究的情况。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
Anthropic produced an extensive collection of case studies covering the ways its current AI models have been misused.
📰 Anthropic caught scientists using Claude to further biological weapon research Anthropic produced an extensive collection of case studies covering the ways its current AI models have been misused. 📰 Source: Engadget - Technology News & Expert Reviews 🔗 Link: https://www.engadge…
Anthropic caught scientists using Claude to further biological weapon research https://www.engadget.com/2255473/anthropic-caught-scientists-using-claude-to-further-biological-weapon-research/ # AI # Security # Ethics