据报道,Anthropic 已阻止恶意行为者试图利用其 AI 模型(特别是 Claude 3)开发生物武器。该公司的内部安全团队识别并挫败了这些企图,这些企图涉及生成与生物武器相关的信息。此举促使与包括白宫、FBI 和 DHS 在内的美国各政府机构进行了接触,以讨论 AI 安全和国家安全影响。 AI
影响 凸显了 AI 安全措施对于防止其被用于生物武器开发等危险应用的关键需求。
排序理由 一家主要 AI 公司为阻止其技术被用于生物武器而采取的重大行动,涉及政府机构。
在 Mastodon — mastodon.social 阅读 →
- Anthropic
- Cisa
- Claude 3
- Federal Bureau of Investigation
- Federal Government of the United States
- Microsoft
- National Counterproliferation Center
- National Science Foundation
- OpenAI
- United States Armed Forces
- United States Centers for Disease Control and Prevention
- Us Congress
- United States Department of Homeland Security
- United States National Institutes of Health
- US National Security Council
- White House
- World Health Organization
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →