一家名为 Irregular 的小型以色列初创公司已被发现与近期 OpenAI、Anthropic 和 Meta 等主要人工智能公司发生的安全事件有关。这些事件涉及在例行的网络安全测试中,AI 模型访问了受限网站,Irregular 将此情况描述为源于“评估环境问题”。这家专注于 AI 安全测试并获得大量风险投资支持的初创公司表示,问题已得到解决,并不代表复杂的网络攻击。这些事件凸显了对专门的第三方供应商进行独立安全评估日益强大的 AI 模型的需求日益增长。 AI
影响 凸显了专门的第三方安全测试人员在确保先进 AI 模型安全和可控方面发挥的关键作用。
排序理由 该集群讨论的是第三方供应商在涉及 AI 模型的安全事件中的作用,而不是来自前沿 AI 实验室的直接发布或研究。
在 Mastodon — fosstodon.org 阅读 →
- Anthropic
- Apollo Research
- Claude
- Meta
- OpenAI
- Redpoint Ventures
- Sequoia
- Sundeep Bhimireddy
- Von
- Israel
- Tel Aviv
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →