Nathan Lambert 和 Tom Zick 成立了 Trillium Labs,这是一个致力于公开开展高风险 AI 研究的非营利组织。他们认为,当前前沿 AI 实验室保密工作的趋势阻碍了社区的审查和风险缓解。Trillium Labs 计划公开实验细节,重点关注递归自我改进和智能体开发等领域,以促进对 AI 风险和能力的共同理解。 AI
影响 挑战了当前主流的 AI 安全封闭式方法,可能加速开源开发和风险缓解策略。
排序理由 著名 AI 研究人员成立新非营利组织,以追求不同的 AI 安全研究模式。
- Allen Institute for Artificial Intelligence
- American Truly Open Models
- Anthropic
- Charles Schwab Corporation
- Harvard University
- Hugging Face
- Nathan Lambert
- OpenAI
- Stanford University
- Tom Zick
- Trillium Labs
- University of California, Berkeley
- Xiaomi
- Claude 3.5 Opus
- Claude 3.5 Sonnet
- GPT-4
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →