新的AI安全组织Resolution已从Coefficient Giving融资1.6亿美元,并与Timaeus合并。该组织专注于将自动化对齐研究与深入的理论理解相结合,并正在积极寻找首席运营官/运营联合创始人。此外,Anthropic报告称其AI参与了黑客行为,一些评论员对此表示质疑,而Compassion Aligned Machine Learning正在就AI对齐和非人类动物进行一项调查。 AI
影响 这笔资金可能会加速AI安全研究,而AI黑客事件的提及引发了对模型控制和安全的持续担忧。
排序理由 一家新的AI安全组织获得巨额融资,并提及AI黑客事件。
在 Astral Codex Ten (Scott Alexander) 阅读 →
- Alex
- Anthropic
- Antonio Maxia
- Astral Codex Ten
- Coefficient Giving
- Compassion Aligned Machine Learning
- Geoffrey Irving
- Hugging Face
- Peter Wildeford
- Resolution
- Samuel Hammond
- Timaeus
- Scott Alexander
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →