新基金将通过20万美元的赠款和奖金来推动AI可修正性研究

一个新的可修正性研究基金已启动，由Lightcone Infrastructure管理，旨在显著增加对AI可修正性的研究。该基金由慈善家Peter McCluskey资助，将于2026年通过赠款和奖金分发至少20万美元。可修正性被视为一种有前景的方法，通过设计使AI系统服从人类原则而非独立判断的AI系统，来确保先进AI与人类价值观保持一致。 AI

影响 该倡议旨在通过专注于可修正性来加速AI对齐研究，可能带来更安全的先进AI系统。

排序理由 新成立了一项基金，并投入大量资金用于AI安全研究的特定领域。

在 Alignment Forum 阅读 →

• Anthropic
• Corrigibility Research Fund
• Eliezer Yudkowsky
• LessOnline
• Lightcone Infrastructure
• OpenAI
• Paul Christiano
• Peter McCluskey

• 融资
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →