包括作者和AI研究人员在内的一群知名人士公开谴责Anthropic公司积极追求递归式自我改进(RSI)。他们认为,尽管公开警告了生存风险,Anthropic公司仍私下推动AI系统自我改进,此举是鲁莽的,并危及人类。签署者(包括未来生命研究所成员)指责Anthropic公司虚伪,称其过去呼吁谨慎和监管,但同时为了竞争优势和潜在的IPO收益而加速RSI开发。 AI
影响 引发了对AI安全以及失控AI发展带来的生存风险的担忧。
排序理由 外部专家对公司做法的批评声明。
在 Future of Life Institute 阅读 →
- Anthony Aguirre
- Anthropic
- Claude
- Dario Amodei
- Future of Life Institute
- Hugging Face
- Igor Babuschkin
- Max Tegmark
- recursive self-improvement
- Rutger Bregman
- Steven Pinker
- Thomas Wolf
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →