AI研究员Timnit Gebru一直直言不讳地谈论AI的潜在危害，批评将重点放在生存风险上会分散对当前问题的注意力。此前，她在谷歌发表了一篇关于大型语言模型危险性的论文后离职。与此同时，Anthropic的联合创始人也一直在努力应对AI开发的双重性，主张采取一种平衡的方法，优先考虑安全和谨慎的进步，而不是速度和利润。Anthropic认为，AI能力的快速发展，特别是由递归自我改进驱动的，有必要放慢AI模型的开发速度，以使安全措施能够跟上。 AI
影响 关于是优先考虑AI安全和监管，还是优先考虑快速的能力进步，争论日益激烈，这可能会影响未来的发展战略。
排序理由 该集群包含来自知名AI研究人员和开发者的评论，内容涉及AI发展速度和安全问题。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
"One prominent technology and AI researcher, Timnit Gebru, has been especially fiery, posting on X and Bluesky about the overlapping ideas and ideologies that she thinks led us to this bizarro moment. Previously, Gebru was most known for her highly publicized departure from Googl…
"Along with my co-founders and employees, I have grappled with this duality of risk and benefit since the beginning of Anthropic. Not building the technology deprives humanity of benefits or simply places AI in the hands of authoritarian powers, while building it too fast is reck…