一位AI对齐研究人员认为，该领域除了形式和机制技能外，还缺乏关键能力，例如实证社会科学和社会福祉的细致理解。作者认为，该领域的招聘实践忽视了具有深厚社会科学背景的个人，导致了WEIRD（西方、受过教育、工业化、发达和民主）偏见，未能解决AI在不同全球背景下的政治说服力等问题。此外，该文批评了对通常由迷幻剂引起的肤浅内省体验的依赖，认为这些体验不等同于通过冥想或重大生活经历等实践培养出的深刻、稳定的内省能力。 AI
影响 强调了AI对齐研究中潜在的盲点，表明需要超越技术技能的广泛专业知识，以确保公平的全球影响。
排序理由 这是一篇由个人研究人员撰写的观点文章，讨论了AI对齐领域感知到的不足之处。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
