AI existential risk
PulseAugur coverage of AI existential risk — every cluster mentioning AI existential risk across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Impact List 按捐赠价值对慈善家进行排名，强调人工智能安全
一个名为Impact List的新网站已上线，该网站根据慈善捐赠的估计价值对富有的慈善家进行排名。该平台旨在通过强调不同事业领域之间影响力的显著差异来影响捐赠决策，“人工智能生存风险”目前被确定为最具成本效益的领域。该网站使用QALYs作为价值单位，并允许用户自定义假设，根据自己的世界观重新对个人进行排名，其功能类似于不确定声明的维基百科的理性主义版本。
-
对人工智能构建人工智能的担忧加剧了人工智能生存风险
人们越来越担心，如果允许人工智能开发其他人工智能系统，由此产生的创造物可能会变得无法控制。人工智能生存风险的可能性加剧了这种恐惧，一些人猜测，结束知识产权的驱动可能是灭绝环境的前兆，允许人工智能在人类灭绝后按照自己的意愿重塑地球。
-
AI 对齐研究必须解决价值捕获风险，而不仅仅是生存威胁
一位 AI 对齐研究员认为，该社区应更侧重于避免被先进 AI 系统“捕获价值”。该研究员认为，人们可能更倾向于避免“历史终结”情景或单一垄断，而不是低概率的生存风险。这一观点呼吁在对齐讨论中考虑长期的社会和权力结构。
-
LessWrong 用户寻求易于理解的 AI 生存风险解释器
一位 LessWrong 用户正在寻求关于 AI 生存风险的最佳入门级资源推荐，目标是找到简单、简洁（约 15 分钟）且适合广大受众（包括非专家）的材料。用户特别要求提供一篇短文和一个视频，要求避免行话，并提供进一步探索的链接。他们指出，现有的资源，如“AGI Ruin: List of Lethalities”，过于晦涩，而“The Sequences”虽然相关，但太长且不够聚焦。用户建议 LessWrong 可以突出展示此类入门材料。