PulseAugur
实时 13:13:46
English(EN) Stories of the future are undermined by agent assumptions

作者认为,人工智能的未来预测因代理人的假设而存在缺陷

作者认为,当前对人工智能未来预测的损害源于对未来代理人(无论是人类、机构还是人工智能模型)性质的隐含假设。这些本体论承诺塑造了风险和治理理论,导致预测分歧。文章提出,虽然标准化和可预测性对于治理是可取的,但固有的复杂性和潜在的不可预见的不连续性(例如乌克兰的新型无人机战争)挑战了线性预测模型。作者认为,我们当前的社会指标是人类中心主义的,可能不足以应对拥有新型代理人的未来。 AI

影响 挑战当前人工智能预测方法,表明需要新的框架来考虑代理人的演变和不可预测的不连续性。

排序理由 该条目是一篇评论文章,讨论人工智能预测中的假设。

在 LessWrong (AI tag) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

作者认为,人工智能的未来预测因代理人的假设而存在缺陷

报道来源 [1]

  1. LessWrong (AI tag) TIER_1 English(EN) · Jonas Hallgren ·

    Stories of the future are undermined by agent assumptions

    <p><i><span>Part 1 of a series on process alignment, a different way of thinking about agents at every scale.</span></i></p><h2><b><span>Introduction</span></b></h2><p><span>There are quite a lot of disagreements in the AI Safety and general AI community about what the future wil…