English(EN) Against Proxy Optimization

论文警告不要优化AI决策理论中的代理效用函数

作者 PulseAugur 编辑部 · [1 个来源] · 2026-06-22 17:02

本文探讨了优化代理效用函数的潜在危害，认为在决策理论框架内应用此实践可能导致问题。作者认为，最大化代理指标并不总是与真实目标一致，并可能带来意想不到的负面后果。 AI

影响强调了AI对齐和决策框架中潜在的理论陷阱。

排序理由该条目是一篇讨论AI决策理论理论问题的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

arXiv

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

论文警告不要优化AI决策理论中的代理效用函数

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Sven Neth · 2026-06-22 17:02

Against Proxy Optimization

I discuss conditions under which maximizing a proxy utility function is harmful and suggest this poses problems for applying decision theory.