实体
Charles Goodhart
Charles Goodhart
PulseAugur coverage of Charles Goodhart — every cluster mentioning Charles Goodhart across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
亚马逊、Meta因“眼镜蛇效应”而受挫
据报道，亚马逊和Meta遭遇了“眼镜蛇效应”，即优化特定指标导致了意想不到的负面后果。亚马逊内部的KiroRank排行榜奖励AI工具的token消耗量，但在工程师们进行“tokenmaxxing”以夸大分数后被取消。同样，Meta的“Claudeonomics”追踪器，用于衡量海量token使用量，据报道也被取消了。这种现象，也称为古德哈特定律，凸显了指标如何成为目标，从而不再是衡量潜在成功的准确指标。
-
Goodhart's Law 预示 AI 统计规律在控制下会崩溃
Charles Goodhart 的观察表明，在 AI 系统中识别出的任何统计模式，如果试图基于它进行控制或优化，很可能会退化。这一原则意味着，衡量和基于 AI 行为采取行动的行为本身就会改变该行为，从而导致最初的规律崩溃。这一现象对 AI 对齐和控制工作提出了挑战。