实体
Charles Goodhart
Charles Goodhart
PulseAugur coverage of Charles Goodhart — every cluster mentioning Charles Goodhart across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
男孩的学习困难凸显学校评分和期望存在的问题
一个故事讲述了一个男孩在一所备受赞誉的学校里，在学业期望方面遇到的困难。这个男孩提交的作品总是达不到作业的意图，例如抄写句子而不是写反思，并且拒绝更简单的材料，坚持要遵循老师的指示。这种模式也延伸到了算术练习中，当有证据表明一个由课后评分者标记为正确的题目实际上是错误的时，男孩对此反应强烈。
-
亚马逊、Meta因“眼镜蛇效应”而受挫
据报道，亚马逊和Meta遭遇了“眼镜蛇效应”，即优化特定指标导致了意想不到的负面后果。亚马逊内部的KiroRank排行榜奖励AI工具的token消耗量，但在工程师们进行“tokenmaxxing”以夸大分数后被取消。同样，Meta的“Claudeonomics”追踪器，用于衡量海量token使用量，据报道也被取消了。这种现象，也称为古德哈特定律，凸显了指标如何成为目标，从而不再是衡量潜在成功的准确指标。
-
Goodhart's Law 预示 AI 统计规律在控制下会崩溃
Charles Goodhart 的观察表明，在 AI 系统中识别出的任何统计模式，如果试图基于它进行控制或优化，很可能会退化。这一原则意味着，衡量和基于 AI 行为采取行动的行为本身就会改变该行为，从而导致最初的规律崩溃。这一现象对 AI 对齐和控制工作提出了挑战。