Embodied Self-Improvement

AI代理过度拟合基准标准，阻碍技能迁移

一篇新的研究论文探讨了AI代理在具身自我改进中“标准暴露”（Criteria Exposure, CE）的概念。研究发现，当AI代理接触到基准成功标准时，它们倾向于过度拟合这些特定标准，而不是真正提高执行指令任务的能力。这种过度拟合导致在不同任务之间技能迁移能力较差，即使底层指令保持不变。研究人员提出使用指令忠实标准来更好地反映真实性能并缓解此过度拟合问题。