研究人员调查了机器学习模型（尤其是由AI代理开发的模型）为何在自适应使用验证数据的情况下，过拟合现象却出奇地少。他们的假设是，成功的机器学习策略高度可压缩，意味着它们可以用最少的信息来描述。通过使用输出和输入压缩技术对由LLM驱动的研究代理进行的实验表明，简短的提示和可压缩的反馈足以在各种任务中重现并找到高性能模型。这些发现支持了有效的机器学习策略占据策略空间中低复杂度区域的观点，从而解释了观察到的缺乏过拟合现象。 AI
影响 表明高效的模型设计和描述长度是泛化的关键，可能指导未来的AI发展。
排序理由 学术论文，详细介绍了关于机器学习泛化新假设和实验结果。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →