研究人员开发了一个名为进化动态损失(EDL)的新框架,用于在不使用真实数据的情况下预训练分类损失。EDL通过生成合成的预测-标签对来学习可迁移的损失函数,并将损失作为神经网络进行优化。该系统使用具有混沌变异的进化策略来探索损失函数的可能性,以实现稳健的性能。实验表明,EDL可以有效地替代标准的交叉熵损失,并在图像分类任务上达到相当或更好的准确性。 AI
影响 引入了一种新颖的预训练分类损失的方法,有可能减少某些任务对大型标记数据集的依赖。
排序理由 该集群描述了一篇详细介绍用于预训练分类损失的新型AI框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →