PulseAugur
实时 01:46:49

研究人员开发用于无分布预训练的进化动态损失

研究人员开发了一个名为进化动态损失(EDL)的新框架,用于预训练分类损失。EDL使用合成数据学习可迁移的损失函数,避免了在主要预训练阶段需要真实样本。该框架通过进化策略将损失优化为一个轻量级网络,并结合混沌变异来增强探索和改善收敛性。在CIFAR-10上的实验表明,EDL可以有效地替代交叉熵并达到相当或更好的准确率。 AI

影响 引入了一种新颖的分类损失训练方法,可能提高模型性能和泛化能力。

排序理由 这是一篇详细介绍分类损失新框架的研究论文。

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

研究人员开发用于无分布预训练的进化动态损失

报道来源 [2]

  1. arXiv cs.LG TIER_1 English(EN) · Meng Xiang, Yan Pei ·

    Distribution-Free Pretraining of Classification Losses via Evolutionary Dynamics

    arXiv:2605.03722v1 Announce Type: new Abstract: We propose Evolutionary Dynamic Loss (EDL), a framework that learns a transferable classification loss in the probability space using unlimited synthetic prediction-label pairs, without accessing real samples during the main loss pr…

  2. arXiv cs.LG TIER_1 English(EN) · Yan Pei ·

    Distribution-Free Pretraining of Classification Losses via Evolutionary Dynamics

    We propose Evolutionary Dynamic Loss (EDL), a framework that learns a transferable classification loss in the probability space using unlimited synthetic prediction-label pairs, without accessing real samples during the main loss pretraining stage. EDL parameterizes the loss as a…