PulseAugur
中
实时 08:01:33
实体 First-Order Local Entropy Influence

First-Order Local Entropy Influence

PulseAugur coverage of First-Order Local Entropy Influence — every cluster mentioning First-Order Local Entropy Influence across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_229082 ·

    新蒸馏方法在不使用完整词汇表的情况下提高了AI模型的多样性

    研究人员开发了一种名为Influence-Directed Adaptive On-Policy Distillation (IDA-OPD)的新方法，以解决采样令牌策略内蒸馏中的多样性瓶颈。该技术使用一种新颖的一阶局部熵影响度量来理解熵变化如何影响蒸馏过程。通过保留熵扩展更新并自适应地缩小熵收缩更新，IDA-OPD在不需要完整词汇表教师概率的情况下有效地将教师模型的多样性转移给学生模型，从而以更低的计算成本提高了pass@k分数。