实体
Hutch++
Hutch++
PulseAugur coverage of Hutch++ — every cluster mentioning Hutch++ across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新方法使NTK统计在大型神经网络中变得实用
研究人员开发了一种方法，可以有效地估计大型神经网络的神经切线核（NTK）的统计数据，克服了显式计算的计算和内存挑战。这种新方法利用随机迹估计，特别是Hutch++算法，来近似关键NTK统计数据，如迹、Frobenius范数、有效秩和对齐。该方法已在各种架构上得到验证，包括多达4.1亿个参数的Transformer，显示出显著的加速，并使NTK诊断对于大规模模型变得实用。研究人员还探索了使用NTK对齐作为知识蒸馏的正则化器，发现在泛化方…
-
新StAD方法加速生成模型似然计算
研究人员开发了一种名为StAD的新方法，以提高扩散和流模型生成器中似然计算的速度和准确性。该技术绕过了计算概率流ODE的雅可比矩阵的需要，而是使用Langevin-Stein算子直接学习散度。StAD在各种密度估计任务上已证明其性能与Hutchinson和Hutch++等现有方法相比具有竞争力，显示出更高的方差和速度。