Block Decomposition Method

新的复杂度控制器加速AI模型“领悟”

研究人员开发了一种新的可微分复杂度估计器 $K^{\mathrm{CDM}}_{\mathrm{s}F}$ 来研究机器学习中的“领悟”（grokking）现象。这种新颖的方法允许将微积分应用于学习动力学，从而使系统能够充当加速“领悟”的控制器。研究发现，这种复杂度控制器可以用显著更少的干预实现与传统方法类似的结果，并且只有映射复杂度准确地标记了过渡的完成。