实体
Fisher-Rao metric
Fisher-Rao metric
PulseAugur coverage of Fisher-Rao metric — every cluster mentioning Fisher-Rao metric across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新研究使用费舍尔-罗（Fisher-Rao）度量来防止大型语言模型（LLM）模型坍塌
一篇新论文提出使用费舍尔-罗（Fisher-Rao）度量来分析使用合成数据训练大型语言模型（LLM）的动力学。该研究解决了“模型坍塌”问题，即当LLM递归地在合成数据上进行训练时，会遗忘真实的数据分布。作者们为防止这种坍塌所需的最少人类数据比例建立了理论保证，并证明该比例与使用欧几里得度量（Euclidean metric）得出的先前估计值不同。
-
通过策略梯度和信息几何探索GFlowNet训练方法 · 跟踪2个来源
两篇新研究论文探讨了生成流网络（GFlowNets）的高级训练方法。第一篇论文介绍了一个基于策略梯度的框架，该框架将GFlowNet的流平衡与强化学习的累积奖励联系起来，提供了新的基于策略的训练方法以及前向和后向策略优化的耦合策略。第二篇论文通过信息几何的视角来构建GFlowNet前向策略训练，利用Fisher-Rao度量和自然梯度来推导出高效的、结构感知的训练方法，这些方法可以通过实证来说明。
-
新的扩散模型使用信息几何实现高效图生成
研究人员开发了一种新的图扩散模型信息几何框架，该框架超越了均匀时间步进。该方法将扩散采样轨迹重新解释为黎曼流形上的曲线，并使用费舍尔-拉奥度量来测量内在距离。由此产生的漂移变异分数（DVS）量化了分布变化，确保了采样路径上信息速度恒定，从而提高了分子和社会网络生成的结构保真度和效率。