PulseAugur
中
实时 04:48:48
实体 Entropic Gradient Descent (EGD)

Entropic Gradient Descent (EGD)

PulseAugur coverage of Entropic Gradient Descent (EGD) — every cluster mentioning Entropic Gradient Descent (EGD) across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_117259 ·

    新理论将熵与深度学习极限联系起来，并提出了EGD算法

    研究人员引入了一个新的理论框架，该框架将信息论、拓扑学和统计力学联系起来，以理解深度神经网络中可学性的极限。该框架定义了一个“熵可学性视界”（Entropic Learnability Horizon, ELH），这是一个基本定律，规定只有当数据的流形香农熵超过函数决策边界的拓扑熵（由网络权重空间的熵调节）时，网络才能学习目标函数。当目标边界的复杂性超过这个信息视界时，系统就会进入“信息性挫败”（Informational Frust…