实体
autograd
autograd
PulseAugur coverage of autograd — every cluster mentioning autograd across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
深度学习基础：自动微分、权重、偏置和激活函数详解
本文深入探讨了深度学习的基础概念，解释了驱动GPT、Claude和Gemini等先进AI模型的核心机制。文章重点介绍了Andrej Karpathy的“Autograd”作为关键组成部分，它是一个自动微分引擎，用于计算模型学习所需的调整。文章还分解了权重、偏置和激活函数等基本要素，并说明了它们在神经网络如何处理数据、做出预测以及通过反向传播最小化误差中的作用。
-
有限差分法为PINNs提供更快、更准确的导数计算
一篇新论文探讨了有限差分（FD）方法作为物理信息神经网络（PINNs）中自动微分（AD）计算导数的替代方案。研究表明，在各种批处理大小下，FD在精度上可以媲美AD，同时提供更快的计算速度并减少GPU内存使用。此外，该研究强调了标准PyTorch autograd在某些神经网络架构中可能存在的潜在不准确性，建议使用FD作为更可靠的近似方法。