PulseAugur
中
实时 10:31:34
English(EN) TESLA: Taylor Expansion of Sinusoidal Learnable Activations

新的TESLA激活函数改进了神经网络奇偶校验问题求解能力

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员推出了一种新颖的激活函数TESLA，旨在提高神经网络在处理二元向量和奇偶校验问题上的性能。TESLA利用正弦和余弦项的可学习组合来控制多项式次数并放大高阶分量，理论上可以塑造训练动态以更好地强调结构。实证表明，TESLA在有限数据奇偶校验问题上表现出强大的泛化能力，并对标签噪声具有鲁棒性，同时在ImageNet-100数据集上也显示出可比的性能。 AI

影响 引入了一种新的激活函数，可以提高神经网络在特定类型问题上的效率和性能。

排序理由 这是一篇详细介绍神经网络新激活函数的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的TESLA激活函数改进了神经网络奇偶校验问题求解能力

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Daehwa Ko, Jaehyeon Kim, Seunghyun Ham, Jay Hoon Jung ·

    TESLA：正弦可学习激活函数的泰勒展开

    arXiv:2608.11970v1 Announce Type: new Abstract: The parity problem--deciding whether the number of ones in a binary vector is odd or even--remains challenging for standard neural networks due to linear inseparability and the need for global interactions. We propose TESLA, an acti…

相关实体

相关话题