English(EN) TEMPER: Tensorized Efficient Manifold-constrained Parameterization for Expressive Residual Routing

TEMPER方法通过张量网络增强神经网络残差路由

作者 PulseAugur 编辑部 · [1 个来源] · 2026-08-11 04:00

研究人员推出了一种新颖的增强深度神经网络残差路由的方法，名为TEMPER。TEMPER利用张量网络将生成器表示为多路张量，与现有方法相比显著减少了参数数量，同时保持了表达性。实验表明，TEMPER在语言建模和常识推理任务中与当前技术相当或超越，实现了卓越的性能-参数效率。 AI

影响 TEMPER的张量化方法提供了一种更具参数效率的方式来提高深度学习模型的表达性和性能。

排序理由该集群包含一篇详细介绍神经网络参数化新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Yuxuan Gu, Wuyang Zhou, Huijun Xing, Danilo Mandic · 2026-08-11 04:00

TEMPER：用于富有表现力的残差路由的张量化高效流形约束参数化

arXiv:2608.07851v1 Announce Type: cross Abstract: Residual connections rely on a static residual pathway, and are essential for training deep neural networks. Hyper-connections (HC) increase the expressivity of residual routing by incorporating multiple residual streams and learn…