PulseAugur
实时 07:32:02

HyenaND: 新型处理多维数据的亚二次算子

研究人员推出 HyenaND,这是一种新颖的亚二次算子,旨在处理多维数据,同时不损害准确性或空间结构。与标准卷积或循环模型不同,HyenaND 通过隐式参数化的卷积核直接作用于图像和体积等数据的原生几何。其 CUDA 实现 nSubQ 通过融合 FFT 卷积路径实现了显著的加速。在从基因组学到医学成像和 PDE 建模等应用中,HyenaND 堆栈在准确性方面已证明可与注意力基线相媲美,而混合配置的性能优于纯注意力和基于循环的模型。 AI

影响 引入了一种处理多维数据的新方法,有望提高各种 AI 应用的效率和准确性。

排序理由 详细介绍新技术方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv stat.ML 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

HyenaND: 新型处理多维数据的亚二次算子

报道来源 [1]

  1. arXiv stat.ML TIER_1 English(EN) · David R. Wessels, Farhad Ramezanghorbani, David W. Romero, Alireza Moradzadeh, Olivia Viessmann, Maksim Zhdanov, John St. John, Ken Janik, David M Knigge, Yucheng Tang, Erik J Bekkers, Saee Gopal Paliwal ·

    通过输入相关二次方以下长卷积实现原生多维子二次算子

    arXiv:2607.19378v1 Announce Type: cross Abstract: Subquadratic alternatives to attention require compromises when applied to multi-dimensional data: standard convolutions lack global receptive fields and input dependency, while recurrent models require rasterizing data such as im…