English(EN) AudioTETRIS: Token Elimination via Transitional Importance Signals for Efficient Audio LLMs

AudioTETRIS框架将音频大语言模型效率提升75%

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-12 04:00

研究人员开发了AudioTETRIS，一个旨在提高大型音频语言模型（LALM）效率的新型两阶段框架。该方法利用音频信号的固有结构，特别是声学过渡，在应用基于注意力机制的压缩之前指导令牌选择。通过将音频编码器的表示几何作为声学先验，AudioTETRIS计算每令牌的融合分数，以驱动跨解码器层的渐进式令牌选择。这种方法可以显著减少令牌数量，仅用25%的音频令牌即可保持接近未压缩的性能，并且优于现有的无需训练的压缩方法。 AI

影响该方法可以显著降低使用大语言模型处理音频的计算成本，从而实现更广泛的部署和更快的推理。

排序理由该集群描述了一种在arXiv论文中发布的新方法，用于提高音频大语言模型的效率。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 11 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该集群描述了一种在arXiv论文中发布的新方法，用于提高音频大语言模型的效率。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Shreya Sajid, Anna Vettoruzzo, Joaquin Vanschoren · 2026-10-12 04:00

AudioTETRIS：通过过渡重要性信号进行令牌消除，以实现高效音频大模型

arXiv:2610.13600v1 Announce Type: cross Abstract: Large Audio Language Models (LALMs) achieve strong performance on speech-text tasks, but standard audio encoders produce hundreds of tokens for even short audio clips. Because self-attention scales quadratically in sequence length…

本文如何被排名

报道来源 [1]

AudioTETRIS：通过过渡重要性信号进行令牌消除，以实现高效音频大模型

相关实体

相关话题