研究人员开发了X-AuT，一个旨在渐进式压缩语音大语言模型中音频编码器层的新框架。该方法通过采用行为探针、表示对齐和跨尺度蒸馏等技术，旨在以不显著牺牲准确性的前提下降低推理成本。在Qwen3-ASR-0.6B模型的中英文基准测试中进行的实验表明，将层数从18减少到14个参数可以降低错误率，同时保持性能。 AI
影响 这项研究可能带来更高效的语音处理模型，降低依赖语音大语言模型的应用的计算成本。
排序理由 该集群描述了一篇详细介绍用于压缩语音大语言模型新框架的研究论文。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
arXiv:2609.11412v1 Announce Type: cross Abstract: Reducing audio-encoder depth lowers the inference cost of speech large language models, but removing complete blocks perturbs the embeddings consumed by the decoder and can cause deletion and premature end-of-sequence errors. We i…
X-AuT progressively prunes audio-encoder layers in speech large language models and restores accuracy via behavioral probes, representation alignment, cross-scale distillation, and LoRA adaptation.
📄 Research Breakthrough · Hugging Face Papers X-AuT: Progressive Audio-Encoder Compression for Speech LLMs with Cross-Scale Distillation 📌 Reducing audio-encoder depth lowers the inference... 👇 Worth reading the full paper or wait for open-source weights? # AI # LLM 🔗 https:// hu…