PulseAugur
实时 19:12:27
English(EN) BaldWhisper: Faster Whisper with Head Shearing and Layer Merging

BaldWhisper 模型实现 48% 的尺寸缩减和 2.15 倍的速度提升

研究人员开发了 BaldWhisper,一种显著压缩和加速 Whisper 语音转文本模型的方法。通过对嵌入使用低秩分解和合并 Transformer 层,BaldWhisper 在 MacBook Air M1 上实现了 48% 的模型尺寸缩减和 2.15 倍的速度提升。该方法在数据稀疏的情况下(例如仅有 32 小时训练数据的班巴拉语)也能保持 90% 的原始性能。 AI

影响 为在数据有限的边缘设备上部署强大的语音转文本模型提供了途径。

排序理由 这是一篇详细介绍模型压缩和加速新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

BaldWhisper 模型实现 48% 的尺寸缩减和 2.15 倍的速度提升

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Yaya Sy, Christophe Cerisara, Irina Illina ·

    BaldWhisper: Faster Whisper with Head Shearing and Layer Merging

    arXiv:2510.08599v2 Announce Type: replace-cross Abstract: Pruning large pre-trained transformers in a data-scarce scenario is challenging, as it often requires massive retraining data to recover performance. For instance, Distill-Whisper prunes Whisper by 40 and retrains on 21,00…