TED-LIUM corpus

剪枝Whisper-small通过充当正则化器来提高ASR准确性

研究人员已经证明，神经网络剪枝可以作为自动语音识别（ASR）系统的正则化技术，而不仅仅是压缩方法。通过分析Whisper-small模型中不同组件的敏感性，他们发现剪枝特定层，如解码器自注意力或最后一个编码器层，实际上可以提高泛化能力并降低词错误率（WER）。这种方法允许更积极的压缩而不会显著损失准确性，表明剪枝可以成为一个有价值的架构设计工具。