Minimum Bayes-risk automatic speech recognition
PulseAugur coverage of Minimum Bayes-risk automatic speech recognition — every cluster mentioning Minimum Bayes-risk automatic speech recognition across labs, papers, and developer communities, ranked by signal.
-
新的C-GRPO方法优化文本生成,降低推理成本
研究人员推出了一种新颖的文本生成方法——共识组相对策略优化(C-GRPO),旨在降低与样本重排序解码相关的计算成本。与通常需要黄金参考或显式偏好数据的先前方法不同,C-GRPO仅使用效用函数和策略样本将最小贝叶斯风险(MBR)解码提炼到训练中。所提出的目标函数被证明与MBR解码的期望效用目标一致,并提供了收敛保证。在机器翻译和文本摘要任务上的实验表明,C-GRPO在性能上可与MBR解码相媲美,同时优于其他无参考方法。
-
新的SVD-MBR方法对抗文本生成中的过拟合
研究人员开发了一种名为SVD-MBR的新方法,用于对抗文本生成中最小贝叶斯风险(MBR)解码的过拟合。该技术使用奇异值分解(SVD)来近似效用矩阵,有效过滤噪声并提高各种指标的性能。实验表明,SVD-MBR通过区分真正的共识与特定于指标的噪声,尤其是在使用神经指标时,显著增强了解码效果。
-
LLM驱动的SymCA框架增强了可解释的列注释
研究人员开发了SymCA,一个新颖的列注释框架,它利用大型语言模型(LLMs)创建一个可解释的、符号化的决策过程。该方法通过增强可解释性和适应性,并更好地利用丰富的标签语义,解决了现有方法的局限性。SymCA构建了一个语义骨架,然后在其内部演化预测基底,采用可解释的随机森林分类器和LLM指导的修改。实验表明,SymCA在准确性和鲁棒性方面显著优于当前基线。
-
新的MBR解码方法结合了双向效应,以提高文本生成质量
研究人员引入了一种新颖的噪声信道分解方法用于最小贝叶斯风险(MBR)解码,旨在提高文本生成质量。该方法通过自然地结合假设与参考之间的双向效应,解决了BLEU和COMET等常见评估指标中的不对称性问题。该分解将MBR解码分解为四个相互作用的组成部分:假设到参考的似然度、参考到假设的似然度、假设的先验和参考的先验。该框架提供了对现有MBR变体的统一解释,并通过分离每个信道的贡献,实现了指标和任务特定的可解释性。