研究人员调查了自动语音识别 (ASR) 和神经机器翻译 (NMT) 系统中的“无信息幻觉”现象,即模型在输入中没有可恢复信息的情况下生成流畅文本。该研究侧重于编码器-解码器系统中保留的 null token 的作用,考察生成结束的相关分数是否能提供可用的弃权信号。研究结果表明,虽然像 Whisper 这样的模型通常具有有用的弃权信号,但标准的解码方法并未持续利用它,这表明改进 null token 分数可以减少虚构,但需要仔细权衡以避免删除有效输出。 AI
影响 识别出减少 ASR 和 NMT 中幻觉的潜在机制,影响模型可靠性和输出质量。
排序理由 学术论文,详细介绍模型行为的新发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →