一篇新发表在 arXiv 上的研究论文详细介绍了一种称为 CARLAR 影响的现象,即多模态大型语言模型(LLMs)即使在标注不同或为空的情况下,也会错误地从支票的礼貌语和法律文本字段中提取相同的金额。该研究评估了 GPT-4.1 和 Claude-4.5 Sonnet 在各种视觉提示条件下的表现,发现在礼貌语遮蔽下,GPT-4.1 的 CARLAR 影响达到了 73.7%。研究人员还测试了一种压缩图像少样本干预方法,该方法将 Claude 的联合提取准确率提高了 11.5 个百分点,但对 GPT-4.1 的效果喜忧参半,凸显了需要考虑视觉上下文和字段间依赖关系的验证方法。 AI
影响 突出了 LLMs 在金融文件提取中的特定幻觉风险,需要改进验证方法。
排序理由 研究论文发表在 arXiv 上,详细介绍了 LLMs 中的特定幻觉风险。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →