一篇题为“Maya a1:选项读取模型还是其位置?非自回归决策模型中的顺序敏感性”的新研究论文,调查了Laya模型(一种非自回归决策模型)的顺序敏感性。研究发现,Laya已发布的拥有4.21亿参数的检查点,会根据选项呈现的顺序,改变其对相当大比例的多项选择题的答案。通过选项随机化进行微调可以降低这种敏感性,而对不同顺序进行置信度加权投票则提高了准确性。 AI
影响 强调了非自回归模型中潜在的偏见,并提出了提高鲁棒性的方法。
排序理由 在arXiv上发表的研究论文,详细介绍了特定模型行为的发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →