对 Qwen2.5-1.5B 模型进行的最新审计显示,450 个令牌的限制截断了其响应的很大一部分,可能导致结果失真。当限制增加到 1,024 个令牌时,之前被截断的大部分响应都已完成,并且在较长响应中修改后的学生引文的比例显著增加。审计还引入了一项新预测,即英语学习者论文的摘录与匹配的论文相比,将被更频繁地修改,并且较长的回复将显示出更高的引文更改率。 AI
影响 强调了充足的令牌限制对于准确的 LLM 输出和研究完整性的关键重要性。
排序理由 该项目详细介绍了 LLM 在不同令牌限制下的行为及其对响应保真度的影响的研究审计。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →