一篇新的研究论文探讨了小型语言模型中的任务能力与指令遵循之间的区别。研究发现，虽然模型在规模增大时在这两个方面通常都会有所提高，但较小的模型常常会忽略冲突的指令，保持任务准确性但未能遵守用户请求。这表明任务能力的提高并不能自动转化为对模型行为的可靠控制，而标准的准确性指标可能会掩盖指令遵循方面的失败。 AI
影响 强调了需要超越标准准确性之外的更好评估指标，以确保对LLM行为的可靠控制。
排序理由 分析LLM行为的研究论文。[lever_c_research降级：ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
arXiv:2607.19608v1 Announce Type: new Abstract: Instruction tuning is meant to make language models follow user requests, yet it is unclear whether small models comply when an instruction conflicts with their usual task behavior. We study this across three tasks - multiple-choice…