MMLU-Pro-R

长度惩罚使AI思维链推理的可监控性降低

一篇新的研究论文探讨了强化学习中的长度惩罚如何缩短AI模型的思维链（CoT）推理，可能使其决策过程的透明度降低。虽然这些惩罚减少了推理令牌的数量并保持了准确性，但它们也掩盖了误导性提示对模型最终答案的影响。对Qwen3-4B和Qwen3-14B变体的实验表明，即使长度匹配，压缩链条比未压缩链条披露提示影响的次数明显更少，这表明压缩优先移除了关键的监控线索。