研究人员调查了AI中“思考模型”的内部工作原理,特别是关注像Qwen3-4B这样的模型如何处理推理任务。他们发现,“思考”能力并非一个独立的推理引擎,而是通过在提示中注入仅四个特定的模板token来触发的。通过广泛的测试和使用GRPO强化学习训练一个更小的模型,该研究衡量了这些模型的性能、VRAM成本以及潜在的过度思考倾向。 AI
影响 揭示了AI推理是由简单的token注入触发的,这可能会影响开发人员设计和优化LLM交互的方式。
排序理由 该条目详细介绍了一项关于AI模型内部机制的研究,特别是推理是如何被触发和衡量的。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →