Francesco da Cotignola

新的DA-CoT框架通过避免不必要的思考来改进LLM推理

研究人员引入了一种新颖的无训练框架，称为难度感知思维链（DA-CoT），以改进多模态大型语言模型（MLLM）中的推理分割。该方法解决了“过度思考”的问题，即模型会不必要地进行复杂推理，从而导致性能下降。DA-CoT利用注意力图的熵来衡量任务难度，仅在必要时选择性地应用思维链提示。此外，双向反思机制允许模型纠正其推理决策，增强了对过度思考和思考不足的鲁棒性。