chain-of-thought reasoning
PulseAugur coverage of chain-of-thought reasoning — every cluster mentioning chain-of-thought reasoning across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新研究论文详述用于复杂推理的课程学习
一篇题为《Learning to Reason with Curriculum II: Compositional Generalization》的新研究论文探讨了如何将复杂问题分解为更简单的子问题，从而实现更高效的学习。该研究侧重于模拟半自动机，证明与直接方法相比，基于课程的方法显著减少了所需的监督量。这种方法在监督微调和具有可验证奖励的强化学习等场景中显示出提高学习效率的潜力。
-
新的KIRP框架通过外部知识和CoT推理增强零样本立场检测
研究人员开发了一个新的零样本立场检测框架KIRP，旨在提高识别推文等短文本中立场的准确性。该框架通过整合外部知识图谱和采用反思性思维链（CoT）推理，解决了上下文稀疏性以及隐式目标与内容之间的相关性等挑战。KIRP还利用了立场感知对比学习和三层迭代原型网络，以更好地区分中立和不相关标签。在包括新构建的日语推文数据集在内的多个数据集上的实验表明，KIRP以高F1分数实现了最先进的性能。
-
大型语言模型通过自问来揭示推理缺陷
研究人员开发了一种新颖的方法，通过提问来探测大型语言模型内部的推理状态。该技术被构建为一种师生互动，训练一个探测器根据模型在生成问题之前和之后的隐藏状态来预测其输出的正确性。研究发现，模型自行生成的问题提供了其不确定性和正确性的信号，尽管基于该信号的干预有时会阻碍而非帮助纠正轨迹。
-
新的AI防御框架使用模仿博弈来对抗对抗性幻觉
研究人员开发了一种新的防御机制，用于对抗生成式AI模型的对抗性攻击，称为“用于对抗性幻觉的模仿博弈”。该方法利用一个由链式思考推理引导的多模态生成代理来理解和重建数据的核心含义，而不是试图逆转它。实验证明了该框架在各种攻击场景中有效消除演绎性和归纳性对抗性幻觉的能力。
-
大型语言模型计算纳什均衡，但通过末层覆盖来抑制它
研究人员调查了大型语言模型（LLMs）在战略互动中为何偏离纳什均衡博弈。通过检查 Llama-3 和 Qwen2.5 等开源模型，他们发现虽然对手历史得到了很好的编码，但纳什行动本身的表征却很弱。模型末层的亲社会覆盖似乎抑制了纳什行动，导致了合作行为。有趣的是，思维链推理可以提高大于 70B 参数的大型模型的纳什博弈能力，但会降低小型模型的纳什博弈能力。