Sudoku-Extreme
PulseAugur coverage of Sudoku-Extreme — every cluster mentioning Sudoku-Extreme across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
新的二元离散扩散模型增强了推理任务
研究人员推出了一种名为二元离散扩散的新型离散扩散模型方法，专为推理和规划任务设计。与先前一步擦除令牌身份的方法不同，二元离散扩散为每个位置维护一组候选令牌，代表部分不确定性。该方法在数独极难版、Boxoban 和图着色等任务上表现优于现有基线，并在语言建模方面也取得了有竞争力的结果。
-
新的DRLM方法通过并行草稿精炼增强复杂推理能力
研究人员推出了一种新颖的复杂推理方法——草稿精炼语言模型（DRLMs），该方法利用候选草稿的并行修订。与传统方法不同，DRLMs采用单一去噪器在一个前向传播中提出和评估这些修订，无需单独的评分模型。该方法在Countdown、Sudoku-Extreme和Maze-Hard等基准测试中，相较于自回归和离散扩散基线，展现出更优越的性能，并在参数量相对较少的情况下实现了显著的准确性提升。
-
Tiny Recursive Message Passing 提升AI推理能力，模型参数高效
研究人员开发了一种名为 Tiny Recursive Message Passing (TRMP) 的新方法，该方法将消息传递神经网络与递归 Transformer 相结合。该方法通过实现深度递归的稳定训练并纳入测试时程序，从而提高了复杂推理任务的性能。TRMP 模型展示了参数效率，在 Sudoku-Extreme 等任务上取得了高精度，参数数量和训练时间均显著少于现有的神经网络基线，同时还表现出对更大问题实例的零样本迁移能力。
-
InfiLoop架构将Transformer推理扩展到数万次迭代
研究人员开发了InfiLoop，一种用于Transformer的新型循环原生残差连接，旨在提高复杂推理任务的性能。这种新架构通过学习选择性地保留过去的计算并管理新的更新，解决了传统循环Transformer在迭代次数增加时出现的性能下降问题。InfiLoop在Sudoku-Extreme等任务上取得了优异的成绩，准确率达到97.9%，并且即使在超过20,000次测试时间迭代后仍持续改进，凸显了其在深度上的有效扩展能力。
-
新研究挑战关于循环模型压缩的假设
研究人员调查了循环模型的压缩，这些模型重复应用相同的权重进行推理。与普遍的看法相反，累积的舍入误差并不是这些模型崩溃的唯一原因。相反，当循环稳定时，舍入误差会改变静止点，只有当这种变化超出容差时才会导致失败。这一见解可以预测模型的失败，并解释为什么有些模型能够恢复，因为具有 8 位权重的最终循环可以恢复答案。
-
新研究探索循环语言模型的效率提升
研究人员正在探索提高循环语言模型效率和性能的新方法。一种方法侧重于在循环状态中实现“不动点”，这可以降低训练和解码成本。这涉及到优化训练先验和输入注入技术，从而得到在保持准确性的同时需要更少内存和计算的模型。另一项研究调查了循环模型的模型压缩，发现舍入误差仅在模型循环不稳定时才会引起严重问题，这为预测和从压缩失败中恢复提供了新方法。
-
Equilibrium Reasoners 通过学习吸引子实现可扩展推理
研究人员推出了一种新框架 Equilibrium Reasoners (EqR)，该框架能够实现迭代神经网络模型中的可扩展推理。EqR 假设可泛化的推理源于学习任务条件吸引子，而吸引子是稳定在有效解决方案上的动力学系统。这种方法允许模型根据任务难度自适应地分配计算资源，通过扩展测试时间计算量，显著提高了在 Sudoku-Extreme 等复杂问题上的准确性。
-
新框架衡量人工智能空间推理中的信息流
研究人员引入了一个名为“交互局部性”的新框架，用于衡量人工智能模型在空间推理任务中信息流动的过程。该框架分析计算是否保持局部化或跨越语义边界，并将其应用于HRM和TRM等分层和递归推理模型。研究发现，这些模型中的高级状态倾向于在局部写入信息，然后通过递归更新累积到更广泛的结构中，这种模式在具身3D模型模块边界处也得到了观察。
-
概率性微型递归模型提升解谜准确率
研究人员开发了一种概率性微型递归模型（PTRM），以提高微型递归模型（TRM）在复杂推理任务上的性能。与可能陷入次优解的确定性 TRM 不同，PTRM 在递归过程中注入高斯噪声，从而实现随机探索。这使得能够并行探索各种解决方案路径，从而在 Sudoku-Extreme 和 Pencil Puzzle Bench 等基准测试中显著提高了准确性。PTRM 以少量参数和远低于前沿 LLM 的成本实现了高准确率。