Program of Thought Prompting
PulseAugur coverage of Program of Thought Prompting — every cluster mentioning Program of Thought Prompting across labs, papers, and developer communities, ranked by signal.
-
新研究致力于 LLM KV 缓存优化以提高效率 · 已追踪 10 个来源
近期研究论文引入了优化大型语言模型中 KV 缓存管理的新技术，解决了内存瓶颈并提高了推理效率。vToken、GCache、LinearKV、KVDiagnosis、SemPIC、SPECTRA、CommitKV、RippleKV、CoinRAG 和 GraceKV 等方法提出了各种策略，包括令牌级虚拟化、全局影响缓存、与位置无关的缓存、诊断基准测试、语义缓存、谱变换编码、生命周期感知压缩和全局资源分配。这些方法旨在减少内存使用量、加速…
-
新的 Formula-One Prompting 提升 LLM 数学解题能力
研究人员开发了一种名为 Formula-One Prompting (F-1) 的新提示技术，显著提高了语言模型解决应用数学问题的能力。F-1 提示模型首先形式化问题的控制方程，然后再采用选定的求解策略，如 Chain-of-Thought 或 Program-of-Thought。这种源自对数万亿个 token 分析的方程优先方法，在各种基准测试中，尤其是在金融领域，通过以更少的 token 实现更高的准确性，证明比现有方法更有效。
-
RePoT 通过检查点恢复增强 LLM 规划能力
研究人员推出 RePoT，一种提高大型语言模型思路程序（PoT）可靠性的方法。RePoT 解决了生成计划中单个无效步骤可能导致整个序列失效的问题。通过将计划视为一系列检查点，RePoT 可以从最后一个有效步骤恢复执行，只需最少的额外 LLM 调用，从而提高了 PuzzleZoo-775 和 PlanBench Blocksworld 等基准测试的成功率。这种方法显示出显著的收益，尤其与仅错误反馈相比，突显了检查点信息对于恢复的重要性。