LatentSeek

GradCuit 在不改变权重的情况下增强 LLM 的测试时推理能力

研究人员开发了 GradCuit，一种在不改变模型权重的情况下增强 LLM 测试时推理能力的新颖方法。该技术涉及将可优化潜向量插入到 Transformer 的中间层，使梯度能够直接流向这些向量。这种方法绕过了 token 解码的不可微分特性，实现了更稳定有效的信用分配。GradCuit 在多个模型和基准测试中的平均准确率为 64.5%，优于 Chain-of-Thought 和 LatentSeek 等现有方法。