PulseAugur
中
实时 16:26:26
实体 jerk

jerk

PulseAugur coverage of jerk — every cluster mentioning jerk across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
3
90 天内 6
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 3
层级分布 · 90 天
主题
时间线
  1. 2026-10-22 research_milestone Perplexity and NVIDIA introduced JOLT, a post-training method that trains one model as both teacher and student. 来源
  2. 2026-10-22 research_milestone Perplexity and NVIDIA researchers introduced JOLT, a joint teacher-student reinforcement learning method that significantly reduces training compute. 来源
最近 · 第 1/1 页 · 共 6 条
  1. TOOL · CL_315529 ·

    Perplexity 和 NVIDIA 发布 JOLT 训练方法

    Perplexity 和 NVIDIA 开发了 JOLT,一种新颖的训练后技术,它使用单个模型同时充当教师和学生。该方法通过允许教师模型基于特权上下文提供反馈来提高效率,从而显著减少所需的训练 token。JOLT 已展示出强大的性能,在 MATH 数据集上以少 6.5 倍的 token 实现了与 GRPO 相当的准确率,并在 AppWorld 上达到了 72.09% 的通过率。

  2. TOOL · CL_314922 ·

    Perplexity 和 NVIDIA 发布 JOLT,用于高效的 LLM 后训练

    来自 Perplexity 和 NVIDIA 的研究人员开发了 JOLT,一种用于语言模型的创新后训练方法,该方法使用单个模型同时充当教师和学生。这种方法使用特权信息训练教师,而学生则在没有这些信息的情况下学习,但至关重要的是,教师也经过训练以确保其反馈保持相关性。JOLT 在 MATH 数据集上以 GRPO 准确率相匹配,但处理的训练 token 减少了 6.5 倍,并在 AppWorld 和 LiveCodeBench v6 等各…

  3. RESEARCH · CL_315996 ·

    Perplexity 的 JOLT+ 方法以更少的训练 token 优于 GRPO

    Perplexity 推出了 JOLT+,一种新颖的训练后方法,其性能显著优于 GRPO 等现有的强化学习技术。JOLT+ 采用一种自蒸馏方法,其中一个模型同时充当教师和学生,教师向学生提供反馈。该方法在包括数学和编码任务在内的各种基准测试中都表现出卓越的性能,与 GRPO 相比,在训练 token 数量大大减少的情况下实现了更高的准确性。

  4. TOOL · CL_206591 ·

    JoLT方法使用双潜在流生成高分辨率图像

    研究人员推出了一种新颖的高分辨率图像生成方法JoLT(Joint Latent Trajectories)。与先前先创建低分辨率图像然后进行放大的方法不同,JoLT在每一步同时对低分辨率和高分辨率的潜在图像进行去噪。这种双流方法允许低分辨率潜在图像指导整体布局,而高分辨率潜在图像则完善细节,从而生成细节丰富、视觉效果出色的图像。

  5. TOOL · CL_167535 ·

    新的JOLT方法优化分词,优于BPE

    研究人员开发了一种名为联合优化贪婪最长匹配分词(JOLT)的新方法,以改进子词词汇训练。JOLT将词汇学习表述为整数规划问题,确保优化后的分词与实践中使用的贪婪最长匹配解码一致,这与以往基于启发式的方法(如字节对编码(BPE))不同。该方法通过求解线性规划松弛并选择性地添加高阶分词来扩展。JOLT展示了显著的改进,缩小了BPE留下的89.6-99.4%的压缩差距,并在保留数据上产生的词元数量减少了多达0.78%。

  6. RESEARCH · CL_139599 ·

    新方法旨在提高 LLM KV 缓存压缩效率

    研究人员正在开发先进的技术来压缩大型语言模型 (LLM) 的键值 (KV) 缓存,这是推理过程中内存成本的主要贡献者。JoLT 和 FlashJoLT 等新方法利用张量分解和残差分配,在性能损失极小的情况下实现了显著压缩,如在 Mistral-7B-v0.3 和 Llama 2 13B 等模型上所证明的。其他研究探讨了查询可见性如何影响压缩方法的排名,一些方法在事先不知道查询的情况下表现不佳。此外,PM-KVQ 和 REAL 等方法旨…