PulseAugur
中
实时 06:57:49
English(EN) Rethinking Expressivity and Efficiency in Test-Time Training

新的 E^2-TTT 方法提高了长上下文 AI 处理效率

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种新颖的测试时训练 (Test-Time Training) 方法 E^2-TTT，该方法在长上下文处理中平衡了表达能力和效率。该方法允许并行化的块级训练，同时保留更新规则的时间结构，在语言建模和上下文检索方面优于先前的方法。E^2-TTT 在“Needle in a Haystack”测试中表现强劲，在训练上下文长度的八倍时仍保持超过 90% 的准确率，并能匹配高效分块方法的吞吐量。 AI

影响 增强了 AI 模型长上下文处理的能力和效率。

排序理由 该集群包含一篇详细介绍一种新的测试时训练方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的 E^2-TTT 方法提高了长上下文 AI 处理效率

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Zeyun Zhong, Joya Chen, Manuel Martin, Frederik Diederichs, Juergen Gall, Juergen Beyerer ·

    重新思考测试时训练的表达能力和效率

    arXiv:2608.21308v1 Announce Type: new Abstract: Test-Time Training (TTT) enables long-context processing via continuous weight updates during inference, but current methods struggle to balance the expressivity of per-token update dynamics with the hardware efficiency of chunk-wis…

相关实体

相关话题