Test-Time Training on Graphs with Large Language Models (LLMs)
PulseAugur coverage of Test-Time Training on Graphs with Large Language Models (LLMs) — every cluster mentioning Test-Time Training on Graphs with Large Language Models (LLMs) across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
新型异步感知机实现高效测试时训练
研究人员推出了一种新颖的异步感知机（APM）架构，专为高效测试时训练（TTT）而设计。APM 可以按任意顺序处理图像块，使其能够在没有先验数据集特定训练的情况下识别分布外图像。该系统通过从测试样本中提取单一表示来预测语义感知特征，从而在性能上与现有的 TTT 方法相媲美。除了 TTT，APM 还展示了单通道 2D 图像语义聚类的潜力，并为输入感知作为场的观点提供了经验支持。
-
新研究探讨大型语言模型自我改进和元认知 · 跟踪3个来源
两篇新研究论文探讨了改进大型语言模型（LLM）的方法。一篇论文详细介绍了一种通过整合人类反馈来驱动自我改进的策略，以增强检索增强生成（RAG）系统。另一篇论文全面概述了大型语言模型中的元认知，讨论了其基础、当前进展和未来机遇。第三篇论文介绍了自导测试时训练（S-TTT），通过将适应性集中在相关证据片段上来改进长上下文LLM，在LongBench-v2和LongBench-Pro等基准测试中显示出显著的准确性提升。
-
新的上下文微调方法增强了LLM的少样本适应能力
研究人员推出了一种名为上下文微调（Context Tuning）的新颖方法，旨在无需更新权重即可提高大型语言模型（LLM）的少样本适应能力。该技术利用模型的上下文学习能力初始化一个可训练的记忆表示，然后通过基于梯度的优化进行精炼。在MMLU和BIG-Bench Hard等多个基准测试上的评估表明，上下文微调在性能上超越了传统的上下文学习和基于提示的适应方法，同时在效率更高的情况下展现出与测试时训练相当的准确性。
-
新的帧遗忘网络（Frame Forgetting Network）解决了长视频的测试时训练问题
研究人员开发了一种名为帧遗忘网络（Frame Forgetting Network, FFN）的新方法，以改进长视频的测试时训练（Test Time Training, TTT）。现有的TTT方法在处理长达数小时的视频和对冗余帧进行更新时面临计算需求高的挑战。FFN通过每次仅处理三帧并引入“惊喜度量”（surprise metric）来根据新信息内容自适应地调整处理窗口，从而解决了这些问题。这种方法能够高效地适应长视频，在密集分割和视…
-
新理论解释并改进了人工智能模型的测试时训练
研究人员开发了一个决策理论框架，用于理解和改进测试时训练（TTT），这是一种将预训练模型适应特定提示的方法。新方法将TTT视为隐式贝叶斯推理，揭示了其有效性取决于更新是否与提示的信噪比相匹配以及是否与查询相关方向一致。这种理论视角解释了TTT的不稳定性，并为选择更新步骤和模型组件（如Transformer块和头）提供了原则性指导，以提高准确性并防止过拟合。
-
通过测试时训练实现视觉 Transformer 的线性化
研究人员开发了一种方法，使用测试时训练（TTT）将预训练的 Softmax 注意力模型适配到线性复杂度架构。该方法通过关注架构和表示的对齐来解决不同注意力机制之间的表示差距。该技术应用于 Stable Diffusion 3.5，产生了一个新模型 SD3.5-T$^5$，该模型在仅一小时的微调后，以显著更快的推理速度实现了可比的图像质量。