实体 IP-TTCD

IP-TTCD

PulseAugur coverage of IP-TTCD — every cluster mentioning IP-TTCD across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_180518 · Aug 4 · 04:00

新的TTCD框架在推理过程中增强长上下文语言模型

研究人员推出了一种名为测试时上下文蒸馏（TTCD）的新型长上下文语言建模框架，该框架可在推理过程中优化参数更新。与以往的方法不同，TTCD引入了一个自监督目标，以策略性地分配有限的内存容量来存储未来可能相关的信息。实验表明，TTCD，特别是其就地变体（IP-TTCD），在长上下文语言建模任务中优于DeltaNet和滑动窗口注意力等现有方法。该方法使预训练的Transformer模型能够在推理过程中持续适应其参数，从而以最小的架构更改获…