实体 Controlled S5

Controlled S5

PulseAugur coverage of Controlled S5 — every cluster mentioning Controlled S5 across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_312659 · Oct 20 · 00:00

新的PAR方法提升语言模型长度泛化能力

研究人员推出了一种名为Progress-Aligned Recurrence (PAR) 的新方法，以提高循环语言模型在状态跟踪任务中的长度泛化能力。PAR解决了两个关键问题：它将每次迭代的预测与迄今为止的进展对齐，并重新缩放循环状态以保持一致的尺度。这种方法使模型能够显著外推到比训练时更长的序列，并在swap-S5等任务上取得高精度。