实体 in-distribution

in-distribution

PulseAugur coverage of in-distribution — every cluster mentioning in-distribution across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_332897 · Oct 28 · 22:44

新研究弥合了 GPT-2 模型中的组合性差距

一篇新研究论文探讨了 Transformer 语言模型（特别是 GPT-2）在组合泛化方面的局限性。研究发现，虽然这些模型在分布内可以正确地组合已知事实，但它们在分布外知识方面常常失败。通过修改训练数据，使原子事实与模型的推理电路对齐，研究人员成功地弥合了这种组合性差距，表明这不是一个固有的架构缺陷，而是可以通过训练分布设计来解决的。