实体 induction heads

induction heads

PulseAugur coverage of induction heads — every cluster mentioning induction heads across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_12527 · May 1 · 19:17

研究人员提出使用张量变换器对玩具语言进行机械解释

研究人员正在提议一个项目，使用已知的计算基元（如归纳头和跳跃三元组）来构建一个玩具语言。这种受控环境将允许研究 Transformer 模型的基本问题，例如抑制、错误校正和组合性。通过在此语言上训练张量变换器，该团队旨在开发更好的机械解释工具，并获得适用于现实世界大型语言模型的见解。