实体 JTok

JTok

PulseAugur coverage of JTok — every cluster mentioning JTok across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_340674 · Nov 4 · 07:48

上海交通大学研究人员为大语言模型提出新的Transformer扩展

由颜群杰领导的上海交通大学研究人员正在探索增强大语言模型Transformer架构的新方法。他们的工作重点是在不按比例增加计算成本的情况下提高模型容量，以解决资源受限的学术团队面临的局限性。两项关键创新，JTok和xHC，分别通过修改token嵌入和残差连接，旨在提高训练效率和下游任务性能。