实体 hierarchical LM

hierarchical LM

PulseAugur coverage of hierarchical LM — every cluster mentioning hierarchical LM across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_214818 · Aug 16 · 00:11

新的多字节预测加速了分层语言模型

研究人员开发了一种称为多字节预测（MBP）的新方法，以加速字节级分层语言模型的推理速度。MBP并行生成多个字节，在多令牌预测（MTP）范例的基础上进行了创新，例如可变长度预测窗口和新颖的注意力掩码方案。这种方法允许并行字节预测而不损害因果关系，在包括指令遵循、问答、摘要和机器翻译在内的各种生成任务中实现了性能和推理吞吐量之间的帕累托最优平衡。