实体
MTP drafters
MTP drafters
PulseAugur coverage of MTP drafters — every cluster mentioning MTP drafters across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Google 推出更快的 Gemma 4 并扩大 Kaggle 基准赠款
Google 宣布其 Gemma 4 模型现已运行速度提高三倍，这得益于引入了 MTP drafters。此项增强功能使模型能够同时预测和输出多个 token，在保持输出质量和智能的同时显著提高了推理速度。此次更新侧重于改进模型推理性能。
-
Google's Gemma 4 models achieve 3x speed boost with speculative decoding
Google 为其 Gemma 4 开源模型发布了多令牌预测 (MTP) 草稿器，可将推理速度提高高达三倍。这项进展利用了投机解码架构，允许一个轻量级的草稿器模型同时预测多个令牌，而主模型则对其进行验证。MTP 草稿器的目标是解决标准 LLM 推理中的内存带宽瓶颈，在不影响输出质量或推理准确性的情况下提供更快的性能。