实体
A100-40GB
A100-40GB
PulseAugur coverage of A100-40GB — every cluster mentioning A100-40GB across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新方法提高 LLM 的推测解码效率 · 已追踪 10 个来源
多篇研究论文介绍了增强大型语言模型 (LLM) 推测解码的新方法,旨在提高效率和准确性。DRelay 专注于使用全局上下文修复并行草稿中的早期选择错误,而 DEdit 提出对草稿进行迭代编辑以纠正错误并扩展已接受的前缀。UBTree 结合了 unigram 和 bigram 模型来创建多样化的草稿树,而 LongSpark 开发了一种独立于前缀长度的固定成本并行草稿器。其他方法,如 SEED 重用已验证的上下文表示以加快草稿速度,HA…
-
新的检查点架构 DataStates-LLM 提高了 LLM 训练效率
研究人员开发了 DataStates-LLM,这是一种新的检查点架构,旨在提高大型 Transformer 模型训练的效率。该系统将状态抽象与数据移动分离,通过利用模型参数的不可变性,实现非阻塞异步快照。通过合并碎片化的、异构的分片,并将元数据序列化与批量 I/O 重叠,DataStates-LLM 解决了极端规模 LLM 训练中的瓶颈问题。