PulseAugur
中
实时 23:33:26
English(EN) DanLing NestedTensor: Composable Multi-Ragged Tensors for Deep Learning

DanLing NestedTensor 通过 PyTorch 抽象提高了深度学习效率

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员推出了 DanLing NestedTensor，这是一种用于 PyTorch 的新型张量抽象，旨在更有效地处理深度学习中可变大小的输入。这种抽象使多不规则结构成为张量本身的固有属性，减少了填充造成的计算浪费并提高了性能。基准测试显示，与传统的填充方法相比，对于包括 BERT 和 FCN 主干在内的各种深度学习模型，速度显著加快，并且在高变化批次中内存分配明显减少。 AI

影响 这种新的张量抽象可能导致处理可变长度序列的模型训练和推理效率更高，从而有可能降低硬件成本并加速开发。

排序理由 该集群包含一篇详细介绍深度学习计算新技术方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

DanLing NestedTensor 通过 PyTorch 抽象提高了深度学习效率

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Zhiyuan Chen ·

    DanLing NestedTensor: 可组合的、多重不规则张量用于深度学习

    arXiv:2609.30379v1 Announce Type: cross Abstract: Variable-size inputs are common in deep learning, but dense batching allocates a shared envelope and spends computation on padding. The cost multiplies across varying axes: an explicit pair state allocates $BN_{\max}^2$ positions …

相关实体

相关话题