Gram-Space框架大幅降低神经符号AI的内存使用

研究人员推出Gram-Space，一个旨在解决神经符号AI内存瓶颈的新型压缩框架。该框架利用Gram-Schmidt过程，在一个紧凑的正交坐标系中表示码本向量，为VSA算子保留了重要的点积结构。在神经符号推理数据集上的基准测试表明，Gram-Space可以将GPU内存使用量显著降低高达15.75倍，并将推理延迟提高高达3.62倍，从而提高这些工作负载的硬件利用率。 AI

影响 降低神经符号AI的内存和延迟，可能支持更大、更复杂的模型。

排序理由 详细介绍AI效率新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• DagsHub
• Gotit.pub
• Gram-Schmidt process
• Gram-Space
• graphics processing unit
• Hugging Face
• IArxiv
• neuro-symbolic AI
• ScienceCast

• 论文
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →