研究人员开发了Deltoris,一个旨在为具身AI系统中的视觉-语言-动作(VLA)模型实现实时推理的新框架。该框架解决了基于扩散的VLA模型的高计算需求,这些模型对于先进的机器人和AI代理至关重要。Deltoris采用时间感知比特稀疏性来减少冗余计算,并通过推测性推理来分摊数据加载成本,从而显著提高了效率。 AI
影响 Deltoris可以显著降低在现实环境中运行的AI代理的延迟和能耗。
排序理由 该集群包含一篇详细介绍AI推理新算法和硬件协同设计框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Deltoris
- diffusion-based VLA models
- Embodied AI
- Mobile GPUs
- Vision-Language-Action (VLA) models
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →