Zihao Zheng
PulseAugur coverage of Zihao Zheng — every cluster mentioning Zihao Zheng across labs, papers, and developer communities, ranked by signal.
-
DynaGraph框架通过动态重构降低LLM延迟和计算成本
研究人员开发了DynaGraph，一个旨在提高大型语言模型执行复杂推理任务效率的新型框架。该系统动态重构其拓扑结构，通过共享基础模型上的多路复用适配器来减少计算冗余，并支持在单个GPU上部署。DynaGraph的自愈能力通过触发细粒度修补或子图重构来解决错误和逻辑断裂。实验表明，使用DynaGraph的8B参数模型在推理能力上可与72B的单体模型相媲美，同时延迟和令牌消耗显著降低。
-
VLN-Cache通过动态令牌缓存提高视觉语言导航模型的速度
研究人员开发了VLN-Cache，一个旨在提高视觉和语言导航（VLN）模型效率的新框架。该方法通过重用稳定的视觉令牌，解决了实时应用中冗余计算的挑战。VLN-Cache 结合了视图对齐重映射来处理相机视角的改变，以及任务相关性过滤器来管理导航过程中语义焦点的转移。在 R2R-CE 基准测试上的实验表明，在保持导航成功率的同时，速度提升高达 1.52 倍。
-
RoboECC框架优化VLA模型在边缘和云端的部署
研究人员开发了RoboECC，一个通过在边缘设备和云之间分配计算来实现视觉-语言-动作（VLA）模型部署的新框架。该方法解决了VLA模型的高推理成本问题，VLA模型在具身智能应用中很常见。RoboECC识别模型执行的最佳分割点，并动态适应网络波动，以最小的开销实现了高达3.28倍的速度提升。
-
新方法KERV和HeiSD通过运动学感知加速具身VLA模型
两篇新研究论文介绍了加速用于机器人控制的视觉-语言-动作（VLA）模型推理速度的方法。KERV利用卡尔曼滤波器预测动作并调整接受阈值，在成功率损失极小的情况下实现了高达37%的加速。HeiSD提出了一种混合方法，将不同的推测解码技术与运动学感知相结合，在模拟中达到高达2.45倍的加速，在真实场景中达到2.41倍的加速，同时保持高成功率。