Qualcomm Hexagon NPU
PulseAugur coverage of Qualcomm Hexagon NPU — every cluster mentioning Qualcomm Hexagon NPU across labs, papers, and developer communities, ranked by signal.
- 2026-06-11 research_milestone A new paper details an energy-efficient RAG pipeline running on a mobile NPU, achieving significant speed and energy improvements over CPU and GPU baselines. 来源
2 天有情绪数据
-
Hugging Face 发布 LFM3 多模态模型，用于专业化边缘 AI
Hugging Face 发布了 LFM3，这是一个专为专业化智能设计的新型 Liquid Foundation Models 系列。这些模型采用三混合架构和新的训练配方，使 LFM3-1.7B 在参数更少的情况下性能优于 LFM2.5-2.6B。LFM3 在单一骨干网络上支持文本、视觉和音频等多种模态，并针对边缘部署进行了优化，文本模型在 4 位精度下约为 1 GB，并为设备上的代理提供 256K 上下文窗口。这些模型专为专业化而构…
-
设备端LLM引擎NobodyWho和RunAnywhere的速度和功能对比
对两个设备端LLM推理引擎NobodyWho和RunAnywhere的对比显示，它们在性能和许可方面存在显著差异。虽然两者都基于llama.cpp构建并支持各种移动开发框架，但NobodyWho在初始提示响应速度方面表现更快，并且在处理对话上下文方面表现更优，避免了RunAnywhere观察到的急剧减速。NobodyWho还提供更灵活的多模态输入能力和更好的工具调用记忆。此外，与RunAnywhere的分级许可结构相比，NobodyW…
-
移动NPU实现能效型端侧RAG
研究人员开发了一个能效型的检索增强生成（RAG）流水线，该流水线完全在移动神经网络处理单元（NPU）上运行，特别是高通公司在Snapdragon X Elite中发现的Hexagon NPU。该系统在索引和查询处理的速度、能耗和延迟方面，显著优于CPU和GPU基线。评估表明，NPU加速的RAG在答案质量方面与CPU和GPU方法相当，为私密、低延迟和可持续的端侧AI应用提供了可行的途径。