实体
ARM CPUs
ARM CPUs
PulseAugur coverage of ARM CPUs — every cluster mentioning ARM CPUs across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
Llama-Mobile 框架实现了面向移动设备的高效 VLM 量化
研究人员开发了 Llama-Mobile，一个用于量化视觉语言模型 (VLM) 的框架，使其适合在移动设备上部署。该方法使用模型本身生成训练数据，并采用一种新颖的每参数 2.7 位格式，该格式针对 Arm CPU 进行了优化。该方法成功应用于压缩 Llama 3.2 11B Vision Instruct 模型至 3.7 GB，同时在视觉问答任务上保持了强大的性能。
-
DeepSeek 讨论 ARM64 在人工智能计算中的崛起
DeepSeek 讨论了 ARM64 架构日益增长的受欢迎程度，指出其功耗低，尽管 CPU 速度通常较慢。讨论强调，对于人工智能计算，特别是矩阵运算，性能更多地取决于数据传输到 GPU 的速度，而非原始 CPU 速度。DeepSeek 还指出，与 ARM 的方法相比，x86 架构复杂、可变长度的指令对于人工智能任务效率较低。
-
1位AI基础设施可在CPU上实现更快、无损的LLM推理
研究人员开发了一个名为“this http URL”的软件栈，可在CPU上实现1位大型语言模型（LLM），如BitNet b1.58的快速、无损推理。这种新基础设施在x86 CPU上实现了2.37倍至6.17倍的速度提升，在ARM CPU上实现了1.37倍至5.07倍的速度提升，具体取决于模型大小。目标是使LLM更高效，并能在更广泛的设备上部署。