实体
Qualcomm Snapdragon 855
Qualcomm Snapdragon 855
PulseAugur coverage of Qualcomm Snapdragon 855 — every cluster mentioning Qualcomm Snapdragon 855 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
设备端 LLM 推理受 CPU 扩展限制，而非模型速度
设备端 LLM 推理调试系列的第二部分探讨了 Qwen2.5-1.5B 等模型在移动设备上运行缓慢的原因。初步调查发现 llama.cpp 中存在一个交叉编译错误，该错误已被修复，但性能仍然很低。进一步分析排除了线程调度问题和热节流作为主要原因。调查发现，Android 的默认 schedutil governor（动态调整 CPU 频率）导致性能波动。将 CPU 固定在最高频率仅提高了 20% 的性能，表明峰值计算能力的利用率仍然非常低。
-
开发者发现 Android 上的大语言模型性能瓶颈源于缺少 ARM 优化
一位开发者在调查 Google Pixel 4 上大语言模型性能缓慢的问题时发现，该设备运行模型的速度比理论极限慢了 80 倍。主要原因是 llama.cpp 库中缺少 ARM 优化，特别是在为 Android 编译时缺少 `-march=armv8.2-a+dotprod+fp16` 标志。虽然添加这些标志将性能提高了 2.5 倍，但并未完全解决问题，仍存在与 CPU 调度或同步开销相关的进一步优化挑战。