一位用户成功在三星 S26 Ultra 手机上测试了私有的 Qwen 35B MoE LLM 运行时，发现模型的活动占用内存符合设备要求。初步优化后，该移动设备上的模型处理速度约为每秒 90 个输入 token 和每秒 8 个输出 token。该用户是自学 AI/ML 的，没有正式的机构背景，正在寻找合作者进行进一步测试，并且由于其独立身份，论文被 arXiv 暂时搁置。 AI
影响 展示了在移动硬件上运行复杂 LLM 的潜力，预示着未来设备端 AI 能力的进步。
排序理由 该条目描述了在消费级设备上对特定 LLM 进行的技术测试和性能评估，符合研究类别。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
