在一周时间里，在iPhone上本地运行LLM的实验显示出令人惊讶的强大性能，在聊天和头脑风暴等任务上几乎可以媲美桌面能力。虽然较小的上下文窗口和文档处理是限制因素，但作者发现对于大多数日常AI需求，他们的桌面设置有点大材小用，越来越倾向于使用手机。 AI
影响 展示了在移动设备上运行强大LLM的可行性日益增强，可能导致用户交互模式从传统的桌面设置转向日常AI任务。
排序理由 用户关于在手机上本地运行LLM的个人体验和观点。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p>After a week of running local LLMs exclusively on an iPhone, the author found mobile performance surprisingly close to desktop. The Gemma E2B (5B parameters) on phone handled chat, brainstorming, and even multimodal image tasks nearly as well as the 8B desktop variant. The mai…