一个名为 VibeVoice 的 15 亿参数语言模型已成功在 iPhone 上本地运行，仅使用了约 2.2 GB 的内存。该模型实现的生成速度最高可达实时速度的 1.28 倍。此举是集成该模型到 audio.cpp 框架的一部分，并计划在 0.6 版本发布后发布代码和 xcframework。 AI
影响 使得在移动设备上运行先进的语言模型成为可能，潜在地扩展了可访问性和用例。
排序理由 展示了特定模型在消费级设备上运行。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1vfuawi/vibevoice_15b_running_locallyon_an_iphone_only_22/"> <img alt="VibeVoice 1.5B Running Locally...On an iPhone! Only ~2.2 GB of Memory and Up to 1.28× Real-Time Speed" src="https://external-preview.redd.…