Circles 应用的开发者创建了一个定制的、设备端大语言模型,用于将语音笔记处理成结构化的联系人信息,出于隐私和成本考虑,避免了基于云的处理。最初尝试使用通用的 Gemma 4 E2B 模型速度太慢且准确性不高。通过在18,000条笔记的合成数据集上微调一个规模小得多的 Gemma 3 270M 模型,该团队在速度和准确性方面都取得了显著的改进,在手机CPU上大约一秒钟即可处理笔记。 AI
影响 展示了高度专业化的设备端大语言模型在消费者应用中处理隐私敏感数据的可行性。
排序理由 这是对大语言模型在特定软件产品中的具体应用描述,而不是新模型或研究的发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →