最近的一篇论文详细介绍了将小型语言模型（SLM）直接集成到移动应用程序中以供离线使用的工程障碍。这项研究以猜词游戏 Palabrita 为例，发现由于输出格式违规和延迟等问题，最初雄心勃勃的设计不得不进行缩减。研究得出结论，设备端 SLM 是可行的，但当其任务受到显著限制时最可靠，并为开发人员提供了八项启发式方法。 AI
影响 为开发人员将 SLM 集成到移动应用中提供了实用的启发式方法，强调任务限制以提高可靠性。
排序理由 学术论文，详细介绍了设备端 SLM 集成的工程挑战和发现。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2604.24636v1 Announce Type: cross Abstract: On-device Small Language Models (SLMs) promise fully offline, private AI experiences for mobile users (no cloud dependency, no data leaving the device). But is this promise achievable in practice? This paper presents a longitudina…
On-device Small Language Models (SLMs) promise fully offline, private AI experiences for mobile users (no cloud dependency, no data leaving the device). But is this promise achievable in practice? This paper presents a longitudinal practitioner case study documenting the engineer…