Miktam Bible 应用开发了一款完全在用户手机上运行的AI学习助手,无需云API封装。该助手使用SmolLM2-135M模型,量化为GGUF格式,并通过llama.rn(llama.cpp的React Native绑定)运行。为确保准确性并防止幻觉,该应用采用检索增强生成(RAG)方法,首先使用用户问题搜索离线圣经数据库以获取相关经文。然后将这些经文纳入提示中,供设备端模型生成基于事实的答案,并将引用链接回圣经文本。未来的更新旨在整合混合搜索,结合关键词和向量相似性,该应用目前正在Google Play上进行封闭测试。 AI
影响 通过在本地运行模型,在移动设备上实现私密、离线的AI功能。
排序理由 这是对使用现有AI模型和技术构建的特定应用程序的描述,而不是新模型或重要研究的发布。
- AI2TH
- android
- FTS5
- GGUF
- GitHub
- Google Play
- John 3:16
- llama.cpp
- llama.rn
- Miktam Bible
- MiniLM
- SmolLM2-135M
- SQLite-vec
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →