Mastodon 的一项新更新允许用户在本地运行大型语言模型 (LLM)，通过 llama.cpp 集成了 EmbeddingGemma2 模型。此增强功能引入了多模态能力，能够从文本、图像、视频和音频等各种数据类型生成嵌入向量。该开发有助于创建文档和照片的搜索引擎。 AI
影响 使用户能够使用本地 LLM 为个人数据构建自定义搜索引擎。
排序理由 这是社交媒体平台的更新，集成了 AI 功能。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
New update: Run LLMs Locally Added EmbeddingGemma2 using llama.cpp. It includes multi modality, allowing to generate embedding vectors from text, images, video, and audio. So you build a search engine for documents and photos. https:// github.com/thomas-0816/talks/b lob/main/Run_…