一位开发者创建了一个本地检索增强生成(RAG)系统,旨在使研究实验室的笔记和幻灯片可搜索。该系统利用多个 AI 模型,包括用于幻灯片描述的 Gemma 4.31B 和用于文本嵌入的 Qwen3 Embedding 4B,运行在 AMD 硬件上。一个更大的模型 DeepSeek-v4.1-Flash-1017 使用检索到的片段处理查询并生成答案,整个设置托管在 Nvidia DGX Spark 系统上。该系统旨在为研究人员提供可追溯到特定文件和行号或幻灯片编号的精确答案,并计划每日进行索引和更新。 AI
影响 使研究人员能够查询和检索非结构化实验室数据中的信息,可能加速知识发现。
排序理由 开发者构建的 RAG 系统,使用了现有模型和硬件。
在 Mastodon — mastodon.social 阅读 →
- AMD
- DeepSeek-v4.1-Flash-1017
- DGX Spark
- Gemma 4.31B
- Japan
- Nvidia
- Ollama
- Open-WebUI
- qdrant
- Qwen3 Embedding 4B
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →