实体
llama.cpp server
llama.cpp server
PulseAugur coverage of llama.cpp server — every cluster mentioning llama.cpp server across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
使用 LLM 构建本地 RAG 系统以搜索 PDF
本文详细介绍了如何使用本地大型语言模型 (LLM) 构建一个检索增强生成 (RAG) 系统来搜索本地 PDF 文档。文章概述了必要的先决条件,包括 Python 和一个具有 OpenAI 兼容 API 的本地 LLM 服务器,例如 Ollama 或 llama.cpp server。该过程包括从 PDF 中提取文本、对文本进行分块、使用 paraphrase-multilingual-MiniLM-L12-v2 等模型生成嵌入、将这些…
-
The Brain 编排器增加了原生 MCP 工具调用和每步 LLM 覆盖
开发者发布了 'The Brain' 的第四个里程碑版本,这是一个工作流编排器,通过 MCP 协议引入了与其他工具的原生集成。此次更新允许 'The Brain' 将任何 MCP 服务器,如 Memory Vault 或 GitHub,作为工作流步骤进行调用。此外,LLM 步骤现在可以配置每次调用的覆盖参数,包括模型、提供商 URL、API 密钥和超时设置,从而可以在单个工作流中使用不同的模型。