langchain-rust 库提供了一个全面的框架,用于完全用 Rust 构建 LLM 应用,无需 Python。它为 Ollama 的本地模型提供了头等集成,支持工具调用、视觉和流式传输等功能。该框架还支持九种不同的向量存储后端、BM25 关键字搜索、具有 RRF 融合的混合检索以及 GraphRAG 和 CorrectiveRAG 等高级 RAG 技术。此外,它还具有本地代码解释器和本地嵌入,以及 LangGraph 工作流和各种内存类型,所有这些都通过 Cargo 打包以便于集成。 AI
影响 使开发人员能够使用 Rust 构建 LLM 应用,可能减少本地模型部署的开销并提高性能。
排序理由 这是一个用于构建 LLM 应用的新软件库发布,而不是前沿模型发布或重大行业事件。
- BM25
- chromadb
- docs.rs
- GitHub
- langchain-rust
- langgraph
- MongoDB
- Ollama
- pgvector
- Pinecone
- Python
- qdrant
- Redis
- Rust
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →