PulseAugur
实时 20:17:06
English(EN) LangChain’s tool routing is a bloated mess. So we built a <10ms local semantic registry to replace it at US Neural.

US Neural 开发本地语义注册表以取代LangChain的工具路由

US Neural的一名开发人员开发了一个名为Mycelium的本地语义注册表,以解决LangChain工具路由中存在的效率低下问题。新系统旨在提供更快、更确定的工具发现,其冷启动发现延迟为9.6毫秒,而据报道LangChain的AgentExecutor需要194毫秒。Mycelium利用本地嵌入和ChromaDB作为其基础设施,在拥有10万个代理的合成语料库的测试中,实现了70.7%的意图匹配准确率。 AI

影响 为寻求在AI应用程序中实现更快、更确定性工具路由的开发人员提供了一个潜在的替代方案。

排序理由 该条目描述了一家公司开发的新工具,用于替换现有框架的组件,并包含性能基准测试。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

US Neural 开发本地语义注册表以取代LangChain的工具路由

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · udaysaai ·

    LangChain’s tool routing is a bloated mess. So we built a <10ms local semantic registry to replace it at US Neural.

    <p>Look, LangChain was great to get the ecosystem started 0 to 1. But let's be honest: taking LangChain to production with 50+ tools is a nightmare of abstraction hell and brittle if/else logic. The AgentExecutor is slow, and relying on it to route complex tools feels like fighti…