Host App

LLM 使用编排进行工具发现和执行

大型语言模型（LLM）不直接执行代码或查询数据库；相反，它们依赖于一个涉及主机应用、MCP 客户端、MCP 服务器和 LLM 引擎的编排系统。该系统通过一个五阶段的生命周期促进工具的发现和执行：通过 JSON-RPC 发现可用工具，将模式注入到特定模型的提示中，LLM 意图匹配以选择工具，主机拦截和执行工具调用，最后，清理输出后再将其反馈给 LLM 以进行响应合成。这个过程确保了 LLM 可以在不直接运行命令的情况下与外部数据和功能进行交互。