Function-Calling
PulseAugur coverage of Function-Calling — every cluster mentioning Function-Calling across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
大型语言模型 API 集成:从演示走向稳健的生产系统
本文讨论了将大型语言模型 (LLM) 与实际 API 集成的挑战和最佳实践,旨在从基本演示走向稳健的生产系统。文章强调应将 LLM API 交互视为一种为智能但可能鲁莽的实习生设计的 API,并着重指出对模型生成的参数进行严格的运行时验证的必要性。作者提倡采用一种“先模式”的方法,使用 Zod 等工具来定义和验证参数,确保业务规则通过编程强制执行,而不是仅仅依赖提示。此外,文章还强调了根据上下文、对话状态以及读/写分离来仔细限定 LL…
-
LLM 函数调用测试应侧重于模式合规性,而非模型行为
本文讨论了 LLM 中函数调用模式合规性契约测试的重要性。它区分了测试模型行为(例如,是否调用特定工具)和测试契约合规性(例如,工具调用是否符合定义的模式)。作者主张进行确定性测试,断言工具调用的结构和有效性,而不是它们的具体参数或模型是否选择了特定函数。关键断言包括检查 `finish_reason`、`tool_calls` 的存在和类型,以及确保 `function.name` 在声明的集合中。至关重要的是,它强调 `funct…
-
AI代理获得工具访问权限会带来安全风险;已概述缓解策略
赋予AI代理对函数调用、代码解释器或API等工具的访问权限会带来重大的安全风险,因为模型无法可靠地区分指令和数据。这意味着提示注入攻击可能导致代理执行未经授权的操作,例如窃取数据或执行恶意代码。为缓解这些风险,开发人员应严格限制工具功能范围、在服务器端验证所有参数、在模型外部强制执行授权、要求对不可逆操作进行人工确认,并对执行代码或联网的工具进行沙箱隔离。
-
新方法无需模拟即可预测AI任务难度
研究人员开发了一种无需运行计算成本高昂的模拟即可预测AI任务难度的方法。该方法分析任务描述以预测成功可能性,有助于校准评估基准和创建渐进式训练课程。该研究探索了17个不同的代理基准,强调了token级熵作为关键预测信号,并展示了预测误差如何揭示环境设计中的缺陷。
-
OpenAI 聊天机器人演进:从文本到工具和可验证操作
本文探讨了简单聊天机器人与工具型助手之间的区别,重点关注语言模型需要工具执行外部操作的阈值。文章认为,只有当场景涉及可验证的外部操作以及检查其结果的机制时,使用工具才是有意义的。文章详细介绍了通过 OpenAI API 使用工具的五步循环,并强调模型本身不执行操作,而是返回一个函数调用及其参数,供开发者的应用程序处理。
-
模型上下文协议(MCP)将AI代理交互从API转向自描述工具
模型上下文协议(MCP)是一种新的方法,它改变了AI模型与API的交互方式。与要求开发者明确指示模型如何使用每个工具的传统API不同,MCP允许工具向模型描述自身。这为AI提供了一个可用的功能的全面“地图”,使其能够在没有分步指导的情况下进行推理并为给定任务选择合适的工具。这种从明确指令转向上下文理解的转变旨在简化将多个服务集成到AI代理中。
-
LLM结构化输出保证语法而非语义,导致“格式良好的谎言”
LLM的结构化输出,例如JSON模式强制执行,可以保证生成的文本在语法上是正确的,但不能确保语义的准确性。虽然这些工具消除了解析错误,但它们可能导致“格式良好的谎言”,即输出是有效的,但在应用程序的域内事实不正确或无意义。开发人员必须将LLM的输出视为不可信的输入,类似于客户端数据,并实施超越模式检查的强大语义验证来捕获这些细微的错误。
-
开发者优先考虑 LLM API 模式而非 Prompt 工程以提高可靠性
开发者正将焦点从 Prompt 工程转移到更强大的大型语言模型 (LLM) API 集成模式。关键策略包括使用结构化输出(如通过函数调用或模式验证的 JSON)而非文本解析,批量处理请求以提高成本和速度效率,以及缓存上下文以进行多轮交互。此外,实现流式响应以进行早期错误检测并采用带超时的指数退避对于构建可靠的生产系统至关重要。LLM 网关(如 LiteLLM)的兴起,提供了一个跨多个提供商的统一 API,提供自动回退、智能路由和成本跟…
-
MCP与Function Calling对比:延迟和代码大小基准测试显示MCP在规模化工具重用方面占优
一项关于在AI代理中重用工具的MCP与Function Calling的数据驱动比较显示,虽然MCP每次调用会产生2毫秒的通信开销,但这对于LLM推理占主导地位的典型代理任务来说可以忽略不计。然而,MCP的启动时间长达570毫秒,大约在274次调用后才能摊销。在代码大小方面,随着项目规模的扩大,MCP提供了显著的节省,因为单个服务器进程可以服务多个工具,而Function Calling则需要为每个代理重复代码。
-
MCP协议集中化AI代理工具集成,减少代码重复
文章介绍了MCP(模型上下文协议),一个旨在简化AI代理与Jira等外部工具集成的全新系统。与传统的函数调用不同,在函数调用中,工具定义和执行逻辑会在多个代理项目中重复,而MCP将这些组件集中在一个独立的MCP服务器中。该服务器通过JSON-RPC 2.0与各种兼容主机通信,例如Claude Desktop或自定义代理,从而消除了冗余代码的需要,并在API更改时简化更新。
-
Google 的 A2A 协议在代理间通信中找到利基市场
Google 的 Agent2Agent (A2A) 协议于 2025 年 4 月推出,旨在标准化来自不同供应商和框架的独立 AI 代理之间的通信。最初因市场充斥着缩略语以及与模型上下文协议 (MCP) 的感知重叠而受到怀疑,A2A 在 2026 年找到了其利基市场。它被证明对于在具有自身所有权和能力的独立代理之间实现通信非常有用,而不仅仅是内部功能或工具包装器。该协议促进代理发现、任务委托、消息交换和工件共享,解决了代理协作的完整生命周期。
-
AI函数调用教程:DeepSeek V4-Pro集成API
本教程演示了如何在AI模型中实现函数调用,使其能够与外部API进行交互。它提供了一个使用DeepSeek V4-Pro模型根据用户查询调用天气API的实际示例。该过程包括定义函数、让AI决定调用哪个函数,然后使用提供的参数执行该函数。
-
开发者从零开始使用Python和minsearch构建agentic RAG系统
一位开发者在LLM Zoomcamp 2026中详细介绍了他们从零开始构建agentic RAG系统的经验。 该过程涉及使用Python和一个名为minsearch的轻量级搜索库创建检索增强生成(retrieval-augmented generation)管道。关键收获包括文档分块对于提高检索效率的重要性,以及agentic RAG的概念,即LLM利用函数调用自主决定何时以及搜索什么。 该项目使用了Groq的API来运行LLM,…
-
LLM 函数调用详解:模型如何使用工具并避免错误
本文解释了函数调用,这是 LLM 与外部工具和数据交互的关键能力。它详细介绍了模型如何决定使用哪个工具以及使用什么参数,超越了简单的文本预测,实现了结构化的命令输出。文章强调了仔细设计工具模式和处理 LLM 可能的误解以防止操作错误的重要性,尤其是在营销环境中。
-
开发者阐释 RAG、Function Calling、MCP 和 Semantic Kernel
本文详细介绍了开发者在 .NET AI 应用中理解和应用检索增强生成 (RAG)、Function Calling、MCP 和 Semantic Kernel 的历程。旨在阐明何时利用这些不同但相关的技术来构建有效的 AI 解决方案。作者分享了他们在导航这些概念以实现实际应用过程中的个人经验。
-
MCP协议作为独立的AI通信标准出现
作者最初认为MCP(模型通信协议)只是AI模型中函数调用的另一种说法。然而,经过进一步调查,他们发现MCP是一种独立的协议,旨在实现不同AI模型和服务之间的通信。该协议支持比基本函数调用更复杂的交互,能够实现更丰富的信息和功能交换。
-
AI 智能体:MCP 与函数调用在与外部世界交互中的对比
本文探讨了 AI 智能体如何与外部世界进行交互,重点关注两种主要方法:MCP(多智能体通信协议)和函数调用。文章强调,工具对于智能体访问其训练数据之外的信息至关重要。旨在指导开发者选择最有效的 AI 智能体通信策略。
-
LLM 集成指南:MCP、工具使用和函数调用详解
本文探讨了将大型语言模型 (LLM) 与外部系统集成的三种不同方法:MCP、工具使用和函数调用。旨在阐明这些架构之间的区别以及它们如何解决将 LLM 连接到更广泛的数字生态系统的挑战。该指南深入介绍了每种集成方法的底层机制和潜在应用。
-
LLM 研究解决函数调用和系统传播中的不确定性问题
两篇新研究论文探讨了大型语言模型(LLM)中不确定性的关键问题。第一篇论文研究了专门针对 LLM 函数调用的不确定性量化方法,发现简单的单样本方法可以有效,并且可以通过分析输出来改进。第二篇论文解决了复杂 LLM 系统中的不确定性传播问题,提出了一个框架来理解错误如何在各种系统组件和过程中累积。