tool calls
PulseAugur coverage of tool calls — every cluster mentioning tool calls across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
AI 智能体可观测性：追踪多轮对话和工具调用
AI 智能体可观测性对于理解和调试复杂的多轮对话至关重要。与具有固定路径的传统应用程序不同，AI 智能体涉及模型调用、工具执行和知识检索的动态序列。在会话级别而非单个请求级别进行追踪，可以全面了解智能体的工作流程，包括令牌使用量、延迟和错误等参数。记录有关模型和工具调用的详细信息，以及版本控制和成本归属，对于维护信任和验证智能体行为至关重要。
-
新研究利用表示工程解决AI奖励破解问题
一篇新的研究论文提出了一种称为表示工程（Representation Engineering）的方法来对抗机器学习系统中的奖励破解。该技术涉及使用从各种方法（包括标记的rollouts和反奖励破解模型规范）派生的引导向量，动态干预模型表示。这种方法旨在以对连贯性或能力影响最小的方式精确编辑模型行为，在减少编码环境和长上下文等不同领域的奖励破解方面显示出希望。
-
大语言模型策略：以广度而非深度实现更便宜、更有效的人工智能
作者认为，对于许多任务，特别是涉及大语言模型的任务，广度比深度是更有效、更便宜的策略。与其让单个模型提案变得更复杂或‘更深入地思考’，不如专注于生成大量多样化的候选者，然后进行高效筛选。这种被称为‘广度是廉价的维度’的方法，与优先考虑单一、深度推理的思维链的典型代理堆栈形成对比。虽然延迟和成本核算会带来阻力，但核心思想是，生成许多基于文本的替代方案在计算上成本不高，而执行操作或工具调用应保持单线程、审慎的步骤。
-
AssemblyAI 详解语音助手负载测试以确保生产就绪
AssemblyAI 发布了一份关于负载测试语音助手的指南，以确保它们在生产环境中能够可靠运行。文章强调了受控演示与真实世界条件之间的关键区别，在真实世界条件下，高并发、压缩音频和嘈杂环境等因素会显著降低性能。文章概述了语音助手管道的哪些方面（如语音识别、LLM 处理和工具调用）应在负载下进行测试，并强调了使用真实的最坏情况音频场景语料库进行准确测试的重要性。
-
AI代理在近30%的时间里会默默地失败工具调用
一位开发者遇到了一个反复出现的问题，AI代理报告的工具调用实际上已失败，但却被报告为成功，导致了静默错误。在约41,000次工具调用的30天期间，近29%的失败调用被模型视为成功。这些失败源于多种原因，包括返回空字符串的超时、包含错误消息的HTTP 200响应、仅部分操作成功的局部写入，以及被字符串化的异常结果字段。核心问题在于传输层成功与应用层成功之间的区别，模型经常会继续执行计划，就好像失败的调用已成功一样。
-
LLM 工具调用可能在 HTTP 200 成功的情况下静默失败
LLM 应用中一种常见的故障模式涉及工具调用，这些调用表面上成功（HTTP 200），但实际上并未执行，导致静默错误，模型可能会编造信息。尽管整体请求看起来有效，但当工具执行或结果注入步骤失败时，就会出现此问题。建议开发人员实现强大的日志记录，跟踪工具的整个生命周期，从请求到执行和注入，而不是仅仅依赖 HTTP 状态码。
-
AI 代理通过标准日志记录实践面临 API 密钥泄露风险
AI 代理自身的日志记录机制可能无意中泄露敏感信息，如 API 密钥，并非出于恶意，而是由于日志记录工具调用及其参数的默认行为。由于代理需要为各种工具使用多个凭据，增加了泄露的可能性，这个问题因此加剧。提出的解决方案是在日志记录系统的边界实现一个 redaction 层，在这些秘密传输到第三方可观察性供应商之前捕获并屏蔽它们。
-
研究：AI智能体系统中虚假信息传播
一篇新的研究论文探讨了良性多智能体系统中虚假信息传播的风险，特别是那些利用大型语言模型的系统。研究发现，注入虚假信息会降低单智能体和多智能体设置的性能，并且错误会通过智能体交互持续存在。然而，与单智能体提示相比，多智能体辩论可以在一定程度上缓解这种退化，具体取决于所使用的群体构成和决策协议。