ToolSpec
PulseAugur coverage of ToolSpec — every cluster mentioning ToolSpec across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的 OoO-Spec 方法可大幅加快 LLM 工具调用速度
研究人员开发了 OoO-Spec，一种加速大型语言模型 (LLM) 工具调用的新方法。该技术利用一个较小的 Qwen3-0.6B 模型作为辅助，并行预测函数选择和参数值，与传统的逐令牌生成相比，显著加快了过程。OoO-Spec 在自回归解码方面实现了高达 5.34 倍的速度提升，并且优于 ToolSpec 等现有方法，证明了其在各种 LLM 目标和基准测试中的有效性。
-
Anthropic 的 Claude Fable 5 基于语义解释拒绝工具调用
Anthropic 更新的模型 Claude Fable 5 表现出一种新行为，即它基于对请求的语义解释而非严格的逻辑执行来拒绝工具调用。这意味着，即使工具的功能是无害的，如果工具的名称、描述或参数与用户的提示结合起来，看起来像凭证提取或访问令牌评分等敏感安全操作，模型也可能拒绝使用它。这种行为归因于 Fable 5 的安全分类器，它们会评估工具调用的感知意图。建议开发者考虑其工具规范的语义含义，以避免意外拒绝。
-
新方法通过推测性解码加速大语言模型推理
研究人员开发了多种通过推测性解码加速大语言模型（LLM）推理的新方法。AdaPLD 通过使用语义相似性和分支假设来改进检索和草稿构建，实现了高达 3.10 倍的加速。SSSD 结合了 n-gram 匹配和面向硬件的推测，在无需训练的情况下将延迟降低了高达 2.9 倍。D^2SD 使用双扩散模型和置信度引导的前缀树来提高接受率，而 TAPS 则优化了扩散草稿解码的前缀树选择，实现了高达 7.9 倍的加速。KnapSpec 将草稿模型选择…