Amazon Bedrock 现在支持程序化工具调用(PTC),这是一种大语言模型与外部工具交互的新方法。PTC 允许模型生成代码,在沙盒环境中同时调用多个工具,与传统的顺序工具调用相比,显著降低了延迟和 token 消耗。这种方法对于复杂的数据处理和多步操作特别有利,AWS 在 Bedrock 上提供了三种实现方法。 AI
影响 通过实现并行工具执行和减少 token 使用量,提高了 LLM 处理复杂任务的效率。
排序理由 现有 AI 平台的更新。
在 AWS Machine Learning Blog 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →