Anthropic 推出了其 Claude API 上的消息线程(Message Threads)的公开测试版,旨在降低长时运行的代理应用程序的延迟。此功能允许 API 在其服务器上维护对话状态,这意味着后续请求只需发送新消息,而不是整个对话历史。虽然这显著减小了请求大小并提高了响应时间,但 Anthropic 澄清,这并不会减少 token 使用量或成本,因为模型仍然会处理全部上下文。该测试版在包括 AWS 和 Microsoft Foundry 在内的各种 Claude 平台上可用,线程在不活动 5 分钟后过期,最长保留时间为一小时。 AI
影响 通过优化对话历史的管理方式,降低了使用 Claude API 的 AI 代理的延迟。
排序理由 这是对现有 API 的功能更新,而不是新模型发布或重大的行业转变。
- Anthropic
- AWS
- Claude API
- Claude Code
- Claude Messages API
- Claude Platform
- Google Cloud
- Microsoft Foundry
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →