Anthropic 推出了其 Claude API 的消息线程(message threads)测试版功能,旨在提高大型上下文请求的响应时间。此新参数默认适用于 Claude Code 用户,可将 50 万到 100 万个 token 请求的“首个 token 时间”(time to first token)缩短约 35%。虽然 token 用量和定价保持不变,但线程会存储在内存中,并在不活动一段时间后过期,如果长时间未使用,则需要重新发送整个对话。 AI
影响 可能加快与大型上下文窗口的交互速度,有利于基于代理的应用程序。
排序理由 现有 AI 模型 API 的产品更新。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →