实体
Anthropic Messages
Anthropic Messages
PulseAugur coverage of Anthropic Messages — every cluster mentioning Anthropic Messages across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
DeepSeek 发布用于数据中心的 DeepInfer 推理引擎
DeepSeek 已开源 DeepInfer，这是一款专为大规模、多 GPU 数据中心部署设计的推理引擎，而非用户友好的桌面应用程序。此次发布包括 DeepInfer 引擎本身，它通过异步流水线重叠和投机解码等功能进行了优化以提高效率；一个名为 SWA Bounded Replay 的缓存方案，用于降低预填充计算成本；以及 deepseek-recipe，一个用于协议规范化和分词的 Rust 组件。该基础设施旨在将数据中心硬件推向极限…
-
LLM代理：字节忠实直通优于代理的协议转换
作者反对在LLM代理架构中使用通用的协议规范化，认为这在处理复杂的工具调用代理时存在实际的失败案例。与其在OpenAI和Anthropic等不同API模式之间进行转换，不如提出“字节忠实直通”的解决方案，该方案保持严格的协议隔离。这种方法可以防止数据损坏，并确保对高级推理模型至关重要的深度嵌套JSON模式和结构化思维签名的完整性。
-
AI网关需要转换图，而非if-else逻辑
构建一个支持OpenAI和Anthropic等多个LLM提供商的AI网关，需要一个健壮的转换图，而不是简单的if-else逻辑。每个提供商的API在消息、工具调用和流式传输方面都有独特的结构，导致复杂的转换需求。将这些协议表示为图中的节点，将转换表示为边，可以显式管理所有可能的路由，包括通过OpenAI Chat等中间格式的复合路径。