Prime Inference
PulseAugur coverage of Prime Inference — every cluster mentioning Prime Inference across labs, papers, and developer communities, ranked by signal.
- 2026-10-03 product_launch Prime Intellect launched Prime Inference, a serving platform for frontier open models. 来源
-
Prime Agent 使用 Rust 重写,以提升性能和可靠性
Prime Intellect 已从头开始使用 Rust 重写了其 AI 代理软件 Prime Agent,旨在提高性能、可靠性和资源效率。最初的 TypeScript 版本于 8 月推出,已获得超过 300,000 次下载,并处理了超过 8 万亿个 token。重写过程本身是一项自主工作,超过 2,000 个代理在两周内重构了代码,利用了大型语言模型和广泛的沙盒基础设施。转向 Rust 预计将在速度、并发性和编译时安全性方面带来显著…
-
Prime Inference 发布模型服务,Aleph Alpha 发布 Kolibri,Anthropic 培训 AI 工程师 · 跟踪到 1 个来源
Prime Inference 推出了一个用于服务开源 AI 模型的新平台,每日处理近万亿个 token 以支持各种应用。在相关新闻中,Aleph Alpha 发布了 Kolibri,这是一个拥有 781 亿参数的开源模型,支持工具调用和百万 token 上下文窗口。Anthropic 正通过其 Claude Frontier Academy 投资 1 亿美元,目标到 2027 年培训 10,000 名 AI 工程师,并与主要公司合作…
-
DeepSeek Harness v0.2 发布桌面应用;OpenAI 安全部门员工辞职
DeepSeek Harness v0.2 已发布官方桌面应用程序,为用户提供更便捷的访问。此次更新还包括硬预算上限和代理工具的功能,旨在提供对 AI 使用的更好控制。此外,简报还涵盖了一名 OpenAI 安全部门员工的辞职(他引用了“破败的文化”)以及 Prime Intellect 为前沿开放模型推出的 Prime Inference。
-
Prime Intellect 推出 Prime Inference 开源模型推理平台
Prime Intellect 推出了 Prime Inference,一个专为前沿开源 AI 模型设计的新型推理平台。该平台利用 NVIDIA Blackwell GPU,提供用于应对可变需求的无服务器端点和用于持续工作负载的预留容量。Prime Inference 旨在通过结合 NVIDIA Dynamo、vLLM、Mooncake 和 FlashInfer 等技术来优化性能,并支持与 OpenAI 兼容的 API。