实体
Infinigence
Infinigence
PulseAugur coverage of Infinigence — every cluster mentioning Infinigence across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
Infinigence 发布 PDD 架构，降低 LLM 推理时延与成本
Infinigence 发布了一种名为 PDD 的新型跨集群异构推理架构，旨在提高大型模型推理的效率并降低成本。该架构将传统的 Prefill-Decode (PD) 分离分解为三阶段的 Prefill-RelayDecode-MainDecode (P-RLD-MD) 系统。通过利用本地的 RelayDecode 实例，PDD 有效地掩盖了通过广域网传输 KV Cache 所带来的时延，据称首次 Token 时延降低了 51.5%，…
-
中国AI公司Infinigence平台使用量激增20倍
Infinigence是一家与清华大学相关的人工智能基础设施公司，其Agentic MaaS平台的使用量显著增加。据报道，该平台的代币调用量在12月至4月期间增长了二十多倍。Infinigence作为中间商，连接芯片制造商和AI模型开发者。
-
中国AI公司Infinigence代币增长20倍，聚焦基础设施
中国公司Infinigence在过去六个月内，其代币调用量经历了显著的激增，增长超过20倍。其Agentic MaaS平台目前的推理计算成本已超过训练成本。Infinigence的目标是成为一个中立的基础设施提供商，弥合硬件与AI模型之间的差距。