PulseAugur
中
实时 05:29:01
(CA) cent_runtime: Runtime C++17 e C ABI para Arquitetura Near-Bank PIM (CENT)

新的 C++ 运行时库将 PyTorch 连接到无 GPU 的 LLM 推理架构

一份新的技术报告详细介绍了 `cent_runtime` 的开发,这是一个 C++17 和 Python 库,旨在弥合 PyTorch 张量与用于 LLM 推理的 CENT 架构之间的差距。CENT 架构在 ASPLOS 2025 上提出,旨在通过利用通过 CXL 3.0 连接的 GDDR6-AiM 模块,绕过传统内存瓶颈,在没有 GPU 的情况下执行大型语言模型推理。`cent_runtime` 库促进了张量到 CENT 架构执行模型的调度,解决了学术模拟之外的实际实现挑战。 AI

影响 这一发展可能为 LLM 推理提供一种新颖的方法,通过消除对 GPU 的需求,有可能降低硬件成本和能耗。

排序理由 该条目描述了一份技术报告,其中详细介绍了一个用于 LLM 推理的新软件库和架构,并引用了一篇学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的 C++ 运行时库将 PyTorch 连接到无 GPU 的 LLM 推理架构

本文如何被排名

Signal score
40 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
该条目描述了一份技术报告,其中详细介绍了一个用于 LLM 推理的新软件库和架构,并引用了一篇学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
infra, model release
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. dev.to — LLM tag TIER_1 (CA) · José Dercy Vieira da Silva Filho ·

    cent_runtime: Near-Bank PIM (CENT) 架构的运行时 C++17 和 C ABI

    <p>A arquitetura CENT (<em>PIM Is All You Need: A CXL-Enabled GPU-Free System for Large Language Model Inference</em>, Gu et al., ASPLOS 2025) propõe executar a inferência de Large Language Models (LLMs) sem GPUs, substituindo memórias HBM por módulos GDDR6-AiM conectados via CXL…