central processing unit
PulseAugur coverage of central processing unit — every cluster mentioning central processing unit across labs, papers, and developer communities, ranked by signal.
21 天有情绪数据
-
Arm CPU 驱动代理式 AI 在半导体市场的增长
依赖于复杂 AI 模型的代理式 AI，正日益依赖 Arm CPU 来提供其核心处理能力。这一趋势预计将推动半导体市场的显著增长，特别是对 Arm 的架构而言。AI 助手 NotebookLM 被引用为受益于这些进步的应用示例。
-
CPU凭借新技术有望成为主要的AI升级
中央处理器（CPU）正在迅速发展，成为人工智能任务的重大升级。这项进步得益于Arm、AMD和Intel等公司的创新，它们正在将更多针对AI的功能集成到其处理器中。这些增强型CPU有望提高手机和笔记本电脑等个人设备上的AI性能。
-
我国首座海上风电换流站启运；AI驱动PCB升级
我国首个海陆一体化海上风电直流输电工程迎来重要里程碑，核心枢纽——海上换流站已启动运输，预计一周内抵达广东阳江。与此同时，一份研究报告强调，由AI驱动的算力需求对印刷电路板（PCB）行业产生了重大影响。AI服务器向GPU/ASIC集群的转变正在提升PCB的技术要求，推动了高层数、高密度互连板的增长，并带动了材料和制造工艺的进步。
-
llama.cpp 为 CPU 添加 Q2_0 量化以支持 Ternary Bonsai 模型
一项针对 llama.cpp 项目的拉取请求引入了对 CPU 的 Q2_0 量化支持，主要目的是启用 Ternary Bonsai 模型的使用。此更新完成了 CPU 的 Q1_0、Q2_0、Q4_0 和 Q8_0 量化系列，并计划提交对 x86、Metal、CUDA 和 Vulkan 的额外后端支持。此增强的动机是促进各种 Ternary Bonsai 模型（包括 1.7B、4B 和 8B 参数版本）的部署。
-
新框架实现快速、准确的CT身体成分分析
研究人员开发了一种新的分层分割框架，旨在从CT扫描中准确高效地分析身体成分。该方法解决了多源数据异质性和高计算需求带来的挑战。通过采用动态间隔和各向异性打补丁等技术，以及分组推理机制和拓扑感知不对称重采样，该框架在显著减少内存使用和处理时间的同时实现了高精度，使其适用于在标准CPU工作站上部署。
-
海光信息进军边缘AI，拓展算力生态
海光信息正通过进军边缘计算市场来扩展其AI能力，目标是构建一个完整、自主的算力系统。此举建立在其现有的CPU和DCU基础上，标志着其首次全面展示面向工业和应用场景的边缘计算解决方案。公司的战略强调实时响应、本地处理和增强安全性，以满足与云计算相比，边缘设备更高的集成需求。
-
LLM 依赖 GPU 进行大规模并行计算，而非 CPU
像 ChatGPT、Gemini 和 Claude 这样的大型语言模型 (LLM) 由于巨大的计算需求，在运行过程中需要图形处理单元 (GPU)。与为逻辑任务设计并顺序处理操作的中央处理单元 (CPU) 不同，GPU 能够同时执行数百万次计算，因此非常适合构成 LLM 核心的矩阵乘法和其他数学运算。该过程包括将文本分词为数字，将这些词元转换为数值嵌入，然后将其输入 GPU 进行模型架构内的复杂计算，例如注意力机制和前馈网络。
-
中信证券：深海油气开发带动FPSO需求上升，AI驱动PCB升级
中信证券的一份报告指出，由于常规储量不足，对深海油气勘探的关注度日益提高，导致浮式生产储卸油装置（FPSO）的需求激增。这一趋势正为FPSO制造业创造一个有利的周期，国内公司有望受益于其生产能力和成本优势。同时，报告强调，人工智能应用对计算能力的需求不断增长，正在显著推动PCB（印刷电路板）行业的发展，需要升级到更高层数、更高密度和更高性能的材料及制造工艺。
-
8200万参数TTS模型完全在CPU上运行，挑战计算成本叙事
一款名为Kokoro的新文本转语音（TTS）模型，拥有8200万个参数，可以完全在CPU上运行。这挑战了高质量AI需要昂贵计算资源的普遍看法，表明这种说法可能受到供应商的影响。该模型打包在一个5GB的容器中，提供了一个与OpenAI兼容的API，具有低延迟和零成本的特点，倡导高效的推理栈利用。
-
GALOSH：新型无训练去噪器兼具速度与质量
研究人员推出了一种新颖的图像去噪方法 GALOSH，该方法专为速度和效率而设计。与依赖计算密集型块匹配的传统方法不同，GALOSH 在本地运行且无需搜索，因此速度明显更快，适合硬件实现。它可以处理原始拜耳和 sRGB 图像格式，在与其他盲、无训练去噪器相比时表现强劲，并且在原始数据上接近训练网络的质量。
-
MLX 与 GGUF：为 Apple Silicon 选择正确的本地 LLM 格式
对于在 Apple Silicon Mac 上运行本地大型语言模型的用户来说，MLX 和 GGUF 格式之间的选择取决于性能与便携性的权衡。MLX 是 Apple 的原生框架，通过利用统一内存架构，可提供 15-40% 的速度提升并减少内存使用，但仅限于 Apple Silicon。GGUF 是一种更通用的格式，兼容 Linux 和 Windows 等各种平台，并可在 CPU 和 GPU 上运行，使其成为跨平台或长期项目的更安全选择。
-
新框架优化CPU-CIM系统中的机器学习工作负载划分
研究人员开发了一个新的框架，用于在中央处理器（CPU）和计算内存（CIM）加速器之间划分机器学习工作负载。该框架通过考虑阻变随机存取存储器（RRAM）的约束、并行性和CPU作为补充资源的角色，解决了现有方法的局限性。提出的基于整数线性规划（ILP）的方法可以最小化推理延迟，并已显示出显著的加速效果，在边缘CPU上实现了高达30.9倍的CPU独立执行速度，在高性能CPU上实现了7.3倍的速度。
-
FAST框架加速时序图神经网络训练
研究人员开发了FAST，一个旨在优化时序图神经网络（TGNN）训练的新框架。TGNN在推荐和社交网络分析等领域分析动态图至关重要，但其训练受到内存I/O、计算和采样瓶颈的阻碍。FAST通过整体优化这些阶段来解决这些问题，引入SlimCache以在GPU约束下进行高效内存管理，并采用专门的算子来处理稀疏时序子图。该框架还利用拓扑感知采样策略来提高CPU缓存局部性。实验表明，FAST在不影响模型准确性的情况下，实现了平均2.1倍、最高4.…
-
DPU 成为关键 AI 基础设施瓶颈，挑战 GPU 主导地位
AI 基础设施市场日益受到网络和数据调度的瓶颈制约，焦点从原始 GPU 算力转向系统效率。数据处理单元（DPU）正成为关键组件，尤其是在 Agent 时代，用于优化 GPU 利用率、管理推理的大上下文窗口以及提高整体系统性能。尽管 Nvidia 早期战略性投资了 DPU，但市场直到最近才开始关注它们，像云豹智能（Cloud Leopard Intelligence）这样的公司现在正崭露头角，提供高性能 DPU，这对于大规模 AI 部署至关重要。
-
新的双模态方法增强了实时物体轮廓检测
研究人员开发了一种新颖的双模态方法，用于实时二值化，有效地从视觉数据中创建清晰的物体轮廓。该方法利用传统帧和事件相机数据之间的协同作用，能够在仅CPU的设备上实现无需训练的高帧率处理。该系统解决了运动模糊和恶劣光照等挑战，在减少伪影和提高困难条件下的清晰度方面优于现有技术，同时计算成本更低。其异步特性还解决了事件稀疏性问题，即使在极高帧率下也能保持清晰的目标形状，为资源受限平台上的具身智能中的高效感知铺平了道路。
-
新的WBMM技术提高了大卷积核的效率
研究人员开发了一种名为窗口化批处理矩阵乘法（WBMM）的新技术，以提高大卷积核深度卷积的效率。传统方法随着卷积核尺寸的增加而出现性能下降，但WBMM将输入分割成窗口并使用偏置表构建权重矩阵，通过批处理矩阵乘法实现规则的内存访问。该方法在更大的窗口下显示出更高的吞吐量，并在ImageNet-1K、COCO和ADE20K等基准测试中取得了相当或更好的准确率，同时在各种硬件平台上实现了显著的训练加速。
-
新研究探讨 LLM 效率，从移动推理到训练稳定性
研究人员正在探索各种方法来提高大型语言模型 (LLM) 的效率和性能。一种名为“Thinking Seeds”的方法使用历史检查点来提高 LLM 中强化学习的稳定性和探索性。另一个重点是优化移动设备上的 LLM 推理，研究人员分析了神经处理单元 (NPU)、中央处理单元 (CPU) 和图形处理单元 (GPU) 中的瓶颈，以降低能耗。此外，还在开发“Full-Stack FP4”等技术，以使用 4 位精度实现稳定的 LLM 预训练，而“…
-
新系统支持在单 GPU 上微调 123B+ LLM
研究人员开发了 SlideFormer，一个旨在实现大型语言模型（LLM）在单 GPU 上微调的新颖系统。该系统利用一个轻量级的异步引擎，将 GPU 视为一个滑动窗口，将计算与 CPU 更新和 I/O 重叠。它还包含一个高效的异构内存管理方案和优化的 Triton 内核，以减少峰值内存使用量。这种方法允许在单个 RTX 4090 上微调超过 1230 亿参数的模型，支持显著更大的批次大小和模型，同时提高吞吐量并减少内存消耗。
-
FlexViT：FPGA加速器提升边缘视觉Transformer性能
研究人员开发了FlexViT，这是一款灵活的基于FPGA的加速器，旨在提高边缘设备上视觉Transformer (ViT) 模型的效率。该加速器通过将现代ViT的异构架构（结合了卷积层和全连接层）映射到一个统一的INT8 GEMM引擎上，解决了其异构架构带来的挑战。FlexViT采用双模式数据流和深度优先分块策略来优化性能并降低内存带宽需求。评估显示，FlexViT在加速器执行的层上可实现高达2.74倍的加速，与纯CPU执行相比，整体…
-
Moondream 通过流水线解码解决 GPU 气泡问题，加速 AI 推理
Moondream 开发了一种称为流水线解码的技术，以解决 AI 模型推理中 GPU 气泡的低效率问题。当 CPU 因处理顺序任务（如选择下一个 token 或提交结果）而繁忙时，GPU 会处于空闲状态，从而产生这些气泡。流水线解码旨在通过重叠 CPU 和 GPU 的工作来消除这些空闲周期，允许 GPU 在 CPU 仍在处理当前 token 时就开始处理下一个 token。这是通过将采样后的 token 保存在 GPU 内存中，以便在…