OpenCL
PulseAugur coverage of OpenCL — every cluster mentioning OpenCL across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
llama.cpp 为 Adreno GPU 上的 OpenCL 添加了 Q2_K 量化支持
llama.cpp 项目发布了 b11873 版本，在其 OpenCL 后端中引入了对 Q2_K 量化格式的初始支持。此更新包括针对通用矩阵向量乘法 (GEMM) 和通用矩阵乘法 (GEMM) 操作的新内核实现，这些操作专门针对使用 dp4a 和面向服务的架构 (SOA) 方法的 Qualcomm Adreno GPU 进行了优化。由 Hongqiang Wang 联合撰写的这些贡献专注于调整这些内核以提高性能。
-
llama.cpp 增加 OpenCL GEMM 变体；AI 法律科技公司 Legora 融资 5.5 亿美元
llama.cpp 项目发布了 b11789 版本，为 dp4a GEMM 操作引入了新的 OpenCL 变体，支持向量加载激活。此次更新包括对各种操作系统和硬件的支持和测试，涵盖 macOS、iOS、Linux、Android 和 Windows，并针对 Apple Silicon 和 openEuler 进行了特定配置。 另外，由 AI 驱动的法律科技初创公司 Legora 在 E 轮融资中以 88 亿美元的估值获得了 5.5 …
-
llama.cpp 修复使用更新的 Clang 版本时的 OpenCL 构建错误
llama.cpp 项目已发布 b11783 版本，其中包含一项修复，解决了使用更新的 Clang 版本时遇到的 rope 程序构建错误。此更新解决了当 Clang 将指向 float 的指针分配给指向 half 的指针时诊断出不兼容的指针类型错误的问题。
-
llama.cpp 项目发布 b11827 版本，支持 OpenCL 和 Adreno GPU 优化
llama.cpp 项目发布了 b11827 版本，引入了多项更新和改进。其中最重要的是增加了对 OpenCL 的深度卷积 2D (conv2d) 支持，并针对 Adreno GPU 进行了特定优化。该版本还包括了对 macOS、iOS、Linux、Android 和 openEuler 等各种操作系统和硬件的更新，尽管某些配置仍处于禁用状态。
-
llama.cpp b11763 增加了 OpenCL GEMM 变体和操作系统支持
llama.cpp 项目发布了 b11763 版本，引入了多个新的 OpenCL GEMM 操作变体，特别针对小批量大小进行了优化。这些更新包括修复了越界读取问题，并移除了之前强制将权重放置在 CPU 上的条件。该版本还为 Q4_0 和 Q4_K 等多种量化格式增加了特定优化，并增加了对多种操作系统和硬件架构的支持，例如 Apple Silicon、Linux、Android 和 Windows。
-
llama.cpp 发布预更新，包含新功能和优化
llama.cpp 项目发布了多个预发布更新，包括 b11675（增加了音频流功能和对 voxtral-realtime 的支持）以及 b11672（改进了 lightonocr 的图像分辨率处理）。其他更新包括 CUDA 内存缓冲区的优化、对 maion-coder 架构的支持，以及对 AMD GPU 的 Vulkan 支持的改进。此外，还有与 Metal 的 bfloat16 张量 API 闪存注意力内核以及不带嵌入的图处理相关的更新。
-
llama.cpp项目发布多个预发布更新，支持新模型并进行优化
llama.cpp项目已发布多个预发布更新，包括b11559，该更新增加了对Gemma-4 GPU解码的支持，并优化了各种配置的解码。版本b11558解决了Q4_K密集bin内核的图像限制和OpenCL中的RMS范数计算问题。其他更新包括改进RPC后端日志记录、支持Prism Bonsai 2 27B和MiniCPM-V 4.7等新模型，以及修复CPU和Vulkan功能。这些更新还继续扩展了对各种操作系统和硬件架构的兼容性。
-
Darktable 5.6.2 发布，修复了 Intel 的 OpenCL 支持问题
Darktable 发布了 5.6.2 版本，这是一个专注于错误修复的维护更新。此版本特别解决了 Intel Compute Runtime 的 OpenCL 支持问题，旨在提高使用 Intel 显卡硬件的用户的性能和稳定性。
-
新的HybridInfer系统利用热感知来路由大语言模型推理
一篇新研究论文介绍HybridInfer，一个旨在管理设备端、边缘端和云端大语言模型（LLM）推理的系统。该系统解决了设备端推理的热限制问题，这种限制可能导致移动GPU在持续使用过程中崩溃或无响应。HybridInfer采用强化学习方法，特别是Q学习，根据估计的复杂性、可用的热余量以及质量、延迟、成本和本地性之间的权衡来动态路由查询。这种方法旨在与始终使用设备端模型相比，提高可靠性并降低延迟，特别是对于较长的查询。
-
llama.cpp 发布引入 ZDNN 后端、Vulkan 调优和 Hexagon 支持
llama.cpp 项目发布了多项更新，包括添加 ZDNN 后端构建和各种 CI 改进的版本 b11269。其他近期版本侧重于特定优化和错误修复，例如改进 Adreno GPU 的 OpenCL 内核、为 Intel 硬件调优 Vulkan 着色器，以及增强 AVX512-FP16 的 FP32 点积累加。这些更新还包括对 PLaMo 模型词汇处理的调整，以及对 Hexagon 处理器上 FP32 GELU_ERF 和 GEGLU_E…
-
Imagination E系列GPU集成AI，加速渲染和LLM推理
Imagination Technologies发布了其新的E系列GPU架构，旨在将AI能力直接集成到图形处理中。新架构配备了“Neural Core”，可在2.3毫秒内完成540p到1080p分辨率的AI倍增，并支持MXFP8和MXFP4等低精度格式，将大型语言模型的Prefill性能提升4.7倍。E系列旨在通过在统一的可编程平台上处理图形和AI任务来减少数据移动并提高能效，尽管在复杂的SoC中仍需要与其他处理单元协作。
-
GPU内存写入操作的技术深度解析
这篇技术文章深入探讨了GPU如何管理内存写入的复杂性，探讨了GDDR6和HBM2等不同内存类型之间的差异。它考察了PCI Express等接口以及CUDA和OpenCL等编程模型在此过程中的作用。文章还涉及了DirectX和Vulkan等图形API，强调了它们如何与GPU内存交互。
-
llama.cpp 发布更新，修复性能和稳定性问题 · 跟踪 9 个来源
llama.cpp 项目发布了多个更新，包括 0.4.1 版本，该版本解决了跨不同平台的各种性能和稳定性问题。值得注意的更改包括对 SYCL 后端的优化、CPU 堆损坏的修复以及对缺乏 BF16 硬件加速的 CUDA 设备的后备机制。这些更新旨在提高在各种硬件上运行语言模型的效率和可靠性。
-
llama.cpp 为 Windows 设置添加了 Python SDK
llama.cpp 项目发布了 b10680 版本，其中包括适用于 Windows 的 Python SDK 设置。此更新有助于在 Windows 系统上安装 Hexagon 和 OpenCL SDK。这些更改涉及将设置脚本移植到 Python 并进行少量代码调整。
-
Bruce Schneier 讨论使用“AI Genie”示例的假设性 AI 漏洞
Bruce Schneier 的博客文章“AI Genie in the Wild”使用了一个假设场景来阐述潜在的 AI 漏洞。该示例涉及一位名叫 Andrew 的用户与一个 AI（在某个实例中称为“OpenCL”）进行交互，以探索其功能和局限性。这个思想实验为关于 AI 安全以及可能出现的意外行为的讨论奠定了基础。
-
llama.cpp b10229 发布，修复 OpenCL bug
llama.cpp 项目已发布 b10229 版本，其中包括对 OpenCL 后端的 bug 修复。此更新专门解决了在 `ggml_backend_opencl_init()` 函数中增加引用计数的问题，确保初始化期间的正确内存管理。
-
llama.cpp PR 缓存 MoE 专家以加速本地 AI 推理 · 跟踪 4 个来源
llama.cpp 的一项新拉取请求引入了一种在 GPU 上缓存常用专家混合（MoE）层的方法，通过将 Qwen3.6-35B-A3B 等模型在显存有限的消费级硬件上的推理速度最高提升 2 倍。然而，这种优化并非普遍适用，由于开销原因，在某些情况下甚至可能降低性能。同时，llama.cpp 还迎来了其他更新，包括增强了对 Intel GPU 的 SYCL 支持，改进了 iGPU 和 WebGPU F16 性能，并为聊天模型引入了工具调…
-
AI模型在安卓智能手机上本地运行
一位用户已成功在安卓智能手机上本地运行大型AI模型，具体为Z Image Turbo++和FLUX.2 Klein 4B。虽然生成过程缓慢，每张图片需要数分钟，但用户认为这是一项有趣的技术壮举。该模型在配备16GB RAM的OnePlus 12手机上运行，使用了INT4和INT8量化，并利用OpenCL进行GPU加速，因为Vulkan目前会遇到内存不足的错误。
-
llama.cpp 发布多个更新，包含性能和错误修复
llama.cpp 项目已发布多个更新，包括 b9975、b9974、b9973、b9972、b9971、b9970、b9969、b9968、b9966 和 b9965 版本。这些发布在 macOS、Linux、Android 和 Windows 等多个平台上引入了各种改进和错误修复。值得注意的更改包括对 DeepSeek 模型的优化、在 Adreno GPU 等特定硬件上 Vulkan 和 OpenCL 性能的增强，以及对 CUDA…
-
Modular 开发 CUDA C++ 的开放替代方案以实现 AI 计算
Modular 正在开发 CUDA C++ 和 OpenCL 的替代方案，以普及 AI 计算。该公司旨在提供一个更开放、更易于访问的 AI 开发平台，摆脱专有解决方案。