Adreno
PulseAugur coverage of Adreno — every cluster mentioning Adreno across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
llama.cpp b12103 针对 Adreno GPU 优化 Q2_0 GEMV
llama.cpp 项目发布了 b12103 版本，该版本通过 OpenCL 对 Adreno GPU 上的 Q2_0 GEMV 操作进行了优化。此次更新旨在提高 llama.cpp 生态系统中特定硬件配置的性能。
-
llama.cpp 为 Adreno GPU 上的 IQ2 量化添加 OpenCL 支持
llama.cpp 项目发布了 b11986 版本，为 IQ2 量化格式引入了初始的 OpenCL 支持。此更新包括针对 Adreno GPU 的优化和特定实现，目标是 IQ2_S、IQ2_XS 和 IQ2_XXS 变体。由 Hongqiang Wang 联合撰写的贡献侧重于 OpenCL 框架内的各种矩阵乘法和向量运算。
-
OpenAI 的 Sora 可根据文本生成逼真视频，引发创意和伦理问题
OpenAI 推出了 Sora，一个文本到视频生成式人工智能模型，能够根据文本提示创建长达一分钟的视频。虽然 Sora 对物理世界表现出复杂的理解能力，并能生成高度逼真的画面，但它在复杂的物理模拟和长期的空间一致性方面仍面临局限。该模型的强大功能有望通过普及视频制作来对创意产业产生重大影响，但人们仍然担心其在制造深度伪造和传播虚假信息方面的潜在滥用，OpenAI 旨在通过安全措施和包含元数据来缓解这些问题。
-
llama.cpp 增加 OpenCL 支持以支持 Q3_K 量化，优化 Adreno GPU
llama.cpp 项目发布了 b11918 版本，引入了对 Q3_K 量化方法的初始 OpenCL 支持。此次更新包括对 Adreno GPU 的优化以及对 macOS、Linux 和 Windows 等各种操作系统的兼容性。另外，一篇技术文章探讨了大型语言模型的预填充和解码阶段，解释了内存获取和计算瓶颈如何影响性能，以及诸如批处理之类的技术如何提高效率。
-
llama.cpp 为 Adreno GPU 上的 OpenCL 添加了 Q2_K 量化支持
llama.cpp 项目发布了 b11873 版本，在其 OpenCL 后端中引入了对 Q2_K 量化格式的初始支持。此更新包括针对通用矩阵向量乘法 (GEMM) 和通用矩阵乘法 (GEMM) 操作的新内核实现，这些操作专门针对使用 dp4a 和面向服务的架构 (SOA) 方法的 Qualcomm Adreno GPU 进行了优化。由 Hongqiang Wang 联合撰写的这些贡献专注于调整这些内核以提高性能。
-
llama.cpp b11827 发布增加了 Adreno GPU 支持和优化
llama.cpp 项目发布了 b11827 版本，该版本对其 OpenCL 后端进行了重大更新，特别是针对 Adreno GPU。此版本还包括对深度卷积 2D 操作和有符号类型使用的优化，由 Li He 贡献并得到 OpenCode 的协助。该项目继续支持包括 macOS、iOS、Linux、Android、Windows 和 openEuler 在内的广泛操作系统。
-
llama.cpp b11763 增加了 OpenCL GEMM 变体和操作系统支持
llama.cpp 项目发布了 b11763 版本，引入了多个新的 OpenCL GEMM 操作变体，特别针对小批量大小进行了优化。这些更新包括修复了越界读取问题，并移除了之前强制将权重放置在 CPU 上的条件。该版本还为 Q4_0 和 Q4_K 等多种量化格式增加了特定优化，并增加了对多种操作系统和硬件架构的支持，例如 Apple Silicon、Linux、Android 和 Windows。
-
llama.cpp 发布预更新，包含新功能和优化
llama.cpp 项目发布了多个预发布更新，包括 b11675（增加了音频流功能和对 voxtral-realtime 的支持）以及 b11672（改进了 lightonocr 的图像分辨率处理）。其他更新包括 CUDA 内存缓冲区的优化、对 maion-coder 架构的支持，以及对 AMD GPU 的 Vulkan 支持的改进。此外，还有与 Metal 的 bfloat16 张量 API 闪存注意力内核以及不带嵌入的图处理相关的更新。
-
三星扩展One UI 9 Beta版，高通详解新款AI GPU
三星本月将基于Android 17的One UI 9 Beta版推广到更多Galaxy手机，预示着正式版即将发布。与此同时，高通公布了其新款Adreno‘Neural Fusion’GPU，旨在增强其即将推出的旗舰Snapdragon芯片的AI处理能力，这些芯片还将配备Oryon CPU。
-
llama.cpp 发布更新，修复性能和稳定性问题 · 跟踪 9 个来源
llama.cpp 项目发布了多个更新，包括 0.4.1 版本，该版本解决了跨不同平台的各种性能和稳定性问题。值得注意的更改包括对 SYCL 后端的优化、CPU 堆损坏的修复以及对缺乏 BF16 硬件加速的 CUDA 设备的后备机制。这些更新旨在提高在各种硬件上运行语言模型的效率和可靠性。
-
新框架 FBLayout 提升移动 LLM 微调效率
研究人员开发了 FBLayout，一个旨在优化内存布局以在移动 GPU 上高效微调大型语言模型的新框架。该方法解决了阻碍设备端 AI 个性化的内存限制和布局转换效率低下的问题。FBLayout 引入了统一的 R-Tile 布局、基于块的索引转换和由激活引导的布局选择，以最大限度地减少数据移动和内存占用。在各种 Transformer 模型和移动 GPU 上的评估表明，与现有框架相比，速度显著提升，从而实现了实用的设备端微调。
-
llama.cpp 发布增强性能并添加新功能
llama.cpp 项目发布了多个更新，包括 b9608，该版本更新了 cpp-httplib 并为 macOS、Linux、Android 和 Windows 等各种平台提供了预编译二进制文件。b9606 版本引入了 EAGLE3 推测解码支持，增强了模型推理能力。b9605 版本包括为 Adreno GPU 添加 OpenCL 内核，提高了在某些移动设备上的性能。b9604 版本解决了 SYCL 后端的 CI 构建和发布问题，确保…