PulseAugur
中
实时 14:28:39
实体 OpenVINO

OpenVINO

PulseAugur coverage of OpenVINO — every cluster mentioning OpenVINO across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
9
90 天内 26
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 4
层级分布 · 90 天
主题
关系
情绪 · 30 天

7 天有情绪数据

最近 · 第 1/2 页 · 共 28 条
  1. TOOL · CL_368888 ·

    Phison 详解内置NPU、用于驱动器上AI处理的SSD

    Phison 揭晓了新的企业级SSD设计,其中包括一款集成NPU和64GB内存的SSD,能够直接在驱动器上运行PyTorch和llama.cpp等AI框架。这种计算存储方法旨在通过在数据所在位置处理AI代码来减少数据传输,潜在地可将传输量削减高达100倍。该公司还详细介绍了第二种设计,该设计使用单个控制器将快速pSLC缓存与大型QLC容量相结合。

  2. TOOL · CL_366098 ·

    Gemma 4 edge 模型针对 MATLAB 信号处理代码进行微调

    研究人员使用监督微调 (SFT) 结合低秩适配 (LoRA) 和量化 LoRA (QLoRA) 技术,对 Google 的 Gemma 4 edge 模型 E2B 和 E4B 进行了微调,以生成 MATLAB 信号处理代码。该过程在笔记本电脑的集成 GPU 上进行,显著提高了模型在数字信号处理 (DSP) 约定方面的性能,E2B 的通过率从 18/66 提高到 37/66,E4B 的通过率从 32/66 提高到 47/66。虽然微调解…

  3. TOOL · CL_358019 ·

    ggml张量库达到v1.0.0版本,引入语义化版本控制

    ggml张量库,作为本地机器学习推理的基础组件,已发布1.0.0版本。此次重要更新引入了语义化版本控制,为开发者提供了更清晰的API变更和向后兼容性信号。此次发布还包括了对CUDA、Metal和WebGPU等各种硬件加速器的众多后端改进,以及FP8支持和增强的混合专家(mixture-of-experts)操作等新功能。虽然ggml独立于llama.cpp推理引擎,但Ollama和LM Studio等项目都建立在这个生态系统之上,受益…

  4. TOOL · CL_347352 ·

    llama.cpp 更新 CI runners 至 Ubuntu 26.04,并进行特定架构调整

    llama.cpp 项目发布了 b12204 版本,包含多项持续集成 (CI) 更新。一项重大变更是将 CI runners 迁移到 Ubuntu 26.04,但也有针对 s390x 和 arm 等特定架构回滚并使用 Ubuntu 24.04 的调整。该版本还解决了损坏链接的问题,固定了 Android CMake 版本,并修复了 OpenVINO 作业命名。

  5. TOOL · CL_333380 ·

    FastSDCPU 增加了对 FIBO 2.0 Edit Turbo 的支持,并集成了 OpenVINO

    FastSDCPU 发布了一个新版本,其中包括对 FIBO 2.0 Edit Turbo 的支持,增强了图像编辑能力。此次更新利用 OpenVINO 提高了在 CPU 上的性能。该版本旨在为用户提供更快、更高效的图像处理工具。

  6. TOOL · CL_320855 ·

    FastSDCPU 发布,支持 FLUX 3 Image Klein 和 OpenVINO

    FastSDCPU 已发布,支持 FLUX 3 Image Klein 和 OpenVINO。新版本可在短短两到四步内生成图像,显著加快了处理速度。

  7. TOOL · CL_319783 ·

    llama.cpp 发布 b11857,更新 GGML 库

    llama.cpp 项目已发布 b11857 版本,对其 GGML 库进行了一些更新。主要变化包括允许 MUL_MAT_ID 索引跳过计算,改进 Vulkan 和 ggml-webgpu 代码,并修复了 CUDA 和 OpenVINO 集成问题。该版本还指出从特定 PR 中排除了 CUDA,并包含一个用于未来工作的 TODO 标签。

  8. TOOL · CL_306886 ·

    FastSDCPU 发布支持像素空间图像生成的测试版

    FastSDCPU 发布了 1.0.0-beta.600 版本,引入了像素空间图像生成功能。此次更新利用 OpenVINO 提升性能。该版本目前处于测试阶段,表明仍在开发和测试中。

  9. TOOL · CL_282523 ·

    llama.cpp 更新修复了 ggml-openvino 后端问题

    llama.cpp 项目发布了更新 b11436,重点改进和修复了其 ggml-openvino 后端的问题。这些更改解决了图编译、Gemma3 等模型的动态 token 维度以及特定权重量化类型的 GPU 回归问题。更新还包括修复 CONCAT 操作中量化类型的处理,并调整逐元素操作数秩以解决 GPU 插件中的缺陷,特别是影响 Gemma-3 等模型。

  10. TOOL · CL_364651 ·

    OpenThai发布带可选矫正功能的快速OCR模型

    OpenThai发布的OpenThai2.1-OCR-Text-20261118模型,为打印的泰语和英语文本提供快速OCR,可在CPU上高效运行。此更新版本2.2.0包含一个可选的矫正功能,适用于扫描或拍摄的文档,可在文本识别前展平弯曲或倾斜的页面。该模型使用ONNX和OpenVINO作为其运行时,在8核Xeon处理器上可达到约每分钟950页的速度。

  11. TOOL · CL_272812 ·

    llama.cpp 发布包括服务器修复、OpenVINO 优化和平台支持扩展

    llama.cpp 项目发布了多个更新,包括 b11379、b11378、b11377、b11376、b11375、b11374、b11372、b11371 和 b11370 版本。这些版本在不同平台和功能上引入了各种改进和修复。值得注意的变化包括服务器端中止修复、JSON schema 聊天解析增强、OpenVINO 优化以及 CUDA 和 Metal 后端更新。该项目还继续扩展对 Snapdragon 和 openEuler 等不…

  12. TOOL · CL_258135 ·

    llama.cpp 发布带来 OpenVINO 更新、Vulkan、GGUF 和 SYCL 改进

    llama.cpp 项目发布了多个更新,包括 b11024 版本,该版本更新了 OpenVINO 2026.4 并修复了各种编译器警告。其他近期版本,如 b11022 和 b11020,分别改进了 Vulkan 支持和 DeepSeek 模型的消息分隔符解析。b11019 版本解决了 GGUF 文件对齐和 LoRA 加载问题,而 b11013 解决了 Vulkan 着色器中的缓冲区对齐问题。早期的更新,如 b11017 和 b1101…

  13. TOOL · CL_248481 ·

    在一块GPU上运行多个AI模型:挑战与考量

    本文探讨了在单个GPU上运行多个AI模型的挑战,重点关注潜在的冲突和性能下降。文章强调了在将工作负载整合到一块硬件上时,需要考虑的模型干扰、系统稳定性和效率等关键问题。旨在指导用户优化其多模型GPU部署。

  14. TOOL · CL_175008 ·

    llama.cpp 发布多个更新,改进性能和构建

    llama.cpp 项目发布了多个更新,包括 b10567 版本,该版本为 macOS、Linux、Android 和 Windows 提供了 CI 改进和各种构建选项。之前的版本如 b10566 和 b10549 分别引入了版本升级和张量分割功能。其他更新解决了 b10539 中的 Vulkan 量化计算、b10545 和 b10538 中的 Metal 性能优化以及 b10536 中的服务器端模型加载等具体问题。b10537 版本…

  15. TOOL · CL_142406 ·

    llama.cpp 发布多个更新,支持跨平台优化

    llama.cpp 项目发布了多个更新,包括 b10106、b10105、b10108、b10099、b10098、b10094、b10093、b10092、b10091 和 b10103 版本。这些发布在不同平台和硬件加速器上引入了各种改进和修复。值得注意的更新包括对 CUDA、Metal、Hexagon 和 OpenVINO 的增强,以及对 DeepSeekv4 等特定模型模板的修复,并改进了参数解析和内存管理。

  16. RESEARCH · CL_140822 ·

    Intel GPU 在成本和性能上挑战 NVIDIA 的 AI 推理

    据报道,Intel 的 Arc Pro B70 GPU 在 DeepSeek R1 AI 推理任务中的表现优于 NVIDIA 的 RTX 5090D,同时成本却显著降低。这一发展挑战了 NVIDIA 的 CUDA 生态系统的统治地位,表明 Intel 的 oneAPI 和 OpenVINO 可以在自托管 LLM 推理方面提供更具成本效益的替代方案,尽管其软件栈不够成熟。文章还讨论了 CPU 在分布式 AI 代理中的日益增长的重要性,以…

  17. RESEARCH · CL_141273 ·

    工业机器视觉边缘推理框架基准测试 · 跟踪 2 个来源

    一篇新的研究论文对四种流行框架——PyTorch、ONNX Runtime、OpenVINO 和 TensorRT——在工业机器视觉边缘设备上的深度学习推理性能进行了基准测试。研究发现,OpenVINO 在 CPU 上提供了最快的推理时间,而 TensorRT 在 GPU 上效率最高。然而,在评估基于 Transformer 的视觉模型时,TensorRT 的性能并未优于 PyTorch。

  18. TOOL · CL_138094 ·

    笔记本 iGPU 显存上限限制本地 LLM 性能

    在笔记本电脑上本地运行大型语言模型(LLM)和 AI 任务主要受限于集成显卡(iGPU)的显存(VRAM),而非 CPU。拥有 16GB 系统内存的笔记本电脑通常会分配约 8GB 作为显存,而操作系统和后台应用程序会进一步占用一部分,从而造成显著的瓶颈。为克服这一限制,用户必须采用量化模型,例如 Llama 3 8B 的 4 位或 5 位版本,并利用特定的硬件加速功能,如英特尔显卡的 OpenVINO 或 AMD 的 Vulkan。更…

  19. TOOL · CL_111217 ·

    llama.cpp 发布多个更新,包含性能和错误修复

    llama.cpp 项目已发布多个更新,包括 b9975、b9974、b9973、b9972、b9971、b9970、b9969、b9968、b9966 和 b9965 版本。这些发布在 macOS、Linux、Android 和 Windows 等多个平台上引入了各种改进和错误修复。值得注意的更改包括对 DeepSeek 模型的优化、在 Adreno GPU 等特定硬件上 Vulkan 和 OpenCL 性能的增强,以及对 CUDA…

  20. TOOL · CL_87111 ·

    llama.cpp 发布增强性能并添加新功能

    llama.cpp 项目发布了多个更新,包括 b9608,该版本更新了 cpp-httplib 并为 macOS、Linux、Android 和 Windows 等各种平台提供了预编译二进制文件。b9606 版本引入了 EAGLE3 推测解码支持,增强了模型推理能力。b9605 版本包括为 Adreno GPU 添加 OpenCL 内核,提高了在某些移动设备上的性能。b9604 版本解决了 SYCL 后端的 CI 构建和发布问题,确保…