PulseAugur
中
实时 16:43:46
实体 Max Krasnyansky

Max Krasnyansky

PulseAugur coverage of Max Krasnyansky — every cluster mentioning Max Krasnyansky across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
7
90 天内 8
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

5 天有情绪数据

最近 · 第 1/1 页 · 共 8 条
  1. TOOL · CL_345847 ·

    llama.cpp 通过融合 RMS_NORM 操作优化 hexagon 架构

    llama.cpp 项目发布了 b12181 版本,其中包括对 hexagon 架构的优化。这些更改侧重于将 post-norm residual add 融合到 RMS_NORM_MUL 操作中,并重构 RMS_NORM 融合以包含专用的 RMS_NORM_MUL_ADD opcode。这些修改的目标是通过利用 HVX 寄存器和简化融合逻辑来提高性能。

  2. TOOL · CL_340029 ·

    llama.cpp 添加 DSV4_HC_PRE 和 DSV4_HC_POST 操作

    llama.cpp 项目发布了 b12092 版本,引入了 DSV4_HC_PRE 和 DSV4_HC_POST 的新操作。这些更新包括双缓冲 DMA 的优化、内核参数的预计算以及对不同数量 HC 值的支持。该版本还添加了一个用于测试 llama 架构的工具,并使用 qwen4ext 进行了特定测试。

  3. TOOL · CL_334632 ·

    llama.cpp b12030 修复跨平台 hexagon DMA 传输问题

    llama.cpp 项目发布了 b12030 版本,修复了 hexagon 架构上步幅超过 24 位的 DMA 传输问题。此问题可能导致步幅截断和大型内存传输地址错误。此次更新重构了 hex-dma 组件内的回退路径,以减少重复,并确保了在 macOS、Linux、Android 和 Windows 等各种操作系统上的兼容性,同时针对 Apple Silicon 和 openEuler 进行了特定配置。

  4. RESEARCH · CL_324557 ·

    llama.cpp b11970 为跨平台添加了 Hexagon conv2d 支持

    llama.cpp 项目发布了 b11970 版本,该版本对其 Hexagon 后端进行了重大增强,特别是增加了对 conv2d 操作的支持。此次更新重构了 conv2d 内核参数,并优化了包括双缓冲暂存和隐式 GEMM 在内的各种路径,以提高性能并防止溢出问题。此外,该版本还详细介绍了跨多个操作系统和硬件配置的兼容性,例如 macOS、iOS、Linux、Android 和 Windows,并特别提到了对 openEuler 的支持。

  5. TOOL · CL_306139 ·

    llama.cpp 为 Hexagon 后端添加了 Q1_0 和 Q2_0 量化支持

    llama.cpp 项目发布了更新 b11716,引入了对 Q1_0 和 Q2_0 量化格式的支持。此次更新包括针对 hexagon 后端的优化,特别是增强了 Q1_0 权重的 HMX MUL_MAT 路径,并改进了 Q1_0 和 Q2_0 格式的切片和向量操作。这些更改旨在提高 llama.cpp 框架内这些量化类型的性能和效率。

  6. TOOL · CL_289820 ·

    llama.cpp 修复 Hexagon IM2COL DMA 溢出错误

    llama.cpp 项目发布了 b11516 版本,该版本解决了整数到整数 (IM2COL) patch-embed 直接内存访问 (DMA) 环溢出问题。当系统尝试排队比环所能容纳的更多的 DMA 描述符时,就会发生此溢出,导致在计算中使用过时的数据。此修复方法是在环满时撤销最旧的描述符,这是一种在同一文件中的类似内核中已采用的方法,并确保正确刷新 DMA 队列。此更新对于 Qualcomm Hexagon 架构上某些切片配置(特别…

  7. TOOL · CL_282227 ·

    llama.cpp 项目发布 b11434,包含 hexagon 和 ssm-conv 更新

    llama.cpp 项目发布了 b11434 版本,其中包括对其 hexagon 和 ssm-conv 组件的更新。这些更新侧重于提高预填充和解码过程中 DMA 操作的效率和结构。这些更改由 Max Krasnyansky 共同撰写。

  8. TOOL · CL_249368 ·

    llama.cpp 在 b10920 版本中增加了多设备模型拆分

    llama.cpp 项目发布了 b10920 版本,引入了对多设备模型拆分(也称为行拆分)的支持。此增强功能允许在多个设备上更有效地分配模型计算。此次更新包括大量代码更改,重点是完善此多设备功能、改进错误处理以及更新开发人员文档。