PulseAugur
中
实时 14:28:24
实体 TVM

TVM

PulseAugur coverage of TVM — every cluster mentioning TVM across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
3
90 天内 6
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 4
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 7 条
  1. TOOL · CL_317613 ·

    GLOW-FM: 用于高效低光图像增强的单步潜在流匹配

    研究人员开发了GLOW-FM,一个使用单步潜在流匹配方法进行高效低光图像增强的新框架。该方法在Tiny-VAE的潜在空间内运行,并采用终端速度匹配(TVM)以单次函数评估实现高质量结果。实验表明,GLOW-FM提供了具有竞争力的图像质量和卓越的跨数据集泛化能力,其较小版本仅需一步推理和34 GFLOPs,使得生成式低光图像增强更加实用。

  2. TOOL · CL_308091 ·

    新方法通过单次前向传播加速贝叶斯神经网络

    研究人员开发了一种新方法,通过使用单次概率前向传播(PFP)和代码生成来加速贝叶斯神经网络(BNNs)。这种方法显著降低了传统BNNs的计算成本,而传统BNNs通常需要多次前向传播来进行不确定性估计。PFP方法假设权重和激活服从高斯分布,允许进行解析不确定性传播,并实现了显著的加速,对于小批量数据可达4200倍,同时保持了准确性并改善了域外检测能力。这项技术对于在资源受限的系统(如嵌入式ARM CPU)上部署BNNs尤其有前景。

  3. TOOL · CL_312080 ·

    新框架和代理解决边缘设备 LLM 内核生成问题

    研究人员开发了 EdgeKernelBench,一个用于在各种边缘设备上评估 LLM 生成内核的框架,以及 LEKA,一个分层优化代理。虽然 LLM 可以在服务器 GPU 上生成性能良好的内核,但由于硬件异构性和严格的资源限制,边缘部署带来了独特的挑战。EdgeKernelBench 使用统一的中间表示和分层基准来评估 LLM 生成的内核,揭示了功能正确性与实际性能之间存在显著差距。LEKA 旨在通过分层 IR 组织优化来弥合这一差距…

  4. TOOL · CL_165117 ·

    新框架 FBLayout 提升移动 LLM 微调效率

    研究人员开发了 FBLayout,一个旨在优化内存布局以在移动 GPU 上高效微调大型语言模型的新框架。该方法解决了阻碍设备端 AI 个性化的内存限制和布局转换效率低下的问题。FBLayout 引入了统一的 R-Tile 布局、基于块的索引转换和由激活引导的布局选择,以最大限度地减少数据移动和内存占用。在各种 Transformer 模型和移动 GPU 上的评估表明,与现有框架相比,速度显著提升,从而实现了实用的设备端微调。

  5. RESEARCH · CL_158822 ·

    InstantSfM 为深度学习时代提供 GPU 原生运动恢复结构

    研究人员开发了 InstantSfM,一个新颖的 GPU 原生运动恢复结构 (SfM) 系统,旨在与深度学习流水线无缝集成。该系统通过将度量深度先验直接嵌入其优化框架,解决了传统以 CPU 为中心的 SfM 方法的局限性,消除了尺度模糊并提高了数值稳定性。InstantSfM 展现了显著的速度提升,在大规模数据集上,其性能比 COLMAP 等成熟工具提高了 40 倍,同时保持了相当的重建精度。

  6. TOOL · CL_134908 ·

    通过 Vulkan 在 GPU 上运行神经网络:库、编译器或自定义引擎

    本文概述了使用 Vulkan API 在 GPU 上运行已训练神经网络的三种方法。它建议集成现有的库,如 TensorFlow Lite 或 ONNX Runtime,通过 ML 编译器(如 IREE 或 TVM)编译模型,或使用计算着色器开发自定义推理引擎以实现深度 Vulkan 集成。

  7. RESEARCH · CL_12339 ·

    AI代理自动化数据准备,而新的Python ML编译器加速LLM压缩

    研究人员开发了一个仅用5000行Python编写的新开源机器学习编译器栈。该栈通过将大型语言模型降低到具有六个中间表示的CUDA,提供了前所未有的透明度。它旨在易于修改且针对CUDA进行了优化,与PyTorch或TVM等更复杂的系统形成对比。此外,AI代理因其自动化探索性数据分析和数据准备任务的潜力而受到关注,有望为数据科学家节省大量时间。