PulseAugur
实时 18:58:01
实体 Victor Gallego

Victor Gallego

PulseAugur coverage of Victor Gallego — every cluster mentioning Victor Gallego across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_117768 ·

    新的运行时和基准测试提升 Apple Silicon 上的 LLM 推理性能

    研究人员开发了在 Apple Silicon 上优化大型语言模型 (LLM) 推理的新方法。第一种方法 BaseRT 是一个原生 Metal 运行时,通过针对 Metal 的执行模型和 Apple Silicon 的统一内存进行优化,实现了比现有框架更高的推理吞吐量。它支持各种模型系列和量化,在 M3 和 M4 Pro 设备上展示了显著的性能提升。第二项贡献 Metal-Sci 是一个用于评估 Apple Silicon 上 LLM …