实体
FlashML
FlashML
PulseAugur coverage of FlashML — every cluster mentioning FlashML across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
FreeToken 可在游戏 PC 上本地运行大型 AI 模型
FlashML 团队发布了 FreeToken，这是一个开源服务引擎，旨在高效地在消费级硬件上运行大型专家混合（MoE）AI 模型。该工具统一了 GPU 和 CPU 等异构资源，以实现海量模型的本地高速执行，无需昂贵的云服务。FreeToken 利用带宽自适应协同执行和语义感知缓存等高级优化来提高效率并赋能 AI 代理开发。
-
CAKE框架协同设计编译器代理以促进GPU内核演进
研究人员开发了CAKE，一个新颖的协同设计框架，它整合了编译器技术和AI代理以增强GPU内核演进。该系统允许代理编写一种称为CAKE IR的专业中间表示（IR），该IR详细说明了硬件调度、内存移动和同步。该框架旨在提高专家GPU内核的可复现性和性能，超越将编译器视为黑箱的局限性。早期结果显示，在NVIDIA GPU上，Flash-KMeans和Kimi Delta Attention等应用程序的速度显著提升，并有可能实现更广泛的内核泛化。