Dan Fu
PulseAugur coverage of Dan Fu — every cluster mentioning Dan Fu across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Together AI: Inference benchmarks miss production realities
Inference benchmarks may not accurately reflect real-world production workloads, according to Dan Fu, VP of Kernels at Together. This is particularly true when running numerous concurrent coding agents that require larg…
-
Together AI 内核团队使用 FlashAttention 优化 GPU
Together AI 内核团队,包括研究员 Dan Fu 和 Tri Dao,开发了 FlashAttention,这是一个显著优化 AI 模型 GPU 性能的软件层。这项突破通过将数据库系统原理应用于 GPU 内存移动,实现了 2-3 倍的速度提升,挑战了 transformer attention 已经完全优化的观念。该团队后续的工作,包括 ThunderKittens 库,旨在加速 NVIDIA Blackwell GPU 等…
-
Together AI 副总裁:AI 未触及硬件瓶颈,效率提升空间巨大
Together AI 的 Kernels 副总裁 Dan Fu 认为,对通用人工智能(AGI)的追求并未触及硬件瓶颈。他提出,目前的 AI 系统严重低估了现有硬件的利用率,训练运行的平均浮点运算利用率(MFU)通常仅为 20%,而推理的利用率更是个位数。Fu 建议,通过软硬件协同设计以及 FP4 训练等创新,可以实现显著的性能提升,并且下一代硬件的未来计算能力尚未完全整合。