Dan Fu
PulseAugur coverage of Dan Fu — every cluster mentioning Dan Fu across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Together AI 详解使用 NVIDIA Blackwell 进行延迟优化
Together AI 详细介绍了其优化推理延迟的方法，重点介绍了 NVIDIA 技术与其自身平台的集成。他们的系统 Together ATLAS 利用 NVIDIA Blackwell、CUDA、TensorRT-LLM 和 Dynamo 以及自定义内核，为用户实现低于 100 毫秒的响应时间。这种优化对于实现更快的推理和长上下文代码生成至关重要。
-
MiniMax M3 发布，支持 1M 词元上下文和 MSA 架构
MiniMax 发布了其 M3 模型，该模型采用了新颖的稀疏注意力（MSA）架构，支持 100 万词元的上下文窗口和原生多模态。这种新架构显著降低了长上下文的计算成本，使得 M3 比前几代模型速度更快。该模型在编码和智能体任务方面也表现出色，在 SWE-Bench Pro 和 Terminal-Bench 等基准测试中超越了多个领先模型。
-
Together AI：推理基准测试未能反映生产实际情况
Together公司Kernels部门副总裁Dan Fu表示，推理基准测试可能无法准确反映真实的生产工作负载。当运行需要大型上下文窗口的众多并发编码代理时，这一点尤其明显。Fu建议基准测试应更好地与这些复杂、高要求的操作场景保持一致。
-
Together AI 内核团队使用 FlashAttention 优化 GPU
Together AI 内核团队，包括研究员 Dan Fu 和 Tri Dao，开发了 FlashAttention，这是一个显著优化 AI 模型 GPU 性能的软件层。这项突破通过将数据库系统原理应用于 GPU 内存移动，实现了 2-3 倍的速度提升，挑战了 transformer attention 已经完全优化的观念。该团队后续的工作，包括 ThunderKittens 库，旨在加速 NVIDIA Blackwell GPU 等…
-
Together AI 副总裁：AI 未触及硬件瓶颈，效率提升空间巨大
Together AI 的 Kernels 副总裁 Dan Fu 认为，对通用人工智能（AGI）的追求并未触及硬件瓶颈。他提出，目前的 AI 系统严重低估了现有硬件的利用率，训练运行的平均浮点运算利用率（MFU）通常仅为 20%，而推理的利用率更是个位数。Fu 建议，通过软硬件协同设计以及 FP4 训练等创新，可以实现显著的性能提升，并且下一代硬件的未来计算能力尚未完全整合。