Flatiron Institute
PulseAugur coverage of Flatiron Institute — every cluster mentioning Flatiron Institute across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
苹果研究人员将Transformer知识蒸馏到Mamba架构
来自Apple Inc.的研究人员开发了一种新方法,将知识从Transformer模型蒸馏到类似Mamba的架构中。他们的两阶段方法首先使用核技巧将知识蒸馏到一个线性化注意力模型中,然后将其蒸馏到一个适应的Mamba模型中。这种技术使蒸馏后的Mamba模型能够保留原始Transformer的大部分性能,困惑度达到14.01,而教师模型的困惑度为13.86,尽管在需要强大上下文内回忆的任务上出现了一些差距。
-
FlashMap 通过新颖的流图技术将 LLM 解码速度提高 6.14 倍
Polymathic AI 和普林斯顿大学的研究人员推出了一种新颖的大型语言模型推测性解码方法 FlashMap。FlashMap 使用连续流图而非离散扩散起草器,使其能够在一个前向传播中提出 16 个 token 的块。该方法在使用 Qwen3-8B 模型在 GSM8K 基准测试上实现了高达 6.14 倍的无损加速,起草器权重可在 Hugging Face 上获取。
-
Simons基金会启动1500万美元人工智能倡议,面向数学家
Simons基金会正在启动一项1500万美元的倡议,以支持数学家适应人工智能日益增长的影响。该倡议与Anthropic和OpenAI合作,将为研讨会和提案提供资金,旨在帮助研究人员评估人工智能辅助的结果并学习新工具。作为计算科学的长期支持者,该基金会将管理资金和资源,并将支持范围从数学扩展到其他基础科学领域。
-
NVIDIA 通过新基础设施和软件加强科学 AI · 跟踪 2 个来源
NVIDIA 正在通过提供先进的 AI 基础设施和新的软件工具来加强科学研究。国家人工智能研究资源(NAIRR)试点项目在 NVIDIA 的 DGX 节点和技术支持下,已支持了跨越多个科学领域的 700 多个项目。NVIDIA DAQIRI、ALCHEMI NIM 微服务和 cuPhoton 等新软件正在加速化学、材料发现和天文学等领域的的数据处理和分析,将数小时的 CPU 工作转化为实时 GPU 加速的管道。