Differentiable Architecture Search For Hybrid Attention
PulseAugur coverage of Differentiable Architecture Search For Hybrid Attention — every cluster mentioning Differentiable Architecture Search For Hybrid Attention across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
评论员 Anil Dash 和 Cory Doctorow 因 AI 炒作而受到批评
科技评论员 Anil Dash 和 Cory Doctorow 因在推广 AI 技术时未能承认其缺乏真正的智能而受到批评。作者认为，科技行业，包括知名人士，轻易接受并推广具有夸大宣传的 AI，这表明该行业内部存在不安全感或对智能缺乏真正的尊重。这种推广被视为对公众的侮辱，尤其是在大型语言模型和 Claude 等系统并非真正智能的情况下。
-
新的DASH方法可减少推理语言模型的过度思考
研究人员开发了一种名为DASH（Drift Aware advantage SHaping）的新方法来解决推理语言模型中的过度思考问题。该技术在片段级别分配信用，确定推理过程的每个部分是更接近还是更远离正确答案。通过使用中间答案承诺作为生产力的代理，DASH减少了令牌消耗，并提高了数学基准的准确性，性能优于Dr.GRPO和GRPO等模型。
-
Dropbox 将 Model Context Protocol 集成到内部 AI 代码审查平台
Dropbox 已将 Model Context Protocol (MCP) 集成到其内部知识平台 Dash 中。此次集成旨在为 AI 辅助的代码审查提供实时安全上下文。工程主管 Ishan Misha 讨论了该实现的架构和经验教训。
-
新的模拟器DASH通过跨域用户模拟改进广告系统评估
研究人员开发了DASH，这是一种新颖的面向决策的用户模拟器，旨在改进在线广告和推荐系统的评估。与以往仅关注点击等可观察行为并使用单一域历史的模拟器不同，DASH整合了异构的跨域数据，并生成思考痕迹和行为动作。这种方法旨在提供用户偏好的更全面视图，并提高模拟的诊断价值。在腾讯广告的真实世界数据上进行的实验证明了DASH的有效性和效率。
-
人工智能模型预测乘客需求，提高香港出租车司机效率
由出租车支付初创公司Dash与香港科技大学合作开发的一款名为StreetSights的新型人工智能预测模型，旨在帮助香港传统的街招出租车司机识别高需求区域，从而提高效率。初步研究表明，该模型预测供需的准确率高达90%，计划于2027年中期推出。
-
新方法解决全模态LLM的令牌压缩问题以提高效率
两篇新的研究论文提出了压缩全模态大语言模型（OmniLLMs）令牌序列的方法，以降低推理成本。第一篇论文DASH，使用音频线索动态分割序列，并采用三信号估计器保留重要令牌，在AVUT和VideoMME等基准测试中实现了更高的压缩率和有竞争力的准确性。第二篇论文OmniFocus，采用查询引导式方法，独立估计视频和音频令牌的重要性，旨在减轻模态偏差并保持一致性。OmniFocus在Qwen2.5-Omni模型系列上展示了强大的性能，在准…
-
新的Dashboard2Code任务评估LLM重建交互式仪表板的能力
研究人员推出Dashboard2Code，一项旨在评估多模态大语言模型重建交互式仪表板能力的新任务。该任务超越了静态图表生成，要求模型与仪表板交互、整合反馈并生成复制目标仪表板的代码。为此，他们开发了DashboardMimic基准数据集，使用Plotly+Dash，包含180个不同难度级别和交互模式的仪表板-代码对。实验表明，包括强大的开源和闭源选项在内的当前模型在处理复杂仪表板时遇到困难，突显了显著的性能差距。
-
新方法DASH解决了推理语言模型中的过度思考问题
研究人员开发了一种名为DASH（Drift Aware advantage SHaping）的新方法来解决推理语言模型中的过度思考问题。该技术在片段级别分配信用，确定推理过程的每个部分是更接近还是更远离正确答案。通过使用中间答案承诺作为生产力的代理，DASH避免了昂贵的步骤级别注释的需要。DASH应用于AIME25等竞赛级别数学基准测试，与现有方法相比，其准确性更高，非生产性自我反思更少。
-
DASH 优化器通过 GPU 和求根创新将 Shampoo 加速高达 5.6 倍
研究人员开发了 DASH，这是 Shampoo 优化器的一个显著更快的实现，用于机器学习。DASH 利用批处理块预处理来提高 GPU 利用率，并引入了牛顿-DB 和切比雪夫多项式近似等新方法来计算逆矩阵根。与现有的分布式 Shampoo 实现相比，这种优化使优化器步长速度提高了 5.6 倍，同时在每次迭代中也实现了更低的验证困惑度。
-
DASH框架生成隐蔽的对抗性AI示例
研究人员开发了DASH，一个元攻击框架，旨在为AI模型创建既能有效引起错误分类又在视觉上不可察觉的对抗性示例。该框架战略性地结合了现有的基于Lp范数的攻击方法，并使用学习到的权重来适应性地调节它们的贡献。DASH旨在提高对抗性示例的感知质量，在CIFAR-10和ImageNet等数据集上表现优于当前最先进的方法。
-
研究证明在共线性下特征排名不可能
一篇新发表在arXiv上的研究论文表明，当特征共线性时，没有任何特征排名方法能够同时做到忠实、稳定和完整。该研究证明了这种不可能，并针对各种模型类别进行了量化，表明像DASH这样的集成平均方法可以解决这个问题。这些发现对公平性审计有直接影响，表明基于SHAP的代理歧视审计在共线性下是不可靠的。
-
DASH 框架将 LLM 混合注意力搜索时间大幅缩短
研究人员开发了 DASH，一个用于高效设计大型语言模型混合注意力架构的新框架。这种可微分方法显著加快了架构搜索过程，将计算成本从数十亿 token 降低到仅数百万。DASH 在某些基准测试中优于现有方法，甚至超越了 Jet-Nemotron 等模型，所有这些都在单 GPU 上数分钟内完成。