Qwen-4B
PulseAugur coverage of Qwen-4B — every cluster mentioning Qwen-4B across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新AI研究推出先进的优化器和机器人操控模型
研究人员推出了一种新颖的大语言模型预训练优化器TUON,该优化器利用了源自张量奇异值分解(Tensor-SVD)的基于变换的张量代数。TUON旨在通过捕捉跨层相关性来提高优化器效率,在各种GPT和Qwen模型上表现优于Muon和TEON等现有方法。此外,还开发了一种名为GE-Act 2.0的用于机器人操控的新世界动作模型,该模型通过在操控数据上进行预训练和扩展,展示了显著的性能提升。GE-Act 2.0在零样本分布外成功率和物体引用接…
-
新研究评估了LLM在可验证任务中的心智理论能力
一篇新的研究论文评估了语言模型的心智理论(ToM)能力,重点关注它们在可验证任务中推断和基于信念采取行动的能力。该研究引入了一种多层次评估方法,扩展了具有不对称信息的现有协作和调度任务。结果表明,像Claude这样的模型可以正确推断信念,但在最优规划方面存在困难,而Qwen-27B在提供信念时任务成功率有所提高,Qwen-4B则显示出信念推断与任务执行之间的脱节。
-
新的FedSubMuon方法大幅降低LLM联邦微调的通信成本
研究人员开发了FedSubMuon,一种用于大型语言模型(LLM)联邦微调的新颖方法,可显著降低通信成本。该方法优化了共享结构化子空间内的紧凑系数矩阵,从而在保持矩阵感知优化的优势的同时实现高效更新。一个扩展版本FedSubMuon-GT通过使用投影梯度自适应跟踪的子空间基,进一步提高了准确性。实验表明,FedSubMuon-GT在多个数据集-模型对上取得了卓越的准确性,而FedSubMuon在各种通信预算下提供了最佳性能,大幅超越了基线。
-
AI初创公司EliseAI估值22亿美元,实现房地产和医疗保健管理自动化
AI初创公司EliseAI的估值为22亿美元,正在彻底改变房地产和医疗保健领域的行政任务。其AI助手Ella每年为Equity Residential等物业管理公司处理数百万次客户互动,从而节省了大量薪资并提高了效率。该公司还为医疗保健提供商提供AI工具,以实现前台运营自动化,展示了AI在传统服务不足行业的广泛应用。