Romberg-ZOGE

深圳大数据研究院4篇AI研究论文被ICML 2026录用

深圳大数据研究院的四篇研究论文被机器学习顶级国际会议ICML 2026录用。其中两篇论文介绍了大型语言模型的新优化技术：AdaMeZO是一种Adam风格的零阶优化器，可减少微调期间的内存开销；Romberg-ZOGE是一种用于梯度估计中高阶偏差缩减的方法。另一篇论文提出了SCOPE，一个利用云边协同方法分解用户查询的高效视频推理框架。第四篇论文MIMOMamba提出了一种新的状态空间模型，该模型以线性效率联合建模时间依赖性和跨通道交互。