实体
Single-Rollout Asynchronous Optimization
Single-Rollout Asynchronous Optimization
PulseAugur coverage of Single-Rollout Asynchronous Optimization — every cluster mentioning Single-Rollout Asynchronous Optimization across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的 LiSAO 方法通过消除对价值模型的依赖来简化 LLM 训练
研究人员推出 LiSAO,这是单轮异步优化 (Single-rollout Asynchronous Optimization) 的一个精简版本,专为训练大型语言模型而设计。这种新方法无需使用其前身的关键组件——预训练价值模型。LiSAO 旨在通过更好地管理单轮推理和多轮代理任务中遇到的不同长度的 rollout,来提高异步强化学习的稳定性。
-
GLM5.3稀疏注意力机制影响HBM内存使用
SemiAnalysis详细介绍了GLM5.3的稀疏注意力机制如何影响高带宽内存(HBM)的使用。该分析涵盖了KV缓存卸载和HiSparse等关键技术,这些技术对于优化性能至关重要。它还涉及AgentX TileRT和InferenceX,暗示了AI推理效率的进步。