FlagScale

智谱AI的Orca模型学习世界状态以实现更深层次的AI理解 · 跟踪到1个来源

智谱AI研究院的研究人员开发了一个名为Orca的新模型，该模型专注于预测世界的下一个状态，而不仅仅是下一个token、帧或动作。这种方法旨在通过从连续视频中进行无意识学习以及从语言和事件中进行有意识学习，来教会AI模型更深入地理解世界如何变化。该模型利用了包含125,000小时视频和1.6亿个事件标注的海量数据集，并在理解状态转换、事件演变和动态运动方面表现出改进的性能，甚至在没有明确动作预训练的情况下也显示出在机器人控制方面的潜力。