Michael McCabe

Walrus基础模型采用新技术推进物理模拟

研究人员开发了Walrus，一个基于Transformer的连续介质动力学基础模型，旨在弥合物理模拟在语言和视觉模型方面滞后的差距。该模型通过新颖的稳定方法、负载均衡训练策略和自适应分词来解决数据异质性和不稳定的长期动力学等挑战。Walrus在十九个不同的物理场景上进行了预训练，在各种下游任务的短期和长期预测中均表现出卓越的性能，并发布了代码和权重以鼓励社区使用。