一项新的研究论文对当前地震学中基础模型(FMs)的有效性提出了质疑,认为它们更像是华而不实的特征提取器,而非真正的基础模型。该研究对九种基于Mamba的模型设计进行了实验,发现不同的自监督目标会重新分配下游技能,而不是提高整体性能。研究人员认为,局限性在于训练目标,这些目标源自音频和视觉模型,未能充分捕捉地震发生的随机性。他们建议,需要定义跨事件的学习目标,才能开发出更强大的地震学基础模型。 AI
影响 挑战了专业领域中基础模型的当前方法,表明需要特定领域的训练目标。
排序理由 发表在arXiv上的研究论文,讨论基础模型。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →