实体
masked auto-encoding
masked auto-encoding
PulseAugur coverage of masked auto-encoding — every cluster mentioning masked auto-encoding across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的LUViT方法弥合了LLM和Vision Transformer的模态鸿沟
研究人员开发了语言解锁视觉Transformer（LUViT），这是一种将大型语言模型（LLM）与视觉Transformer（ViT）集成用于视觉任务的新颖方法。LUViT通过使用掩码自动编码（MAE）联合训练ViT骨干网络，并使用低秩适应（LoRA+）层来适应LLM融合块，从而解决了模态不匹配问题。这种共同适应策略使ViT能够生成与LLM对齐的特征，并使LLM能够有效地解释视觉信息，从而在各种下游视觉任务上提高性能。
-
新论文概述用于高级AI分析的地理空间基础模型
一篇新论文介绍了地理空间基础模型（GeoFMs），这些模型在海量的地理空间数据上进行了预训练。这种方法将计算密集型的预训练与领域专家的微调或提示分开，从而使先进的AI功能民主化。论文详细介绍了不同类型的GeoFMs、部署它们的实际考虑因素以及选择适应策略的框架。它还设想了一个智能体地理空间推理的未来，其中大型语言模型将GeoFMs用作复杂分析和自然语言查询的工具。