一位机器学习爱好者开发了一个本地训练的VLA（甚大阵列）模型，该模型使用了一个最小化注意力视觉编码器。该模型维护一个768x768的大型矩阵，带有类似LSTM的单元门，总计超过2500万个参数。虽然最初是为了语言建模而设计，但该项目已转向VLA任务，模型现在通过学习到的、状态导向的对原始像素值的注意力来处理视觉信息。 AI
影响 该项目展示了一种新颖的VLA模型架构方法，可能影响未来本地化AI开发的研究。
排序理由 该条目描述了一个开发新颖机器学习模型架构的个人项目。[lever_c_research降级：ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
