一篇新论文研究了 Engram 模块，该模块旨在通过联想记忆增强 Transformer 层，并将其应用于自回归图像生成。研究将 Engram 适配于视觉任务，并在一个在 ImageNet 上训练的模型上进行了测试，发现虽然它降低了计算负荷，但与标准的自回归基线相比，样本质量并未得到改善。进一步的实验表明，在此背景下，Engram 更像是一个门控架构通路，而不是一个内容寻址的记忆检索器。 AI
排序理由 该集群包含一篇研究论文，分析了特定模块在新型应用中的性能。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
