MLP-Mixer
PulseAugur coverage of MLP-Mixer — every cluster mentioning MLP-Mixer across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
用于COVID-19 CT扫描分类的AI模型显示出有希望的结果 · 2篇论文
提交至arXiv的两篇研究论文提出了从胸部CT扫描中对COVID-19病例进行分类的新颖方法。第一篇论文介绍了一种混合2D/3D卷积神经网络(CNN),该网络从CT容积内的多个平面提取特征,在一个包含1288次扫描的数据集上达到了83.3%的准确率。第二篇论文提出了一种结合3D CNN和3D MLP-Mixer的混合模型,该模型利用类似Vision Transformer的架构来捕捉局部和全局图像特征,在一个包含1205次扫描的数据集…
-
HieraMix:用于高效大规模交通预测的新型分层MLP-Mixer
研究人员推出HieraMix,一个专为大规模交通预测设计的新型框架。该模型利用分层MLP-Mixer架构,高效提取多分辨率时空特征。HieraMix采用自下而上的聚合和自上而下的传播方法,以及一个动态适应演变模式的自适应区域混合器。在四个真实世界数据集上的实验表明,HieraMix在保持计算效率具有竞争力的情况下,实现了最先进的性能。
-
研究将涌现式AI能力与稀疏注意力模式学习联系起来
一篇新的研究论文提出,Transformer语言模型中的涌现能力源于对稀疏注意力模式的随机学习。研究表明,当模型学习到相关的注意力模式时,诸如模式补全和间接宾语识别等能力会突然出现。学习这些模式的难度受上下文长度和稀疏性的影响,扩展注意力头可以提高效率,而MLP-Mixer在特定任务上显示出潜力。
-
MISTY运动规划器通过单步推理实现最先进的自动驾驶
研究人员开发了MISTY,一种专为自动驾驶设计的新型生成式运动规划器,它通过单步推理实现了高吞吐量。与需要迭代评估的现有基于扩散的规划器不同,MISTY利用矢量化编码器、变分自编码器和MLP-Mixer解码器来高效处理环境上下文和专家轨迹。这种方法能够合成主动机动,并在nuPlan基准测试中展示了最先进的性能,运行速度超过99 FPS,端到端延迟低。