两篇新的arXiv论文探讨了球面上的随机二次型(RQF),这是一个受连续时间机器学习启发的模型。研究调查了随机强迫和共同噪声如何影响这些系统内的同步特性。研究结果表明,即使没有自注意力机制,噪声也能导致神经ODE和Transformer等模型中的完全同步和聚类行为。 AI
影响 表明噪声可以解释Transformer中的聚类,为自注意力机制提供了替代方案。
排序理由 两篇学术论文发表在arXiv上,详细介绍了一个具有AI应用潜力的新数学模型。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →