研究人员引入了Clifford Kolmogorov-Arnold网络(ClKANs),这是一种专为任意Clifford代数空间内的函数逼近而设计的新型架构。这种新架构采用了随机准蒙特卡洛网格生成来管理高维代数的计算复杂性,并为可变域输入引入了专门的批归一化技术。ClKANs在科学发现和工程领域展现出潜力,并在合成和受物理学启发的任务中得到了初步验证。 另外,一个名为单调Kolmogorov-Arnold网络(MKAN)的新变体已被开发出来,以保证硬单调性。MKAN通过B样条系数的指数重参数化、正边缘权重和单调基激活来实现这一点,从而允许在训练过程中进行标准的无约束梯度下降。理论上,MKAN提供了一个表示成本定理,为单调编码器提供了原则性的尺寸规则。实证上,MKAN在一个基准数据集上展示了具有竞争力的性能,同时提供了硬单调性和KAN特有的每边缘功能透明度。 AI
影响 KAN变体在这些方面的进步可能为复杂科学和经济建模任务带来更高效、更具可解释性的模型。
排序理由 该集群包含两篇介绍新型神经网络架构变体的研究论文。
在 Hugging Face Daily Papers 阅读 →
- Kolmogorov--Arnold network
- Kolmogorov--Arnold Networks
- Monotonic Kolmogorov-Arnold Networks
- multilayer perceptron
- SMM/ICML-2024
- Clifford Kolmogorov-Arnold Networks
- ClKAN
- Matthias Wolff
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →