研究人员推出了一种新颖的神经模块——原生谓词神经元(Native Predicate Neuron),旨在将符号推理能力集成到深度学习架构中。该神经元近似一阶逻辑量化,使其能够处理标准神经网络难以处理的关系逻辑和不连续性。谓词神经元具有独特的梯度机制,允许在训练期间进行硬逻辑操作,同时保持反向传播的可微分性。当集成到Transformer和CNN等各种神经网络架构中时,它在MNIST和Wikitext等基准测试中,尤其是在需要单调推理的任务中,表现出收敛加速、准确性提高和损失降低。 AI
影响 使神经网络能够执行符号推理,有可能提高需要逻辑推理和处理不连续性的任务的性能。
排序理由 该集群包含一篇研究论文,详细介绍了一种用于将符号推理集成到深度学习中的新神经模块。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Keras
- Kyriakos Sgarbas
- MNIST database
- Native Predicate Neuron
- Predicate Neuron
- PyTorch
- wikitext
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →