Attention-Based Soft Answer Sets

新的AS2架构实现了端到端的全微分神经符号推理

研究人员推出了一种新颖的神经符号架构——基于注意力的软答案集（AS$^2$），旨在实现端到端的全微分推理。该系统使用连续方法近似离散符号求解器，从而能够对整个模型进行基于梯度的优化。AS$^2$在符号域上的概率分布上运行，并通过最小化固定点残差进行学习，允许通过约束检查进行微分，而无需外部求解器。该架构在视觉数独等任务上表现出色，准确率接近完美，并在CLEVR-Hans基准测试中取得了优异成绩。