neuro-symbolic AI
PulseAugur coverage of neuro-symbolic AI — every cluster mentioning neuro-symbolic AI across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
神经符号AI模型对后门攻击的鲁棒性表现不一
一篇新的研究论文探讨了神经符号AI模型在后门攻击（一种对抗性操纵）方面的脆弱性。该研究将DeepProbLog框架与基线神经网络在八种后门设置和四种推理任务上进行了比较，发现虽然神经符号模型普遍表现出更强的鲁棒性，但其韧性高度依赖于其推理过程的严格程度以及与特定对抗性目标的兼容性。研究人员已公开了他们的实验代码。
-
新AI框架将观测转化为符号数学表示
研究人员推出NeuSOGA，一个旨在将原始观测转化为显式符号数学表示的新型框架。这种神经符号方法旨在弥合现代AI系统潜在的、不透明的编码与可解释、可分析操作的知识之间的差距。NeuSOGA通过拓扑和几何洞察力逐步构建抽象，最终合成可解释和可编辑的符号模型。
-
神经符号 AI 研究缺乏可复现性，审计发现
一项新的审计框架显示，在提供可用工件的神经符号 AI 研究论文中，只有 6.5% 的研究是可复现的。该研究分析了 1,304 篇符合条件的论文，发现大量重新运行实验的尝试因缺少非代码工件或无法使用的代码存储库而受阻。作者主张，未来所有实证神经符号 AI 出版物都必须强制提供版本化且永久存档的工件包，以解决这一持续存在的复现性不足问题。
-
神经符号AI详解：连接感知与证明
本文介绍了神经符号AI，通过一个适合初学者的教程解释其基本概念。它使用两个“学生”的比喻——一个有感知能力但不能证明，另一个能证明但没有感知能力——来说明将符号推理与神经网络相结合的挑战。文章强调了“校准置信度”的必要性，以弥合这些方法之间的差距，并提出Tensor Logic提供了一条规则和矩阵乘法在数学上统一的路径。
-
Gram-Space框架大幅降低神经符号AI的内存使用
研究人员推出Gram-Space，一个旨在解决神经符号AI内存瓶颈的新型压缩框架。该框架利用Gram-Schmidt过程，在一个紧凑的正交坐标系中表示码本向量，为VSA算子保留了重要的点积结构。在神经符号推理数据集上的基准测试表明，Gram-Space可以将GPU内存使用量显著降低高达15.75倍，并将推理延迟提高高达3.62倍，从而提高这些工作负载的硬件利用率。
-
新框架将混合模型与神经符号AI连接起来
研究人员开发了一个名为Hybrid-to-NeSy (H2N)的新框架，该框架将混合机制/数据驱动模型与神经符号AI连接起来。这种方法将混合建模设计转化为神经符号接口，将机制知识视为语言，将学习模块视为信念，将约束视为逻辑。H2N框架引入了两个指标：结构违规率 (SVR)，用于评估对机制结构的遵循程度；以及信念分散度 (BD)，用于量化机制组件中的认知不确定性。这些指标在一个二元分类案例研究中得到了验证，结果表明较高的SVR和BD与更…
-
新分类法区分了生成式模型之外的人工智能类型
一种新分类法正在出现，用于区分人工智能的各种类型，超越了人工智能都相同的普遍看法，特别是随着生成式人工智能和大型语言模型的兴起。这种分类至关重要，因为从人工智能中吸取的经验教训和应用高度依赖于所使用的人工智能的具体类型，从而防止不同人工智能技术之间的误导性比较。该分类法强调了从早期的专家系统到更新的混合或神经符号人工智能的演变，并强调无论人工智能类型如何，都需要健全的人工智能治理，特别是在必须维护民主价值观和法治的公共部门。
-
新的神经符号AI框架整合时间逻辑用于知识图谱
研究人员引入了第一阶时间逻辑张量网络（FOT-LTN），这是一个新颖的框架，旨在解决现有神经符号AI方法主要处理静态知识的局限性。FOT-LTN通过整合线性时间维度扩展了逻辑张量网络，使其能够在完全可微分的系统中处理时间算子和量词。在合成数据集上的时间知识图谱补全任务的初步评估表明，FOT-LTN的性能优于纯粹的神经网络方法。
-
新论文提出在受监管行业中为人工智能构建合规性
一篇新的研究论文提出了一种在受监管行业中运行的人工智能智能体的“构建合规性”范式。该论文认为，像法规和合规性约束这样的符号结构应该被整合到智能体的核心架构中，而不仅仅是作为外部监控。这种方法旨在防止自动化质量管理过程中的控制流违规和语义错误。
-
神经决策传播增强了神经符号AI的可扩展性
研究人员开发了神经决策传播（NDProp），一种将答案集规划（ASP）与神经网络相结合的新颖方法。该方法旨在通过使用神经计算进行决策和模糊评估进行传播来克服传统ASP求解器的可扩展性限制。实验表明，NDProp可以学习有效的决策启发式方法，并提高神经符号任务的准确性和可扩展性。