neuro-symbolic AI
PulseAugur coverage of neuro-symbolic AI — every cluster mentioning neuro-symbolic AI across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
软本体先验改进神经符号AI训练
研究人员开发了一种新的神经符号AI模型训练方法，解决了推理捷径问题。通过将软本体先验纳入训练目标，该方法确保概念映射是可识别的，并且可以在下游应用中安全重用。该技术将先验和任务约束编译成概率电路，允许模型计数与电路大小成线性关系。该方法已在真实驾驶基准和受控神经符号任务上得到验证。
-
神经符号AI研究在约束形式化和策略学习方面取得进展 · 跟踪2个来源
两篇新研究论文探讨了应用神经符号AI技术来增强AI系统的能力。第一篇论文介绍了一个基准，用于使用大型语言模型（LLMs）从文本中自动形式化符号约束，以改进神经符号预测器，发现LLMs可以生成有效的约束。第二篇论文提出了一种神经符号计算机使用方法，其中学习到的策略处理重复性工作流程以提高可靠性和效率，在基准任务上的表现显著优于现有代理。
-
掌握实体解析以获得纯净的企业知识图谱
本文讨论了企业知识图谱中数据碎片化的关键挑战，在这些碎片化中，同一个现实世界实体可以在不同系统中以不同的名称表示。它强调了诸如实体解析、链接预测和图去重等确定性方法对于确保 AI 应用程序的数据完整性的必要性。作者提出了一种基于 TypeScript 的方法，并将其与概率性 LLM 进行对比，同时强调使用 Jaro-Winkler 等字符串相似度指标进行准确的实体匹配。
-
模式驱动的事实验证旨在消除LLM幻觉
本文提出了一种称为模式驱动的事实验证（Schema-Driven Fact Verification）的方法来对抗大型语言模型（LLM）的幻觉。文章认为，当前依赖语义相似性的检索增强生成（RAG）方法仍然可能传播虚假信息。提出的方法包括拦截LLM的输出，将其解析为逻辑谓词，并使用形式逻辑和图论针对知识图谱进行验证。这类似于Web开发向强类型和API网关的演变，其中模式在数据到达业务逻辑之前强制执行数据完整性。
-
神经符号 AI 利用语义网标准对抗 LLM 幻觉
大型语言模型 (LLM) 容易生成虚假信息，这对企业应用来说是一个重大风险。为了解决这个问题，一种神经符号 AI 方法正在兴起，它将 LLM 与符号知识库相结合。这种混合架构使用 RDF、OWL 和 JSON-LD 等语义网标准来确保确定性真相并防止幻觉，从而提供比标准检索增强生成 (RAG) 更可靠的系统。
-
神经符号AI模型对后门攻击的鲁棒性表现不一
一篇新的研究论文探讨了神经符号AI模型在后门攻击（一种对抗性操纵）方面的脆弱性。该研究将DeepProbLog框架与基线神经网络在八种后门设置和四种推理任务上进行了比较，发现虽然神经符号模型普遍表现出更强的鲁棒性，但其韧性高度依赖于其推理过程的严格程度以及与特定对抗性目标的兼容性。研究人员已公开了他们的实验代码。
-
新AI框架将观测转化为符号数学表示
研究人员推出NeuSOGA，一个旨在将原始观测转化为显式符号数学表示的新型框架。这种神经符号方法旨在弥合现代AI系统潜在的、不透明的编码与可解释、可分析操作的知识之间的差距。NeuSOGA通过拓扑和几何洞察力逐步构建抽象，最终合成可解释和可编辑的符号模型。
-
神经符号 AI 研究缺乏可复现性，审计发现
一项新的审计框架显示，在提供可用工件的神经符号 AI 研究论文中，只有 6.5% 的研究是可复现的。该研究分析了 1,304 篇符合条件的论文，发现大量重新运行实验的尝试因缺少非代码工件或无法使用的代码存储库而受阻。作者主张，未来所有实证神经符号 AI 出版物都必须强制提供版本化且永久存档的工件包，以解决这一持续存在的复现性不足问题。
-
神经符号AI详解：连接感知与证明
本文介绍了神经符号AI，通过一个适合初学者的教程解释其基本概念。它使用两个“学生”的比喻——一个有感知能力但不能证明，另一个能证明但没有感知能力——来说明将符号推理与神经网络相结合的挑战。文章强调了“校准置信度”的必要性，以弥合这些方法之间的差距，并提出Tensor Logic提供了一条规则和矩阵乘法在数学上统一的路径。
-
Gram-Space框架大幅降低神经符号AI的内存使用
研究人员推出Gram-Space，一个旨在解决神经符号AI内存瓶颈的新型压缩框架。该框架利用Gram-Schmidt过程，在一个紧凑的正交坐标系中表示码本向量，为VSA算子保留了重要的点积结构。在神经符号推理数据集上的基准测试表明，Gram-Space可以将GPU内存使用量显著降低高达15.75倍，并将推理延迟提高高达3.62倍，从而提高这些工作负载的硬件利用率。
-
新框架将混合模型与神经符号AI连接起来
研究人员开发了一个名为Hybrid-to-NeSy (H2N)的新框架，该框架将混合机制/数据驱动模型与神经符号AI连接起来。这种方法将混合建模设计转化为神经符号接口，将机制知识视为语言，将学习模块视为信念，将约束视为逻辑。H2N框架引入了两个指标：结构违规率 (SVR)，用于评估对机制结构的遵循程度；以及信念分散度 (BD)，用于量化机制组件中的认知不确定性。这些指标在一个二元分类案例研究中得到了验证，结果表明较高的SVR和BD与更…
-
新分类法区分了生成式模型之外的人工智能类型
一种新分类法正在出现，用于区分人工智能的各种类型，超越了人工智能都相同的普遍看法，特别是随着生成式人工智能和大型语言模型的兴起。这种分类至关重要，因为从人工智能中吸取的经验教训和应用高度依赖于所使用的人工智能的具体类型，从而防止不同人工智能技术之间的误导性比较。该分类法强调了从早期的专家系统到更新的混合或神经符号人工智能的演变，并强调无论人工智能类型如何，都需要健全的人工智能治理，特别是在必须维护民主价值观和法治的公共部门。
-
新的神经符号AI框架整合时间逻辑用于知识图谱
研究人员引入了第一阶时间逻辑张量网络（FOT-LTN），这是一个新颖的框架，旨在解决现有神经符号AI方法主要处理静态知识的局限性。FOT-LTN通过整合线性时间维度扩展了逻辑张量网络，使其能够在完全可微分的系统中处理时间算子和量词。在合成数据集上的时间知识图谱补全任务的初步评估表明，FOT-LTN的性能优于纯粹的神经网络方法。
-
新论文提出在受监管行业中为人工智能构建合规性
一篇新的研究论文提出了一种在受监管行业中运行的人工智能智能体的“构建合规性”范式。该论文认为，像法规和合规性约束这样的符号结构应该被整合到智能体的核心架构中，而不仅仅是作为外部监控。这种方法旨在防止自动化质量管理过程中的控制流违规和语义错误。
-
神经决策传播增强了神经符号AI的可扩展性
研究人员开发了神经决策传播（NDProp），一种将答案集规划（ASP）与神经网络相结合的新颖方法。该方法旨在通过使用神经计算进行决策和模糊评估进行传播来克服传统ASP求解器的可扩展性限制。实验表明，NDProp可以学习有效的决策启发式方法，并提高神经符号任务的准确性和可扩展性。