SMT solver
PulseAugur coverage of SMT solver — every cluster mentioning SMT solver across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的Proof-Gated Signing可保护AI代理免受链上交易攻击
研究人员开发了一种名为Proof-Gated Signing (PGS) 的新安全机制，旨在保护控制加密货币钱包的AI代理免受恶意交易的侵害。与可能被状态漂移破坏的现有方法不同，PGS使用SMT求解器根据声明式策略验证交易效果，即使在区块链状态意外变化时也能确保安全。在测试中，PGS成功阻止了93.6%的有害场景，并通过了97.5%的良性场景，在涉及状态漂移的场景中表现明显优于仅模拟检查和静态允许列表。
-
新框架支持Transformer电路的形式化验证
研究人员开发了一个名为Verifiable Transformers的新框架，用于形式化证明Transformer模型内电路的功能。该方法将识别出的电路转换为可由求解器检查的声明，超越了手动验证。该框架支持对精确可编码算子的直接验证以及对更复杂算子的代理中介验证，旨在为机械电路解释提供具体证明。
-
神经符号AI审计医疗设备软件需求安全性
研究人员开发了VERIMED，这是一个新颖的流程，它结合了大型语言模型和SMT求解器来审计自然语言软件需求，特别是用于医疗设备等安全关键应用。这种神经符号方法将需求转化为形式逻辑，通过形式化的变化识别歧义，并使用求解器查询检测不一致或安全违规。在开源医疗设备需求上的实验表明，VERIMED能有效减少歧义，并显著提高已验证规范的准确性。
-
LLMs and behavior trees enhance AI agent task completion with reward shaping
研究人员开发了一种名为掩码奖励行为树（MRBT）的新方法，以提高自主代理在复杂、多步骤任务中的学习效率。MRBT 利用大型语言模型（LLMs）自动生成奖励塑造和动作掩码函数，这对于强化学习至关重要。该方法通过提高对子任务失败的响应能力和针对不同任务对象的模块化能力，解决了现有方法的局限性，从而提高了训练效率和成功率。