formal verification
PulseAugur coverage of formal verification — every cluster mentioning formal verification across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新理论保证 LLM-验证器系统在形式化方法中收敛
研究人员开发了一个理论框架，以提高将大型语言模型（LLM）与形式化验证工具集成的可靠性。这个基于 LLM-验证器收敛定理的新系统，为多阶段验证管道中的终止提供了可证明的保证。该模型将过程分解为四个阶段：CodeGen、Compilation、InvariantSynth 和 SMTSolving，证明了在每个阶段具有任何非零成功概率的情况下，系统最终将达到已验证状态。通过广泛的试验，推导并经验性地验证了一个精确的延迟界限 $\math…
-
新型神经网络架构解释不透明的形式验证证书
研究人员开发了一种新颖的循环一致神经网络架构，旨在为形式验证证书生成自然语言解释，这些证书通常对非专业人士来说是不透明的。该系统使用两个网络：一个将证书翻译成解释，另一个从解释中重建证书，并由符号验证器确保准确性。在金融合规领域 420 个证书上进行评估，该架构实现了 90.0% 的循环验证健全性，显著优于多 LLM 基线，并提供更快、离线和确定性的推理。
-
文章探讨通过形式化验证实现通用人工智能（AGI）的“技巧”
一篇文章探讨了可能通过形式化验证方法实现人工智能通用智能（AGI）的“技巧”概念。作者认为，通过应用严格的数学和控制论原理，有可能弥合当前人工智能能力与真正通用人工智能之间的差距。这种方法强调了开源和科学编程在实现人工智能突破方面的潜力。
-
AI代理推动形式化验证和定理证明
研究人员正在探索先进的代理推理框架，以增强大型语言模型（LLM）在形式化验证和定理证明等复杂任务中的能力。诸如可验证过程奖励（VPR）之类的新方法旨在通过利用中间决策的客观检查来提供更密集、逐轮的监督，从而改进长时信用分配。还正在开发代理引导的树搜索和统计可证性理论，以优化证明生成并理解代理定理证明器中不同组件的有效性。这些进展在从数学推理到程序验证的领域都显示出希望，尽管在处理非结构化环境和开发更鲁棒的评估方法方面仍存在挑战。
-
作者通过小说批判过度简化的AI及其安全隐患
作者通过虚构叙事探讨了“过度简化AI”的概念，质疑其真正理解和安全性的潜力。“A Lie”和“A Roomba”等作品运用寓言式场景来批判AI的局限性和过度简化的危险。这些虚构作品深入探讨了数据主权、本地推理以及AI对齐的哲学含义。