theorem
PulseAugur coverage of theorem — every cluster mentioning theorem across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
AI通过形式化验证和数学证明解决“粗制滥造”问题
AI行业正努力应对“粗制滥造”(slop)问题,即大型语言模型产生的低质量输出,尤其是在AI生成代码日益普及的背景下。形式化验证,一种使用数学证明来确保软件正确性的方法,正成为关键解决方案。&Truth、Axiom Math和Harmonic等公司正在开发AI驱动的形式化验证系统。例如,&Truth利用Lean证明助手和AI生成可验证的证明,旨在建立对AI生成代码的信任。
-
AI代理发现已发表数学定理中的错误,促使修正
AI代理通过编写代码测试已发表的数学定理,帮助识别其中的错误,这类似于程序员测试软件的方式。这种严格的检查超越了传统数学证明中常用的有限示例,迫使数学家重新审视和修正基础性工作。作者认为这种由AI驱动的审查是一个积极的发展,将为未来的研究带来更稳健的数学基础。
-
AI初创公司致力于使形式化软件验证实用且必要
新一批初创公司正在利用生成式AI,使形式化软件验证(一种证明代码无bug的复杂数学过程)更加实用和必要。像由斯坦福大学研究员Chuyue Sun创立的&Truth这样的公司,正在利用AI显著缩短这一过程所需的时间和成本,而这一过程在历史上因过于繁琐而无法广泛采用。虽然&Truth已筹集到7000万美元,并且像Harmonic这样的竞争对手也在获得关注,但由于用户错误和硬件故障等持续存在的挑战,AI驱动的形式化验证在关键系统之外的广泛应…
-
Claude AI 生成 1.8 亿行代码证明,发现数百个错误
Anthropic 的 Claude 模型与 Theorem 合作,在形式验证方面取得了重大里程碑,为 123 个开源库的 239 个入口点生成了约 1.8 亿行机器检查证明。这项广泛的验证工作远远超出了手动能力,发现了传统模糊测试方法遗漏的数百个错误。虽然这种大规模验证的直接应用很复杂,但提供了一个简化的、一小时版本的流程,供开发人员用于常见的代码元素,如签名下载链接。
-
Anthropic 使用 Claude 实现大规模自动化形式化软件验证
Anthropic 已证明大型语言模型可以显著推进形式化软件验证,该过程以前因其高成本和复杂性而受到阻碍。Anthropic 与 Theorem 合作,利用 Claude 为 100 多个开源软件库的汇编代码级别的安全属性生成形式化证明。这是首次将 AI 大规模应用于形式化验证,并成功发现了多年来逃避检测的错误。研究表明,随着 LLM 的改进,形式化验证可能成为安全软件开发的标准组成部分。
-
AI数学能力将于2027年超越人类水平,但安全基础设施滞后
一篇LessWrong帖子预测,AI的数学能力很可能在2027年初超越人类水平,从而可能为AI安全验证创造一个窗口。然而,作者认为,当前用于生成规范和从AI中提取有用输出的基础设施严重发育不全且资金不足。需要对能够将大量计算资源转化为与安全相关的数学输出的工具,以及用于复杂问题的AI驱动的概念工具进行大量投资。