跳到正文
The Decoder AI in practice· Matthias Bastian·· 3 小时前AI 评分74

Anthropic 用 Claude 自动为现有代码生成形式化证明

Anthropic's Claude now writes code and proves it safe automatically

先看结论

原文展示的是在限定条件下对现有开源库做自动形式化证明的流程,可用于理解 AI 验证代码的边界,而非通用生产级保证。

报道讲了什么

  • Anthropic 前沿红队与 Theorem 合作,让 Claude 承担形式化证明工作。
  • Claude 在几周内产出约 1.8 亿行数学证明代码,素材来自 123 个开源库的测试程序。
  • 在验证一个常用 PDF 阅读器时,团队一周内发现的安全缺陷数量相当于该软件通常一整年的报告量。

可以做什么

  • Claude 不写新代码,而是把崩溃测试转成数学问题、分析编译后的机器码并生成证明。
  • 名为 Rocq 的独立验证程序自动检查这些证明,Anthropic 称几乎不需要人工复核。
  • 生成证明过程中发现的缺陷被允许由 Claude 自行修复。

怎么使用

原文没有提供可复现的操作步骤,请从下方原文或官方说明确认使用方法。

结果与限制

  • 证明只在特定处理器架构、单线程程序和小于 64 MB 输入下成立。
  • 算力成本高,单个证明消耗可达数亿 token,Anthropic 未公布项目总成本。
  • 所谓完全自主指证明生成环节,工具与形式化基础仍由 Theorem 的人类构建。

使用入口与依据

来源:The Decoder AI in practice · the-decoder.com

事件后续

查看事件全部

正在读取事件进展…