The Decoder AI in practice· Matthias Bastian·· 3 小时前AI 评分74
Anthropic 用 Claude 自动为现有代码生成形式化证明
Anthropic's Claude now writes code and proves it safe automatically
先看结论
原文展示的是在限定条件下对现有开源库做自动形式化证明的流程,可用于理解 AI 验证代码的边界,而非通用生产级保证。
报道讲了什么
- Anthropic 前沿红队与 Theorem 合作,让 Claude 承担形式化证明工作。
- Claude 在几周内产出约 1.8 亿行数学证明代码,素材来自 123 个开源库的测试程序。
- 在验证一个常用 PDF 阅读器时,团队一周内发现的安全缺陷数量相当于该软件通常一整年的报告量。
可以做什么
- Claude 不写新代码,而是把崩溃测试转成数学问题、分析编译后的机器码并生成证明。
- 名为 Rocq 的独立验证程序自动检查这些证明,Anthropic 称几乎不需要人工复核。
- 生成证明过程中发现的缺陷被允许由 Claude 自行修复。
怎么使用
原文没有提供可复现的操作步骤,请从下方原文或官方说明确认使用方法。
结果与限制
- 证明只在特定处理器架构、单线程程序和小于 64 MB 输入下成立。
- 算力成本高,单个证明消耗可达数亿 token,Anthropic 未公布项目总成本。
- 所谓完全自主指证明生成环节,工具与形式化基础仍由 Theorem 的人类构建。
使用入口与依据
来源:The Decoder AI in practice · the-decoder.com
事件后续
查看事件全部正在读取事件进展…