代码有了数学背书:AI 证明了 Signal 的加密协议|听懂AI #090
11 月 10 日,谷歌 DeepMind 发布了 AlphaProof Code,一套用 AI 智能体做形式化验证的框架。帖子发到 Hacker News,冲到 536 分、169 条评论。主角不是一个新模型,而是一件以前没人做成过的事:用数学证明一个广泛部署的加密协议——Signal 的核心密码代码——真的安全。

11 月 10 日,谷歌 DeepMind 发布了 AlphaProof Code,一套用 AI 智能体做形式化验证的框架。帖子发到 Hacker News,冲到 536 分、169 条评论。主角不是一个新模型,而是一件以前没人做成过的事:用数学证明一个广泛部署的加密协议——Signal 的核心密码代码——真的安全。
不是测出来的,是证出来的
形式化验证是安全保障的最高标准:不是跑一堆测试用例、没发现问题就交差,而是用数学证明代码在所有情况下都符合设计。难就难在“所有情况”四个字上,过去全靠专家手工,慢、贵、做不大。
AlphaProof Code 的分工是:人定“要证什么”,机器去证。研究员先和模型一起,把 Signal 的安全目标翻译成严格的数学规约,每一条都有人类专家过目;然后智能体团队去写证明,用 Lean 这种数学证明语言,一共写了六百多万行;Lean 再自动检查每一行,机器验过的,人就不用再看一遍。

四周,验完几年的活
最有冲击力的数字是时间。同样深度的验证,专家团队过去要花数年。这一次只用了四个星期。人类专家最后只复核了百分之一的代码——机器挑出来需要人判断的地方。
这也是 DeepMind 强调的一点:这不只是“AI 写代码更快了”,而是“AI 让最高标准的安全验证变得便宜了”。以前只有极少数关键系统才配得上形式化验证,以后可能变成常规操作。
怎么知道它没有瞎证
怀疑很合理:AI 自己写的证明,万一证错了怎么办?DeepMind 做了个很漂亮的对照实验:把两个真实存在过、后来被修掉的漏洞,重新塞回一份隔离版的 Signal 代码里。系统两次都给出了机器检查过的证明——这版代码不安全。能抓住坏的,才说明它真的会验好的。
它具体证明了什么?其中关键的一条是:哪怕一部手机一度被人攻破,攻破前后的消息仍然打不开。你的聊天记录,不会因为一次短暂的失守就全盘泄露。这正是形式化验证和普通测试的区别:测试说“没发现问题”,证明说“这类问题不存在”。
不只聊天
Signal 只是第一站。DeepMind 点了两个下一步:医疗设备的固件,和电网的软件。都是那种出一次错就出大事、又没法靠“多测几遍”兜底的地方。验证过的代码,配上能自动修代码的智能体,就是下一代安全防线。相关的形式化验证产物已经开源,供社区使用。

代码的公证人
今天这期的结论就一句:代码第一次有了数学背书。AI 不再只是写代码的帮手,也开始当代码的公证人了。以后我们问一个软件“你安全吗”,答案可能不再是一份测试报告,而是一份机器能检查的证明。