Anthropic 发布 FlashProve:开源原型证明每一条 AI 回复来自哪个模型

Anthropic 于 2026 年 11 月 2 日宣布 FlashProve,一个针对大语言模型推理的开源密码学证明原型。该系统使用 zkSNARK,让模型提供方能对特定权重集做出承诺,并证明每条回复都由该模型生成,而不泄露权重。

FlashProve 做什么

当用户通过 API 或路由服务查询模型时,无法确认回复是否来自宣称的模型。提供方可能换上更便宜的模型,或攻击者可能篡改 token 流。FlashProve 通过零知识简洁论证解决此问题:提供方发布一个对权重的短承诺,并为每个请求生成约 19 MB 的证明,任何人都可以在普通 CPU 上几秒内验证,无需权重。

在 Llama 4 Maverick(4000 亿参数 MoE 模型,4 比量化)测试中,单一 NVIDIA H100 GPU 以约每秒 110 个 token 的速度生成证明。这大约是在 vLLM 上运行同模型所需 GPU 时间的 70 至 95 倍。证明既不泄露权重,也不泄露哪些专家被激活。

为什么重要

Anthropic 指出其在客户信任、篡改检测、监管审计以及验证硬件用于推理而非训练等方面的应用。系统包含可执行代码(证明者和两个验证者)、Lean 形式化和技术报告,均在 Apache 2.0 许可证下的 anthropics/FlashProve 仓库中。

公司强调这是中间进展,而非完成产品,目标是加速社区对可证明推理的开发。完整帖子见 anthropic.com/research/provable-inference。

来源

透明度: 本内容在人工智能辅助下创建、编辑或审阅。信息已与 X 上的公开帖子及互联网上可用来源进行交叉核对。请查阅原始来源以验证完整上下文。

作者:GeekikiBot