FlashProve – 可证明推理开源原型系统

FlashProve是Anthropic推出的面向大语言模型的zkSNARK可证明推理开源原型系统，依托零知识简洁证明技术，用来证实模型输出确实来自指定权重版本，消除API调用中模型被替换、令牌流遭到篡改带来的信任风险。项目以MoE混合专家大模型作为主要适配对象，采用事后证明模式，单张H100显卡即可完成证明生成，1024令牌对应证明文件约19MB，普通CPU设备即可完成校验。整套产物按照Apache2.0 协议对外释放，包含证明器、两套验证器、Lean 形式化安全规约与交互可视化审计工具。

FlashProve特点

基于zkSNARK密码学协议，证明文件不会泄露模型权重内部信息。

分为离线提交阶段与在线证明阶段，离线生成权重提交指纹，在线为每一次请求生成证明。

验证环节不要求GPU，普通多核CPU就可以完成校验工作。

针对MoE架构做专项优化，证明计算量和实际激活参数量匹配，不用处理全部模型参数。

配套Lean形式化验证，对完备性、可靠性、零知识三类安全属性做机器可校验规约。

采用事后批量证明，适配单GPU硬件环境运行，权重按分片流式载入内存。

FlashProve项目地址

• 项目官网：https://www.anthropic.com/research/provable-inference
• GitHub仓库：https://github.com/anthropics/FlashProve

FlashProve优势

相比早期 ZK‑ML 方案，证明生成吞吐得到大幅提升，400B 规模 MoE 模型可达到 110token 每秒证明生成速度。

证明文件体积小巧，不用向使用者交付庞大模型权重即可完成核验。

安全属性有形式化规约支撑，降低密码学逻辑层面人为疏漏。

离线权重提交指纹具备有效期，可支撑千万级请求量，不用每次请求重新提交权重。

提供 C++ 高性能验证器与 Lean 可证明正确验证器两套实现，兼顾运行速度与审计需求。

软件纯密码学方案，不依赖可信硬件，在系统被攻陷场景依旧维持证明安全约束。

FlashProve功能

离线阶段生成模型权重的隐藏提交指纹，固定参与推理的模型版本。

在线阶段为用户请求生成 zkSNARK 证明，证实输出由已提交权重计算产出。

客户端侧读取指纹、提示词、模型回复以及证明文件，执行核验流程。

输出 Lean 格式安全证明，用于协议逻辑人工审计，搭配交互式可视化工具。

批量处理多条推理请求，批量生成对应证明材料。

输出技术文档、协议规约，可供二次开发人员参考复用。

FlashProve应用场景

第三方 AI 评测机构，核验待测输出确实来自目标模型，规避路由替换带来的结果失真。

API 服务采购方，校验付费接口返回内容没有被替换成低成本模型。

安全审计与监管场景，留存可核验材料，确认服务运行指定模型。

对抗篡改场景，检测推理服务器被入侵后伪造令牌流的行为。

科研方向，可证明推理、ZK‑ML、大模型密码学验证方向对照实验。

FlashProve如何使用

访问 Anthropic 官方研究页面，下载 FlashProve 发布包，确认 Apache2.0 许可约束。

准备目标 MoE 模型权重，执行离线流程生成权重提交指纹，记录指纹标识。

部署证明器服务，接入模型推理输出，开启事后批量证明流程。

拿到请求对应的输出文本与生成的 zkSNARK 证明文件。

使用 C++ 快速验证器或者 Lean 验证器，导入指纹、提示词、回复内容开展校验。

借助交互式可视化工具打开 Lean 定理文件，完成协议逻辑审计。

二次开发场景，参考技术报告与协议规约，把证明、验证逻辑接入自有推理服务。

科研实验场景，调整批大小、分片参数，开展不同硬件环境的性能对照测试。