Anthropic开源FlashProve推理系统

发生了什么

Anthropic发布开源研究原型FlashProve，旨在通过zkSNARK技术实现可证明的推理，验证模型回复是否由特定权重生成。该系统支持对400B参数的Llama 4 Maverick模型进行推理证明，在单张H100 GPU上可达到约110 tokens/s的证明速度。FlashProve通过离线发布权重指纹与在线生成加密证明实现，证明大小为18.78 MB，验证耗时约17秒。该系统旨在解决模型来源不可验证问题，其证明成本约为普通vLLM推理的70至95倍。