Anthropic发布FlashProve原型

发生了什么

Anthropic发布名为FlashProve的开源研究原型，旨在通过密码学证明验证AI输出是否由指定模型生成。该系统利用零知识证明技术（zkSNARK），在不泄露模型权重的前提下，为模型推理生成可验证的“指纹”。据Anthropic介绍，该技术可帮助用户确认模型来源，防止服务商暗中替换模型。目前该系统处于研究阶段，Anthropic尚未计划在生产环境部署。相关技术规范与代码已在GitHub公开，研究人员旨在通过此举推动“可证明推理”的发展。