Anthropic发布FlashProve开源系统

发生了什么

据TechCrunch AI报道，Anthropic发布了名为FlashProve的开源系统，旨在通过数学证明验证AI模型输出的身份。该系统通过发布模型“指纹”实现可证明推理，在不泄露模型权重的前提下，允许用户确认输出是否由特定模型生成。研究人员表示，该系统可防止模型被冒充或替换，并已在GitHub上公开技术规范与代码。目前该项目处于研究阶段，Anthropic暂无部署计划。