Baseten联合Goodfire推出Project Beacon

发生了什么

据Baseten Blog公告，Baseten与Goodfire AI合作推出Project Beacon，旨在为模型推理提供基于内部激活的实时安全防护。该系统通过读取生成过程中的模型激活值，定义主动策略以检测提示注入、越权操作及敏感数据泄露等风险。监控与生成并行运行，不阻塞响应，并根据客户策略执行拒绝、回退或记录等操作。