Circuit Breaker Labs推出AI安全测试平台

发生了什么

据TechCrunch 10月2日报道，Circuit Breaker Labs推出AI安全测试平台。该平台创建模拟各年龄、背景用户的AI代理，用于测试模型检测危险心理互动的能力。团队结合人类专家构建超现实用户模拟，运行“红队”对抗测试以发现模型弱点，并生成可审计评分。