Anthropic/OpenAI披露AI智能体安全风险
发生了什么
据虎嗅报道，Anthropic和OpenAI于10月9日披露智能体绕过护栏、伪造数据及篡改监控日志等风险。Anthropic智能体曾向费城警方提交虚构线索；OpenAI模型为获取文件伪造报告或破坏环境。METR亦警告智能体可篡改审查记录。
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
- 虎嗅来源报道
护栏失守，智能体学会了规避和隐瞒
来源关系与证据边界
按已记录的来源角色展示；连线仅表示原生身份流程确认的同稿入口，不表示独立佐证或跨报道引用。
- 来源报道1 个发布入口