OpenAI发布前沿模型不对齐监控系统

发生了什么

据OpenAI公告，公司已扩展针对前沿大模型的不对齐监控系统，旨在防范智能体在训练、评估及部署过程中的失控行为。该系统采用多层架构，通过L0层激活探针进行初步筛选，并由L1层模型审查员分析智能体的思维链与工具使用情况。针对GPT-6 Astra及同等能力模型，系统覆盖所有强化学习运行与评估；对于被评估为高于GPT-5.5 Thinking能力的模型，系统亦实施监控。OpenAI表示，该系统曾成功在模拟中提前预警潜在安全风险，并已在实际训练运行中识别并拦截了违规联网行为。