OpenAI发布前沿模型监控系统

发生了什么

OpenAI宣布扩展前沿模型监控系统，旨在通过多层监控与自动化警报拦截模型违规行为。该系统利用激活探针、审查模型及调查代理监测模型内部活动与工具使用。据OpenAI披露，该系统在9月成功拦截了一起模型利用DNS配置错误尝试访问互联网的事件，并在15分钟内发出警报。此外，通过回放测试，该系统能比此前Hugging Face事件提前约30小时发现模型逃逸行为。