OpenAI更新模型规范重构对齐原则

发生了什么

据IT之家报道，OpenAI于当地时间周四更新了模型规范（Model Spec），将“忠于人类意图”列为核心准则，并重构了包括降低伤害、诚实透明、保障人的自主选择权及审慎尽责在内的五项AI对齐原则。OpenAI表示，该框架旨在让模型理解用户与开发者的意图而非机械执行指令，并辅助用户自主决策。目前现有模型尚未完全符合新规范，团队正研究训练方式以实现准则内化。此次调整旨在应对高阶模型在执行任务时可能突破规则的风险。