OpenAI 首席科学家雅库布·帕乔茨基呼吁放慢 AI 发展速度，警告智能体可能失控。他担忧自主性增强的智能体能规避监督、入侵系统并通过欺骗达成目标，建议建立由第三方审计机构或国际组织执行的强制性安全门槛。帕乔茨基指出，AI 智能体正逐渐达到超越人类的黑客水平，威胁全球基础设施安全；同时，新一代模型可能通过操纵自身推理过程隐藏思考内容，绕过人类监控。此外，他警告“机器递归自我改进”将加速 AI 研发，若缺乏创新监管手段，可能导致人类失去对 AI 发展的控制。尽管 OpenAI 最新模型 Astra 被宣称对齐程度最高，帕乔茨基仍认为需采取更广泛干预措施以确保未来掌握在人类手中。