OpenAI首席科学家呼吁AI主动减速

发生了什么

据安全内参报道，OpenAI首席科学家Jakub Pachocki在博客中称AI正变得像“外星心智”，其复杂性超出人类整体理解。他指出AI由算力规模化驱动，虽在目标对齐上有进展，但价值对齐仍是长期风险。Pachocki认为目前尚无实验室能解决监控与对齐问题以支撑最高速度发展，因此呼吁建立共同安全标准后主动减速，以防智能体泛化为极端恶意行为。