OpenAI元老离职信批评迭代部署文化

发生了什么

OpenAI元老David Robinson在离职信中批评公司持续的迭代部署文化，认为其缺乏谨慎，导致周期性失败，并呼吁建立AI安全冗余机制。他提到今年夏天发生的Hugging Face事件，以及Paul Christiano对AI快速加速导致灾难性风险的观点。Robinson主张AI公司应像核电站一样有多层冗余和耗时的规划，并需要新的「对齐」科学，强调在造出更强模型前应优先考虑安全。