OpenAI与Anthropic曾拟签互黑协议后转向合作

发生了什么

据安全内参9月27日报道，The Information披露OpenAI与Anthropic今年初曾计划签署互相开放API以攻击对方模型的“互黑协议”，后因AI失控风险转向合作。报道提及OpenAI内部因安全问题暂停未发布模型强化学习两周，并抽调25%生产工程师从事安全工作。