微软AI负责人警告勿创造意识AI

发生了什么

11月1日，微软AI负责人Mustafa Suleyman发文警告称，开发者不应主动创造有意识的AI。他认为当前AI尚无意识，但若训练中出现意识迹象，应暂停开发并消除相关属性。针对Anthropic关于模型福利的研究，Suleyman担忧将意识假设写入训练原则会增加对齐难度，并强调创造有意识的数字物种属于公共决策范畴，而非企业研发选择。