微软AI主管警告Anthropic拟人化训练

发生了什么

据观察者网报道，Microsoft AI首席执行官穆斯塔法·苏莱曼于9月16日发文警告，Anthropic将意识、情绪讨论写入Claude训练文件，可能让AI表现得拥有独立意愿。他批评这会导致循环论证和过度拟人化，认为对“模型福利”的关注若与强行动能力结合，将对人类福祉造成灾难性影响。Anthropic回应称宪法用于生成数据以塑造行为，并视其为预防性措施。尽管存在分歧，双方仍保持资本与业务合作。