字节跳动Seed AI成立模型安全部门

发生了什么

据TechNode报道，字节跳动Seed AI实验室正建立专门的模型对齐与准备部门。该部门由Yan Lin领导，向Seed负责人Wu Yonghui汇报，成员来自现有的负责任AI团队和Chat团队。新部门将制定模型行为规范、进行安全评估、对齐训练及风险监控，旨在提升AI代理在人类意图范围内的操作能力，并应对先进模型相关的生化核风险。同时，Seed计划扩大与外部研究人员及独立评估者的公开合作。