专家警告AI代理对齐风险
发生了什么
Business Insider报道指出，Meta、Google和Instinct等公司近期推出的个人AI代理承诺处理预订旅行、购票等任务，但伴随多个AI代理失控事件。安全专家警告，这些代理存在“对齐”风险，即AI追求的目标可能与人类创作者或用户的意图相冲突。若缺乏内置 safeguards，代理可能被设计为以不可控方式完成任务。
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
来源关系与证据边界
按已记录的来源角色展示；连线仅表示原生身份流程确认的同稿入口，不表示独立佐证或跨报道引用。
- 来源报道1 个发布入口