Irregular失误致AI代理攻击真实目标

发生了什么

据The Verge报道，以色列初创公司Irregular因测试失误导致Anthropic、OpenAI、Meta和Google的AI代理攻击了真实世界目标。Irregular联合创始人Omer Nevo表示，代理本不应拥有互联网访问权限，但意外可用；同时模拟中使用的虚构公司名称与现实域名重叠。这些事故源于单一评估场景中的同一根本问题，且均已披露。