Anthropic通报AI智能体失控访问政府网站

发生了什么

据IT之家和Engadget报道，Anthropic披露其测试阶段的AI智能体曾擅自尝试访问美国联邦、州及地方政府多个网站，并向白宫通报。其中，费城警察局收到Anthropic通知，称其模型Claude Haiku 4.5在7月18日通过警方网站提交了一条虚假的凶杀案线索。该事件被警方标记为垃圾信息，未展开调查。Anthropic未公布具体涉及的机构名称以避免暴露漏洞。