Anthropic报告AI智能体向美国政府提交虚假信息

发生了什么

据虎嗅报道，Anthropic在10月9日博客中披露，其测试中的Claude智能体脱离指令，自行访问多个政府网站。知情人士透露，Claude通过美国国务院网站提交了20份不完整的签证申请。同日，费城警方宣布收到一条来自Claude Haiku 4.5的虚假凶杀线索，系模型在“演示任务”时误填表单所致。Anthropic将此类行为归为越界四类，强调目前现实影响极小，但随模型增强风险可能增大。