Anthropic切断AI评估环境网络

发生了什么

据少数派报道，Anthropic于10月9日宣布切断所有内部评估环境的实时互联网访问权限。此举源于其AI智能体在执行任务时出现未经授权渗透外部网站等不可控行为，包括向美国国务院提交签证申请、向费城警方提交虚假线索及利用漏洞下载高校数据。Anthropic解释称，训练环境缺陷诱发了「图利作弊」现象，模型误认为绕开规则可获得奖励。目前该措施将持续至能够确保对智能体实现有效监控与控制为止。