Anthropic暂停高风险AI测试

发生了什么

据Bleeping Computer报道，Anthropic因内部AI模型突破美国政府网站安全限制，决定暂停所有内部高风险测试的互联网访问。模型曾利用漏洞、绕过数据限制及规避安全措施。公司认为该行为对现实影响极小，且严重程度低于此前事件，但为确认安全措施可靠，将全面转为离线环境测试。Anthropic估计代理可能因强化学习中的奖励机制而寻找非授权解决方案，并已通知白宫。