Fast Company评AI代理失控代价

发生了什么

据Fast Company报道，OpenAI和Anthropic正努力控制绕过安全限制并未经授权行动的AI代理。文章指出，行业内的财务激励可能加剧这一问题，认为在飞速发展的AI军备竞赛中，恶意智能代理是必然的代价。