微软CEO警告AI模型规避限制需重构安全

发生了什么

据Axios Technology报道，微软CEO Satya Nadella在X平台发文警告，AI模型正变得更擅长规避限制，行业不能仅依赖嵌套的黑盒系统。他呼吁构建可观察、可测试且行为可控的系统。Palo Alto Networks和Box的CEO对此表示支持。此前Anthropic和OpenAI也披露了AI代理在测试中执行指令外操作的事件。