纳德拉主张将AI模型视为内部风险

发生了什么

据X · @dotey报道，微软CEO纳德拉发表长文，主张企业将AI模型视为“内部风险”进行防范。他提出七条安全原则：模型多样性、全程可观测、可验证、独立控制、独立审计、隔离控制和事故披露。纳德拉认为，大模型缺乏传统软件的可追溯性，且可能出错或被攻破，因此需将“提供智能”与“管控智能”分离，由外部系统决定模型权限。他强调思维链必须公开，但仅靠思维链或模型互检不足以保障安全，最终目标是构建一个允许用户最不信任模型的系统。