AI扩散最大障碍非能力而是可靠性与验证体系缺失

发生了什么

据X用户@sbhaiwala03分析，AI在现实世界扩散的最大障碍不是能力，而是可靠性和验证。随着模型能力提升，任务更复杂，人类审查难度加大。能力指技能，可靠性指一致正确，验证指人类可确认。以PE助理构建财务模型为例，模型输出后果严重，需检查假设和公式。ATLAS Finance基准测试显示，最佳模型完全解决的任务不足20%，专家在超75%情况下宁愿从头开始而非使用模型输出，因检查耗时更长。错误包括客观遗漏（如税务处理）和上下文应用失败。建立可信AI需能力评估、策略定义、对齐评估、监控代理、审查工具及持续专家审计，且需随模型升级重复执行。