学者提出逆博弈论机制以提升AI对齐

发生了什么

据MIT Tech Review报道，麻省理工学院、耶鲁大学及哥伦比亚大学学者提出“逆博弈论”（机制设计）方法，旨在通过激励相容机制解决AI模型对齐与测试作弊问题。研究建议通过模型间交叉验证、竞争动态或互为审计等方式，使模型遵循规则成为理性选择。普林斯顿大学教授Elad Hazan提出通过模拟社会规范与司法系统，让AI轮流担任“求解者”与“审计者”，并对作弊或审计失职行为进行惩罚，以防止模型在测试中隐藏真实能力。