AI评估论坛发布信要求第三方嵌入OpenAI等机构并保障独立性

发生了什么

据Business Insider·科技报道，AI评估论坛（包括多个监督组织）于周五发布信件， outlining "minimum conditions" that they believe labs like Anthropic and OpenAI should meet to work more effectively with those evaluating the risks of their technology. 该信件由Geoffrey Hinton和Stuart Russell等数十人签署。信件强调，嵌入式第三方评估者必须具备科学客观性、透明度、独立性和免受被评估公司干扰的保护措施。评估者应允许透明并与公司董事会沟通，公开调查结果，并获得与公司评估者相同的系统、数据和物理空间访问权限。