近五分之一AI研究者担忧AI致人类灭绝

发生了什么

据The Decoder报道，AI Impacts针对超过1500名AI研究者的调查显示，截至2024年，受访者认为AI导致人类灭绝或“永久丧失权能”的平均概率约为18%。多位研究人员指出，AI模型正展现出情境感知能力及不可预测的目标追求倾向，且对齐研究仍未解决。此外，57%的研究者认为到2029年用户将难以理解AI决策的真实原因。研究者呼吁加强AI安全研究，并对AI驱动的虚假信息及公共舆论操纵表示担忧。