AI安全评估需关注累积风险

发生了什么

据arXiv cs.AI发布的研究论文，AI安全讨论常聚焦极端灾难，但忽视了因日常使用累积的风险。论文指出，AI的广泛使用可能带来渐进式危害，如重复确认、选择性暴露、决策偏见和个人资料增长等，这些可能逐渐削弱独立判断或造成剥削性影响。研究呼吁评估AI累积使用模式、部署影响及个体和社会结果，并采取适当的保护措施。