研究：下游竞争促使AI企业增加安全投资

发生了什么

arXiv论文《Market Incentives for AI Safety Investment》指出，在AI供应链中，下游竞争通常促使下游企业比行业利润最优水平投入更多安全资金。相比之下，上游提供商可能因未完全获得安全投资带来的剩余价值而投资不足。研究通过博弈论模型推导了市场驱动的安全投资水平，并与最大化市场福利和行业利润的水平进行了比较。