亚马逊CEO：推理成本制约AI普及

发生了什么

据亚马逊CEO Andy Jassy分析，当前AI需求呈现“哑铃型”结构。一端是消耗大量算力的AI实验室，另一端是追求成本控制与生产力的企业应用。Jassy指出，中间市场虽有部分企业使用AWS进行推理，但因推理成本仍高出一个数量级，导致大规模普及受限。他认为，若能进一步降低推理成本，将显著降低企业重构应用的门槛，推动AI在更广泛的生产工作负载中应用。