Kong AI Gateway集成FinOps实现成本计量

发生了什么

据Kong发布的技术指南，Kong AI Gateway通过在请求路径中实时计量Token使用量，支持大模型成本的实时监控与分摊。该方案通过为请求附加身份与成本中心标签，实现无需云资源标签的费用归集。针对大模型成本波动特性，系统支持设置硬性Token或金额上限，并在触发阈值时通过返回HTTP 429错误主动拦截流量。此外，该方案支持利用FOCUS 1.4规范标准化多供应商账单，并通过“调平（true-up）”算法将内部网关使用记录与云服务商账单进行核对。