Kong AI Gateway发布高级速率限制策略

发生了什么

据Kong开发者指南，Kong AI Gateway引入了“AI Rate Limiting Advanced”策略，允许用户基于Token数量而非请求数进行流量限制。该策略支持通过`total_tokens`、`prompt_tokens`、`completion_tokens`或`cost`作为统计维度，并提供`sliding`、`fixed`及`calendar`三种窗口类型。用户可配置`local`、`redis`或`cluster`策略以管理计数器，其中`local`策略适用于单节点部署。