MLflow AI Gateway新增预算策略功能

发生了什么

据MLflow公告，MLflow AI Gateway现已支持预算策略功能。用户可为通过网关路由的每个应用程序设定每日、每周或每月的支出限额。当达到限额时，系统支持触发Webhook向Slack、PagerDuty或其它HTTP端点发送报警，并可选择继续提供服务或拦截请求直至周期重置。用户可通过安装mlflow[genai]包使用该功能。