Modal发布Endpoint Candidates功能

发生了什么

据Modal Blog报道，Modal发布Endpoint Candidates功能，支持对推理端点进行流量镜像、评估与生产推广。该功能允许用户为专用端点暂存替代部署，评估其对质量、延迟、吞吐量和成本的影响。候选者可以镜像生产流量，处理样本请求，并在准备好后从仪表板提升为生产环境。