AWS推出SageMaker并发扫描功能

发生了什么

据AWS ML Blog报道，AWS在Amazon SageMaker AI中推出并发扫描（Concurrency sweeps）功能，旨在优化生成式AI端点配置。该功能通过发送受控的递增并发流量来系统性地基准测试端点性能，帮助用户找到在延迟可接受范围内最大化性价比的实例类型和服务配置。该功能内置于推理推荐工具中，无需构建自定义负载测试基础设施。