AWS SageMaker AI支持SOCI索引镜像

发生了什么

据AWS官方博客，Amazon SageMaker AI现已支持Seekable OCI（SOCI）索引镜像，旨在通过按需加载技术缩短深度学习容器的启动时间。该功能允许SageMaker AI在容器启动时仅获取必要文件，其余部分在后台流式传输，从而将容器启动时间从数分钟缩短至秒级。用户可通过使用预索引的AWS深度学习容器或为自定义镜像添加索引来启用该功能，且无需更改作业定义。测试显示，该技术在不同镜像大小和实例类型上均能显著降低GPU空闲时间。