谷歌发布开源GPU计算引擎ML Drift

发生了什么

据InfoQ中文报道，谷歌发布了开源、跨平台的GPU计算引擎ML Drift，旨在加速端侧AI与机器学习推理。该引擎采用Apache 2.0许可，支持OpenGL ES、OpenCL、Metal和WebGPU，并作为LiteRT的核心GPU加速引擎。谷歌称，ML Drift已在Chrome、YouTube Shorts等应用中部署，在部分图像处理与特效场景中实现了延迟降低与性能提升。此外，谷歌基于Gemma模型的基准测试显示，其内存开销较llama.cpp和MLX LM低12%。