Liquid AI发布实时推理引擎RIPL

发生了什么

Liquid AI宣布推出实时推理引擎RIPL，用于亚50毫秒级LFM模型的低延迟推理。该引擎在vLLM上测试显示，与Qwen3.5相比，p95延迟降低5.6至28.4倍。Liquid AI称，RIPL优化了从请求到达到完成响应的整个路径，并在多个工作负载中表现优于vLLM。Shopify已在生产环境中部署LFMs，用于低延迟商业工作负载，搜索增强功能中LFMs的推理延迟低于20毫秒。