Revolut转向自托管GLM模型

发生了什么

据The Register报道，金融科技公司Revolut通过将AI编码推理模型从Claude等商业服务转向自托管的GLM-5.1及后续的GLM-5.3，实现了约90%的成本削减。Revolut为约2,000名工程师部署了该模型，并使用56个Nvidia B200 GPU进行服务。公司通过模型路由策略，将视觉查询任务分配给Gemini或GPT Luna，而代码生成任务则由GLM处理。Revolut表示，自托管GLM的成本约为每百万输入/输出token 0.30美元，且通过优化超参数及量化技术，实现了约256,000 token的上下文窗口及每秒200 token的生成速度。