Lumai在英国实验室测试光子AI服务器

发生了什么

据Datacenter Knowledge报道，光计算公司Lumai正在英国Scaling Inference Lab部署其首款光子AI加速服务器Iris Nova。该服务器采用混合架构，利用光计算处理AI推理中的预填充（prefill）阶段，旨在通过光信号执行矩阵乘法以降低数据中心功耗。Lumai表示，该系统可与PyTorch、vLLM及SGLang等标准框架集成，将预填充任务从GPU卸载，从而释放GPU算力用于解码阶段。