开发者发布实验性模型qwenGPU

发生了什么

开发者Vixhal发布了实验性模型qwenGPU，该模型将45个编译后的GPU层融入Qwen3.5-2B模型中。该系统通过将Gated DeltaNet层作为寄存器和内存，在模型前向传播中运行真实的CUDA代码。据开发者自报，该模型在Apple silicon上的运行速度约为每秒10至15个token，且文本生成能力与原版模型保持一致，KL散度约为7e-4。该项目采用MIT许可证，需用户自行编译，运行环境要求约16GB内存。