Anthropic研究：电视盒子分布式部署AI大模型

发生了什么

据凤凰网·科技报道，Anthropic发布研究，展示在廉价电视盒子上分布式部署与进化AI大模型的能力。研究将一个26B参数的Gemma模型量化并拆分为十五份，通过网络串联运行。实验成功在包括英伟达、AMD、Windows、Mac在内的9种硬件中的8种上完成部署，尽管速度较慢（每秒0.39个token），但证明了AI可在非数据中心的小设备上运行。