PrismML推出适配高通芯片的智能眼镜端侧小模型Bonsai LLM

发生了什么

据TechCrunch AI报道，AI Lab PrismML在Qualcomm Snapdragon Summit上展示了其1-bit Bonsai LLM，该模型可在基于Snapdragon AR1 Gen 1平台的AI智能眼镜上本地运行。该模型参数量为20亿，针对视觉和语言进行了调整，可将大模型缩小4倍而几乎保留全部性能。PrismML旨在推动开源AI在设备端运行，但目前尚无搭载该模型的智能眼镜宣布上市。