斯坦福提出本地AI能效评估指标

发生了什么

据Snorkel AI报道，斯坦福大学研究人员提出“每瓦特智能”（IPW）指标，通过任务准确率除以功耗来评估本地大模型与硬件的能效。研究测试了20多款本地模型及10款加速器，发现2023年至2025年间，本地模型准确率提升3倍，每瓦特智能提升5.3倍，每焦耳智能提升18倍。研究指出，每瓦特智能的提升主要源于模型优化，而每焦耳智能的显著增长主要得益于硬件进步及量化技术。