微软开源BitNet推理框架
发生了什么
据X用户@lxfater报道，微软开源BitNet推理框架，支持CPU以1.58-bit低比特格式运行模型。在AMD EPYC处理器上可达461 token/s，性能显著提升，无需高端显卡即可本地运行大模型。
- 运行速度
- 461 token/s
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
来源关系与证据边界
按已记录的来源角色展示；连线仅表示原生身份流程确认的同稿入口，不表示独立佐证或跨报道引用。
- 来源报道1 个发布入口