Taco发布跨平台大模型压缩方案
发生了什么
据r/MachineLearning报道,Taco推出一种旨在解决硬件浮点差异导致解码失效的跨平台大模型压缩方案。该方案通过纯整数推理(int8权重、固定舍入及查找表)、浮点转整数转换器及一致性向量,确保编码器与解码器计算概率的一致性。该方法已在Mac、Linux及Windows平台的7种后端上通过哈希一致性验证。
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
来源关系与证据边界
按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。
- 来源报道1 个发布入口