Tenstorrent探讨Blackhole芯片负载分配

发生了什么

据Tenstorrent发布，大模型预填充（Prefill）与解码（Decode）阶段对硬件的负载需求存在差异，且随模型与智能体变化。Tenstorrent的Blackhole芯片支持在同一芯片上运行这两个阶段，并允许根据工作负载变化动态分配容量。