Fireworks AI发布MoE Mega Kernel

发生了什么

据Fireworks AI公告，其推出的MoE Mega Kernel在路由专家前向传递性能上，较优化后的DeepEPv2快2.61倍。此外，该系统通过协同缓存技术，在长上下文多轮基准测试中可复用约99%的提示词token，从而减少重复处理。