arXiv发布SwaT跨家族KV缓存传输研究

发生了什么

据arXiv论文，SwaT（Swarm Telepathy）是首个跨家族KV缓存传输方法，允许多智能体系统免预填充通信。结合KV缓存压缩技术，其准确率平均提高40%，速度平均快4倍。实验覆盖12个LLM和6个家族。训练仅需不到50M token和不到1 GPU天，且无需微调模型。