DeepSeek开源Deepinfer推理框架

发生了什么

据虎嗅报道，DeepSeek于10月20日开源了推理框架Deepinfer。据该框架文档测算，一个算力集群每日可完成155万亿Token吞吐，单卡每小时谷底收入为38美金。有分析指出，若全球模型均采用该框架，约3万张卡即可满足全球日均450万亿Token的推理需求。该开源行为引发了市场对AI硬件产业链投资逻辑的讨论，并伴随相关股票价格波动。