DeepSeek公布V3/R1系统关键数据

DeepSeek开源周以最后一波重磅信息落下帷幕，再次引发AI领域的广泛关注。3月1日，DeepSeek在知乎上发布《DeepSeek-V3/R1 推理系统概览》，首次公开了理论成本和利润率等关键数据。据文章介绍，若GPU租赁成本为2美元/小时，则总成本为87072美元/天；理论上一天总收入可达562027美元，成本利润率为545%。

DeepSeek通过大规模跨节点专家并行技术优化V3/R1推理系统，目标是提高吞吐量、降低延迟。具体而言，大规模跨节点专家并行增加了batch size，提升了GPU矩阵乘法效率，降低了延迟。但这一方法也带来了复杂性挑战，如跨节点通信、负载均衡等。为此，DeepSeek采用双批次重叠策略、最优负载均衡等手段，确保高性能与稳定性。此外，DeepSeek还通过时间上的成本控制机制，在白天高负荷时全节点部署服务，晚上则减少节点用于研究和训练，进一步降低成本。尽管实际收入可能低于理论值，因为V3定价较低且夜间有折扣，但DeepSeek依然展示了其强大的竞争力。随着开源周结束，更多惊喜或将接踵而至。