DeepSeek 为什么把自己用的推理框架开源了？

视频从推理优化、API 收入测算与服务商受益路径，解释 DeepSeek 开源推理框架如何降低行业成本、建立模型生态。讲者先区分模型与推理服务，指出面向大量用户需要调度 GPU 集群，并通过 KV Cache、预填充与解码分离、推测解码及 CPU 排队提高吞吐、降低成本，随后依据非高峰 API 定价和缓存进行测算。