DeepSeek 公布推理引擎开源路径

Source

品玩4月15日讯,据爱范儿报道,DeepSeek 悄悄在自己的 open-infra-index 库中发布了一份题为「开源 DeepSeek 推理引擎的路径」的文档,宣布将开源自己的内部推理引擎(internal inference engine),并与开源社区建立更广泛的合作。

DeepSeek 在文中致谢了 PyTorch 和 vLLM,两者分别在 DeepSeek 模型的训练框架以及推理引擎起到重要作用。DeepSeek 还表示「希望尽己所能回馈社区」,但发现了「代码库差异」「基础设施依赖」「维护宽带有限」等挑战,而 DeepSeek 也提出了更可持续的替代方案 —— 与现有的开源项目合作:

提取出分立的功能:将可复用的组件模块化并作为独立的软件库贡献出来;

共享优化:直接贡献设计改进和实现细节。