DeepSeek开源生产级推理框架DeepInfer，海外开发者称其"真正的OpenAI"

DeepSeek于10月20日宣布开源内部生产级推理框架DeepInfer，该框架整合分布式推理、投机解码等技术，已兼容英伟达SM100 GPU和华为昇腾950 NPU。彭博社指出，推理技术通常被AI公司视为核心竞争力而较少公开，此次开源让外界得以了解DeepSeek如何在压低运行成本的同时确保模型性能。海外开发者积极反馈，有印度博主以"Real OPEN AI"评价DeepSeek。