DeepSeek开源DeepInfer，助力企业降低AI推理成本

杭州人工智能公司DeepSeek周二发布开源软件系统DeepInfer，用于大规模运行其AI模型，使企业、云服务商和模型托管公司能够采用其降本方法。公司在X上宣布了这一发布，称旨在帮助开发者降低计算成本和能耗。目前尚无独立性能测试验证实际收益。

DeepInfer目前支持DeepSeek的V4.1-Flash模型，未来计划支持更多系统。此次发布针对推理阶段——即模型训练后处理用户请求的环节，软件选择可能大幅影响每次请求的成本。

该系统将分布式推理（将工作负载分散到硬件）与提升芯片利用率的技术相结合。AI公司很少披露完整的生产优化方法，此次发布让云和托管提供商能够自行部署该技术。更低的推理成本可能提高托管利润率或传导至客户定价，但实际效益尚未经过测试。DeepSeek生态系统之外的开发者也可能调整代码用于自己的系统。