跳到正文
返回科技动态
原文
The Decoder· Matthias Bastian·· 27 天前

DeepSeek 开源驱动 V4.1-Flash 模型的推理引擎 DeepInfer

Deepseek open-sources the inference engine that powers its fastest and cheapest AI model

AI 导读

DeepSeek 以 Apache License 2.0 协议开源内部推理框架 DeepInfer,该引擎支撑其最快最便宜的 V4.1-Flash 模型。DeepInfer 基于 vLLM 优化计算内核与分布式处理,并配套发布 deepseek-recipe 以复现官方 API 的 token 处理逻辑。此举旨在降低社区算力成本与能耗,同时为 OpenAI 等西方服务商带来价格压力。

来源:The Decoder · the-decoder.com

浙ICP备2026082753号-2