The Decoder· Matthias Bastian·· 27 天前
DeepSeek 开源驱动 V4.1-Flash 模型的推理引擎 DeepInfer
Deepseek open-sources the inference engine that powers its fastest and cheapest AI model
AI 导读
DeepSeek 以 Apache License 2.0 协议开源内部推理框架 DeepInfer,该引擎支撑其最快最便宜的 V4.1-Flash 模型。DeepInfer 基于 vLLM 优化计算内核与分布式处理,并配套发布 deepseek-recipe 以复现官方 API 的 token 处理逻辑。此举旨在降低社区算力成本与能耗,同时为 OpenAI 等西方服务商带来价格压力。
来源:The Decoder · the-decoder.com