The Decoder AI in practice· Matthias Bastian·· 3 天前AI 评分67
DeepSeek 以 Apache 2.0 开源推理框架 DeepInfer
Deepseek open-sources the inference engine that powers its fastest and cheapest AI model
先看结论
原文说明 DeepInfer 是支撑 V4.1-Flash 快速大规模出答案的服务软件，并配套提供复现官方 API token 处理的 recipe，可用于自托管部署评估。
报道讲了什么
- DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer。
- 同时发布 deepseek-recipe，复现官方 API 的 token 处理。
可以做什么
- DeepInfer 基于 vLLM，包含优化计算内核、多芯片分布式处理和更快的文本生成技术。
- 自托管环境借助 deepseek-recipe 可让行为与官方 API 一致。
- DeepSeek 表示未来模型的代码也将以开源形式发布。
怎么使用
原文没有提供可复现的操作步骤，请从下方原文或官方说明确认使用方法。
结果与限制
- 原文未给出 DeepInfer 的部署步骤、硬件要求或性能数字。
- 降低算力成本与能耗是公司表述的目标，原文未提供实测结果。
使用入口与依据
来源：The Decoder AI in practice · the-decoder.com
事件后续
查看事件全部正在读取事件进展…