跳到正文
热点事件观察中

DeepSeek以Apache 2.0开源推理框架DeepInfer

1 篇报道1 个报道来源3 天前更新

先了解这件事

AI 综述

DeepSeek以Apache License 2.0开源了其内部推理框架DeepInfer,该框架是支撑V4.1-Flash模型大规模快速出答案的服务软件。框架基于vLLM,加入优化计算内核、多芯片分布式处理和更快的文本生成技术。 DeepSeek同时发布deepseek-recipe,用于复现官方API的token处理,使自托管环境的行为与官方一致。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. The Decoder AI in practice
    DeepSeek 以 Apache 2.0 开源推理框架 DeepInfer

    DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,它是支撑 V4.1-Flash 模型大规模快速出答案的服务软件。该框架基于 vLLM,加入优化计算内核、多芯片分布式处理和更快的文本生成技术;同时发布 deepseek-recipe,用于复现官方 API 的 token 处理,使自托管环境行为一致。

已显示 1 篇,共 1 篇报道。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。