跳到正文
原文
Latent Space·· 2 小时前精选AI 评分72

DeepSeek 开源推理引擎 DeepInfer,公开生产级 token 经济数据

[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback

AI 导读

DeepSeek 开源了用于 V4.1 Flash 的推理引擎 DeepInfer,并披露生产集群服务 155T tokens/天、$38/加速器小时营收和约 80% 毛利率,引擎基于 vLLM 定制并支持 NVIDIA SM100 与华为 Ascend 950。

推荐理由

原报道同时给出 DeepSeek 自报的生产级 token 经济与 vLLM 团队的复现对比,读者可区分宣传话术与可独立验证的性能差距。

来源:Latent Space · latent.space