Latent Space·· 2 小时前精选AI 评分72
DeepSeek 开源推理引擎 DeepInfer,公开生产级 token 经济数据
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
AI 导读
DeepSeek 开源了用于 V4.1 Flash 的推理引擎 DeepInfer,并披露生产集群服务 155T tokens/天、$38/加速器小时营收和约 80% 毛利率,引擎基于 vLLM 定制并支持 NVIDIA SM100 与华为 Ascend 950。
推荐理由
原报道同时给出 DeepSeek 自报的生产级 token 经济与 vLLM 团队的复现对比,读者可区分宣传话术与可独立验证的性能差距。
来源:Latent Space · latent.space