Latent Space· Latent Space·· 12 天前精选AI 评分79
DeepSeek 开源 DeepInfer，单集群每天处理 155T tokens、收入约 $22m/day，推理利润率估算约 80%
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
AI 导读
DeepSeek 开源用于 V4.1 Flash 的生产推理框架 DeepInfer，并披露单集群每天处理 155T tokens、96% 输入缓存命中率及约 $22m/day 的收入。
推荐理由
原文把生产吞吐、缓存机制与成本估算放在一起，并说明 vLLM 对比仅覆盖解码阶段，适合判断 DeepInfer 的工程价值与部署边界。
来源：Latent Space · latent.space