Latent Space·· 13 天前AI 评分76
DeepSeek 开源 DeepInfer 推理框架，披露单集群 155T tokens/日与约 80% 推理毛利
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
AI 导读
DeepSeek 在 PyTorch Conf 期间开源 DeepInfer，即支撑 V4.1 Flash 的生产推理栈，基于 vLLM 定制并支持 NVIDIA SM100 与华为昇腾 950，配套发布 deepseek-recipe。
来源：Latent Space · latent.space