跳到正文
Oran Ge·· 14 天前

DeepSeek 完全开源自研推理框架 DeepInfer

AI 导读

DeepSeek 宣布将自研推理框架 DeepInfer 完全开源,代码地址 github.com/deepseek-ai/DeepInfer。官方称 DeepInfer 在生产环境中支撑 DeepSeek-V4.1-Flash,实现高吞吐和低延迟,开源旨在帮助社区降低算力成本与能耗。作者认为这将推动所有模型降价。

来源:Oran Ge · x.com