跳到正文
vLLM 官方博客·· 19 天前精选AI 评分75

vLLM 提供 Muse Spark Open Day 0 支持

Day 0 support for Muse Spark Open on vLLM

AI 导读

vLLM 与 Meta Superintelligence Labs 合作,在发布当天即支持开源 MoE 模型 Muse Spark Open。该模型总参数 816B、每 token 激活 42B、上下文窗口 1M,面向长程智能体编码工作流。

推荐理由

vLLM 官方给出了 Muse Spark Open 的架构细节、量化版本与完整部署命令,读者可直接照此在生产环境上手推理与 LoRA RL。

来源:vLLM 官方博客 · vllm.ai