跳到正文
vLLM 官方博客·· 18 天前同新闻AI 评分65

vLLM 实现 Reflection Beam 501B MoE 模型 Day 0 支持

Serving Reflection Beam on vLLM from Day 0

AI 导读

vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE 模型,在 NVIDIA Blackwell 上完成优化。

同一新闻,精选展示《Reflection 开源权重模型 Beam 上线 Ollama Cloud,限时免费使用》

来源:vLLM 官方博客 · vllm.ai