vLLM 官方博客·· 18 天前同新闻AI 评分65
vLLM 实现 Reflection Beam 501B MoE 模型 Day 0 支持
Serving Reflection Beam on vLLM from Day 0
AI 导读
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE 模型,在 NVIDIA Blackwell 上完成优化。
同一新闻,精选展示《Reflection 开源权重模型 Beam 上线 Ollama Cloud,限时免费使用》
来源:vLLM 官方博客 · vllm.ai