vLLM 官方博客·· 2026-07-15精选AI 评分74
vLLM 实现 TML Inkling Day-0 支持并完成推理性能优化
TML Inkling on vLLM: Day-0 Support with Optimized Performance
AI 导读
vLLM 宣布对 Thinking Machines Lab 的 1T 参数多模态模型 TML Inkling 提供 Day-0 支持，覆盖 thinkingmachines/Inkling-NVFP4 和 BF16 两个版本，支持文本、图像、音频输入和最长 1M token 上下文。
推荐理由
原文给出 Day-0 支持的具体性能数字、架构优化细节和精度对比，读者可以评估该模型在自己的推理工作流中的可用性。
来源：vLLM 官方博客 · vllm.ai