Recursive 发布 40B 编码模型 Flint,vLLM 首日支持
先了解这件事
AI 创业公司 Recursive 发布首个模型 Flint:一个面向编码 Agent 的 40B MoE 本地编码模型,总参数 39.8B、每 token 激活约 2.5B,权重以 Apache 2.0 协议开放,可在 Hugging Face 下载,也可在 opencode、pidotdev 上免费试用。Recursive 称,其自动化研究系统 Eureka Machine 参与了从预训练到后训练和推理的几乎全部开发环节,小团队不到四个月从零完成。 vLLM 宣布从发布首日起支持 Flint,NVFP4 和 BF16 checkpoint 均可在单张 GPU 上运行;vLLM 称在一张 GB200、上下文达 100K token 时,单请求解码约 500 tokens/s。该加速有适用条件:Flint 内核针对单张 Blackwell GPU(TP=1、BF16 KV cache),其他配置会回退到 vLLM 的标准层;推理内容计入 max_tokens,处理难题时建议至少预留 32K。 性能方面,Testing Catalog 称 Flint 比同类模型快 2 倍,在 64GB RTX Spark 上超过 220 tokens/秒,在 MacBook Pro 上达 125+ tokens/秒;Eureka Machine 通过编写自定义 GPU 代码,在不改权重的情况下将 Flint 在 RTX Spark 上提速 55%。MarkTechPost 称其可在 48GB 内存的 Apple Silicon Mac 或 48GB NVIDIA GPU 上运行。Hugging Face 联创 Thomas Wolf 点评称,Flint 把通常建议保持高精度的 lm_head 量化到 4 bit,结果距 bf16 仅差 0.7 个百分点。
AI 根据报道生成 · 12 天前更新
报道时间线
沿着报道,了解事件的不同侧面。
- The Decoder:AI NewsRecursive 发布首个自动化研究产出的开源模型 Flint
AI 初创公司 Recursive 发布首个由 AI 系统 Eureka Machine 全程参与实验设计的开源语言模型 Flint,为面向本地智能体编码的 MoE 模型,总参数 40B、每 token 激活 2.5B,开发历时四个月。
- 邵猛Recursive 发布首个模型 Flint:4 个月从零训练的本地编程 MoE,MacBook 上每秒 125+ Token
Recursive 发布首个模型 Flint,由其自动化研究系统 Eureka Machine 参与完成,从零训练用时不到 4 个月。
- MarkTechPostRecursive 发布开源 MoE 本地编码模型 Flint,40B 总参数 2.5B 激活
Recursive Superintelligence 发布首个模型 Flint,一个面向编码 Agent 的开源 MoE 模型,总参数 39.8B、每 token 激活约 2.5B,权重以 Apache 2.0 发布在 Hugging Face。
- TechCrunch:AIRecursive 发布可在笔记本运行的编程模型 Flint,宣称主要由 AI 打造
AI 创业公司 Recursive 周三发布免费编程模型 Flint,可在笔记本上运行,公司称其自动化研究系统 Eureka Machine 参与了从预训练到后训练和推理的几乎全部开发环节,小团队不到四个月从零完成。
- Testing CatalogRecursive 发布首个开源权重编码模型 Flint,Apache 2.0 协议
Recursive 发布首个开源权重编码模型 Flint,采用 Apache 2.0 协议。Flint 是 40B 参数的 MoE 本地编码模型,号称比同类模型快 2 倍,在 64GB RTX Spark 上超过 220 tokens/秒,在 MacBook Pro 上达 125+ tokens/秒。其 Eureka Machine 自动研究系统通过编写自定义 GPU 代码,在不改权重的情况下将 Flint 在 RTX Spark 上提速 55%,权重已在 Hugging Face 开放。
- Rohan PaulRecursive 发布自动化研究产出的 40B 本地编码模型 Flint,Apache 2.0 开放权重
Recursive 发布首个模型 Flint,一个 40B MoE 本地编码模型,由其自动化研究系统 Eureka Machine 构建,从零开始用时不到 4 个月,权重以 Apache 2.0 开放。
- Thomas WolfThomas Wolf 点评 Recursive_SI 开源本地编码模型 Flint:lm_head 量化到 4 bit 仍接近 bf16
Thomas Wolf 称自己对 AGI 的标准仍是 AI 拿诺贝尔奖,但称赞 Recursive_SI 的 Flint 敢于把通常建议保持高精度的 lm_head 量化到 4 bit,结果距 bf16 仅 0.7 个百分点且以开放权重发布在 Hugging Face hub。引用内容介绍 Flint 为快速本地编码模型,MacBook Pro 上 125+ tokens/sec、RTX Spark 上 150+ tokens/sec,从零构建用时不到 4 个月,开放权重现已在 Hugging Face 提供。
- vLLM 官方博客vLLM Day-0 支持 Recursive 40B MoE 模型 Flint,单卡推理约 500 tokens/s
vLLM 宣布 Day-0 支持 Recursive 的 Flint,其 NVFP4 和 BF16 checkpoint 均可在单张 GPU 上运行,在一张 GB200、100K token 上下文下单请求解码约 500 tokens/s。