vLLM 详解 DeepSeek-V4.1-Flash 优化:Agent 场景吞吐提升 5 倍
Inferact 与 vLLM 社区在 DeepSeek-V4.1-Flash 发布三周内完成优化,低并发速度提升 1.9 倍,150 TPS 约束下吞吐提升 5.3 倍。
推荐理由:vLLM 团队拆解了 SWA bounded replay 和一系列内核优化,说明五倍吞吐提升具体来自哪里,方法可复用于其他 Agent 服务场景。
Inferact 与 vLLM 社区在 DeepSeek-V4.1-Flash 发布三周内完成优化,低并发速度提升 1.9 倍,150 TPS 约束下吞吐提升 5.3 倍。
推荐理由:vLLM 团队拆解了 SWA bounded replay 和一系列内核优化,说明五倍吞吐提升具体来自哪里,方法可复用于其他 Agent 服务场景。
谷歌推出开源多模态嵌入模型 EmbeddingGemma 2,基于 Gemma 4 架构,7.4 亿参数,量化后手机端运行仅需 191MB 内存,可统一处理文本、代码、图像、视频和音频。
OpenAI 公布一批含 722 份手稿、372 个结果家族的文件,展示某款未发布前沿模型对数百个未解决数学难题的解答,成果发布在 GitHub 仓库中。咨询小组 AGMAI 呼吁通过学术渠道发布并披露模型名称、提示词和算力开销,称一项普通成果的算力大致相当于 ChatGPT Pro 连续思考三小时。
OpenAI 在 GitHub 公开发布内部前沿模型产出的数学论文与证明材料,共 722 篇手稿,整理为 372 个结果族。测试时模型被喂入约 4K 个研究问题,每项结果平均使用相当于 3 小时 ChatGPT Pro 思考的算力;部分结果尚无 Lean 形式化,可能存在问题,仓库将持续更新。
OpenAI 发布 Openai/math,作者认为这似乎表明数学问题或一切可被 verify 的问题已被解决。作者同时吐槽 OpenAI 耗尽了其 Pro 的所有 token,偏离主线任务,开启无数 subagent 做无意义测试,最终感叹一切都是"为了 verify 而 verify"。
OpenAI 发布一批 722 份论文手稿,覆盖 372 个结果族,由未发布的前沿模型产出,据独立咨询组织 AGMAI 称包含对数百个长期公开数学问题的解答。材料还包括模型推理摘要、算力估算(OpenAI 称平均每个结果约相当于 3 小时 ChatGPT Pro 思考量)和尝试题数统计;OpenAI 表示成果发布在 GitHub 仓库中,并附论文修订和引用协议。
OpenAI 宣布发布由内部前沿模型产出的一批新数学结果,材料已在 GitHub 开放。发布方式参考了高等研究院数学与人工智能独立咨询组的建议和公开推荐。
Simon Willison 发布 llm-openai-decisions 0.1a0 插件,用于调用 OpenAI 上周 DevDay 预告的 Jev 风格 Decisions API,并让 GPT-6 Astra 参照其 llm-typesafe 插件生成代码。
OpenAI 发布一批由内部前沿模型产出的新数学成果,成果以 GitHub 仓库形式公开,并附论文修订与引用协议,其中许多证明已用 Lean 形式化以便计算机验证。
OpenAI 发布 GitHub 仓库 https://github.com/openai/math,公开由内部前沿模型产生的一系列新数学结果,并咨询了高等研究院数学与人工智能独立咨询小组。绝大多数结果由同一流程、用未发布的内部模型完成,平均每个结果使用三小时 ChatGPT Pro thinking 算力,评估期间模型共被提出约 4,000 个问题;例外包括黎曼 zeta 函数零点自由区域和 CM 阿贝尔簇上 Hodge 猜想证明的相关工作,其中 Re(s) > 11/12 零点自由区域的文稿经人工编辑以提升可读性。
今天发布的其它内容完全无关,但我们的模型确实解决了一些重要的数学问题,团队在下面这篇博客中做了记录。科学进步的新时代,令人瞩目。 https://openai.com/index/sharing-ai-progress-in-mathematics/
OpenAI 发布由内部前沿模型产出的一批新数学结果,链接为 https://github.com/openai/math。发布前咨询了普林斯顿高等研究院(IAS)数学与人工智能独立顾问组,并依据其建议和公开建议决定发布方式。
GitHub 宣布重建 Git 基础设施,以支持智能体规模开发带来的高并发读写负载。2026 年 8 月 GitHub 月度 Git 事件量达 473.3 billion(一年翻倍以上),9 月智能体和开发者产生 7.38 billion commits(超一年前五倍),pushes 同比增长 4.9 倍。
推荐理由:GitHub 工程方亲述面向智能体规模开发重建 Git 基础设施的动因与设计原则,含内部基准写吞吐最高 35 倍等一手数据。
Day 2 汇总/ 2.1/ "替我批准"(自动审查)现已包含在内,不消耗用量。使用时约占套餐的 2-10%。对你来说也更好。 2.2/ 为开发者简化了 API。 2.3/ 会议纪要已集成。 2.4/ Decisions API 已面向开发者上线。将在应用中使用以改善体验。
OpenAI 推出 Decisions API 公开测试版,向所有开发者开放,可让应用在接近实时的速度下选择合适的模型、工具或动作。官方称其决策速度最高比通过 Responses API 的 GPT-6 Luna 快 10 倍,作者表示团队将自用该 API 以多种方式改进体验。
ChatGPT 发布 Meetings 插件,可替用户记会议笔记,并基于 ChatGPT 对用户和既往工作的了解,在 ChatGPT Space 保存个性化摘要和后续步骤。笔记可私密保存或与团队共享,还能让 ChatGPT 更新项目计划或起草跟进内容。目前以 beta 形式面向 Pro 和 Business 用户开放,可在 macOS 桌面应用的插件目录搜索 Meetings 使用,Enterprise 版即将推出。作者 Tibo 补充称,可放心畅谈并将积累的上下文载入 codex 来完成任务。
推荐理由:原文给出了 Meetings 插件的使用入口和适用范围,还展示了把会议上下文接入 codex 的用法。
你现在可以试用 Decisions API 公测版: https://developers.openai.com/api/docs/guides/decisions
开发者一直在用 Decisions API 来: • 将请求路由到正确的模型、工具或智能体。 • 将规模化输入转化为有用的标签、排名和分数。 • 分析图像、比较视觉内容,或识别关键视频帧。 • 从截图中选择按钮、导航表单或确定操作。 • 标记有风险的工具调用,或识别需要深入审查的问题。 • 对大型数据集进行分类,以发现趋势和模式。
通过 Decisions API,让你的应用近实时地选择正确的模型、工具或操作,现已面向所有开发者开放公测。 Decisions API 通过 Responses API 做出决策的速度比 GPT-6 Luna 快最多 10 倍。
Google DeepMind 发布 EmbeddingGemma 2,基于 Gemma 4 架构,以 Apache 2.0 许可开源,将文本、代码、图像、视频和音频映射到统一嵌入空间。
推荐理由:官方发布给出参数量、内存占用、维度裁剪和基准分数等具体细节,读者可据此评估端侧多模态嵌入方案的可行性。
亚利桑那州上诉法院裁定,Gabriel Horcasitas过失杀人案量刑中使用的受害者Christopher Pelkey AI生成视频带有不当情感重量,罪名维持但刑期须重新考虑。
推荐理由:法院裁定AI生成受害者视频影响量刑并要求重判,文中还包含受害者家属对这一先例的第一手回应,为理解AI在法庭的边界提供了具体案例。
据 Bloomberg 援引知情人士报道,DeepSeek 接近完成至少 800 亿元(约 120 亿美元)融资,高于原定约 500 亿元的目标。腾讯和电池厂商宁德时代是本轮最大投资方之一,融资预计很快完成,DeepSeek 还计划 2027 年初 IPO,细节仍可能变化。
推荐理由:融资规模较原目标明显上调,还提到腾讯、宁德时代参与和 IPO 时间点,读者可借此了解 DeepSeek 的资本动向。
Sierra 与 Meta 联合 Genesys、Instinct、Rocket、Shopify、Stripe、Walmart 等伙伴宣布开发 Personal Agent Protocol,一个定义个人 AI 智能体如何与企业交互的开放标准,任何人都可实现。
推荐理由:原文来自协议发起方,说明了认证方式、三种接入路径和后续规范计划,读者可以据此评估个人智能体与企业的连接方式。
很高兴看到 Reflection 的 Beam 和 Mistral Large 4 在过去两天里都达到了大致 GLM-5.2 的水平。 这让我不禁思考,西方与中国开源模型之间真正的差距是否就是这么简单: 中国实验室可以蒸馏 Anthropic 和 OpenAI 的模型。西方实验室不能。
Gergely Orosz 在 LDX3 大会发表 29 分钟主题演讲,结合走访 OpenAI、Anthropic 及 GitHub、Factory AI、Linear 的独家数据,绘制 2026 年科技行业快照。
推荐理由:作者基于走访 OpenAI、Anthropic 等公司和 GitHub 独家数据,梳理去年出现的十余项工程实践变化、失效假设与不变原则,可作行业快照参考。
Google 宣布 Nano Banana 2.1 于当天开始推出,覆盖 Gemini App、Search AI Mode、Google AI Studio、Flow、Stitch、Google Ads 和 Gemini Enterprise Platform。
Anthropic 发布 Claude Haiku 5.5,定位为迄今最便宜、最快的小模型,适合摘要、压缩、数据库查询、分类等高吞吐任务,并可搭配 Opus 5.5 和 Sonnet 5.5 担任编码子智能体。
推荐理由:官方发布了定价、基准成绩与订阅 API 额度变化,读者可以据此评估小模型在低成本智能体任务中的适用场景。
Stanford HAI 报道 Karunakaran 等人对律所、广告公司和 IT 服务公司的 AI 部署研究,发现把 AI 介绍为生产力工具时员工不愿使用,介绍为工作丰富化手段时使用意愿明显提升。在一家律所的对照观察中,以丰富工作为目标引入 AI 工具 LawBot 的部门,使用量比强调提效的部门高 58%,尝试新用法多 70%。研究还强调配套培训、探索时间和调整考核指标的重要性。
推荐理由:研究给出一个可操作的管理方法,把 AI 介绍为工作丰富化并配套培训和时间,比强调提效更能推动员工真正使用。
Anthropic 发布 Claude Haiku 5.5,在 Artificial Analysis Intelligence Index 得 43 分,较上一代 Haiku 一年内提升 26 分,是首个支持 effort 设置与 adaptive thinking 的 Haiku 模型。
推荐理由:原文给出 Haiku 5.5 的跑分、token 消耗与分层定价细节,并指出 token 用量偏高和拒绝率问题,可作为选型参考。
LlamaIndex 推出 OpenDocRouter 平台,通过统一 API 将文档(PDF、PNG、JPEG 或 URL)解析为 markdown,接入 Claude Opus 5.5、Gemini 3 Flash、GPT-6 Luna 等 5 个前沿模型和 MinerU2.5-Pro、PaddleOCR-VL-1.6 等 5 个开源模型。
推荐理由:原文给出各模型在 ParseBench 上的质量与每千页成本对比,以及统一 layout 输出和按 token 计费细节,便于开发者选型。
ARC Prize 公布 DeepSeek V4.1 Flash 在 ARC-AGI (Verified) 的成绩:ARC-AGI-2 得分 72.9%,每任务成本 $0.13;ARC-AGI-1 得分 94.5%,每任务成本 $0.07。相比 V4 Flash 的最佳成绩,ARC-AGI-1 高 5.5 分,ARC-AGI-2 高 11.5 分,但每任务成本高约 250%。
推荐理由:ARC Prize 官方实测数据同时给出分数和每任务成本,读者可以据此比较 DeepSeek V4.1 Flash 与上一代的性价比取舍。
Arena 宣布 Mistral 的 Mistral Large 4 现已进入 Agent Arena,用户可前往测试投票,分数稍后公布。该模型为 1T 参数、49B 激活的原生多模态开放权重模型,也已在 Code Arena 的 WebDev、Text 和 Vision 中可用。
推荐理由:原文说明 Agent Arena 用真实长程智能体任务和因果追踪方法评分,读者可据此理解该评测如何衡量模型表现。
Mistral Large 4 现已在 OpenRouter 开放公测,规格为 1T 参数(49B 激活)、原生多模态、512K 上下文、最高 256K 输出。前两周五折:每 1M tokens 输入 $0.68、输出 $2.09,缓存 $0.07。
推荐理由:原文列出了参数量、上下文窗口和定价等具体规格,读者可以据此评估接入成本和适用场景。
Reflection 宣布其首个免费开放权重模型 Beam,定位是以最小算力实现强性能,对标 DeepSeek 和 Qwen 的开放权重模型。Beam 为 501B 总参数的 MoE 模型,每 token 激活 23B;据 Reflection 称在推理任务上以少三到四倍的算力匹配 GLM 5.2,编码和智能体基准接近 Qwen3.8-Max,但原始性能仍不及 Kimi K3。
Claude Code 推出云端会话:每个任务在独立 VM 上运行,仓库克隆到新分支,可从 claude.ai/code、手机、Desktop、终端和 Slack 启动并跟踪,完成后产出可转 PR 的分支,Pro、Max、Team、Enterprise 计划不额外收费。
推荐理由:作者用四个真实云会话实测并行修复、文档校对和结构化日志,给出本地与云会话的选择边界和七个适用工作流。
据 Bloomberg 报道,DeepSeek 接近完成至少 120 亿美元的新一轮融资,原计划约 75 亿美元、估值约 750 亿美元,总额可能接近 150 亿美元,CATL 和腾讯出资份额最大。
可灵 AI 拆解 AI 短片《The Beat》的制作过程,该片全网曝光超 500 万。Kling 4.0 支持单次原生生成最长 30 秒视频、单次任务最多 15 项参考素材、最多 10 张关键帧输入,并提升了大动态运镜稳定性与口型匹配。Kling 4.0 Flash 已向黑金年卡会员开放抢先体验,Kling 4.0 将于 10 月正式上线。
据 Bloomberg,DeepSeek 接近完成至少 120 亿美元融资,超出自身募资目标,估值可能达 710 亿美元。V4 Flash 模型发布后需求激增,已签署的 term sheet 可能使总额接近 150 亿美元;资金用于硬件,包括为内蒙古数据中心规划至少 160,000 块华为昇腾 950DT 加速器。
Reflection 发布文本-only 的 501B 总参数 / 23B 激活 MoE 模型 Beam,面向编码、智能体和科学任务,从零训练,完整权重将在本月以 Apache 2.0 发布。
据彭博社报道,DeepSeek 新一轮融资接近敲定,规模至少 800 亿元,超出原定约 500 亿元目标,最终总额可能逼近 1000 亿元,腾讯和宁德时代是出资规模最大的投资方之一。