原文发布
更快完成 RL 训练：位级一致、高性能、智能体驱动
vLLM 团队提出让训练前向直接调用 vLLM 推理 kernel 并修改这些高性能 kernel，使 rollout 与训练对每个采样 token 产生位级相同的 logprob（diff = 0）。
推荐理由：原文给出训练与推理数值不一致的量化后果和逐算子对齐方案，可了解 RL 训练稳定性的一条工程路径。
技术方向
推理能力 最新动态
模型推理能力的进展：思维链、推理模型、数学与逻辑基准的突破与争议。
33 条精选近 30 天 27 条共收录 98 条
更新
推理能力的精选
日期栏展示收录日期，历史补录归入原文日期。
vLLM Blog精选AI 评分7171 IT之家 · 人工智能精选AI 评分7878 阶跃 Step 5 Preview 大模型权重开放，支持 100 万 token 上下文窗口
阶跃正式释放 Step 5 Preview 权重，开放 BF16 与 FP8 模型权重、技术博客及配套开源开发工具。该模型面向长程 Agent 任务设计，采用稀疏 MoE 架构，总参数量 600B、每 token 激活参数仅 27B，支持 100 万 token 上下文窗口，原生支持文本与视觉输入。
推荐理由：阶跃开源 600B 稀疏 MoE 模型权重，读者可了解其百万 token 上下文与长程 Agent 设计取舍。
Google DeepMind精选AI 评分7878 Google DeepMind 负责任且安全地开发 Gemini 4 Argon
Google DeepMind 发布 Gemini 4 Argon，并开始广泛推送，同时扩大 Fairwind Program 覆盖更多可信网络安全防御者。该模型在模拟网络攻击场景中解决全部 12 个端到端任务，上一代为 5 个；在 Gray Swan 间接提示注入基准上，15 次自适应攻击的成功率降至 0.7%。
推荐理由：官方披露 Gemini 4 Argon 在网络安全与生物风险上的防护设计，可了解前沿模型安全部署的具体做法。
Prime Intellect Blog精选AI 评分6262 原文发布
Moondream 加入 Prime Intellect
Prime Intellect 宣布收购 Moondream，其创始人 Vik Korrapati 和 Jay Allen 将加入并负责扩展推理业务，同时推进多模态模型（含视觉与 computer use）的工作。
推荐理由：收购与整合细节展示了小模型加专用推理引擎在成本与速度上的取舍，可观察多模态推理栈的走向。
Liquid AI Blog精选AI 评分7474 原文发布
LFM2.5-24B-A2B：为快速端侧智能体打造
Liquid AI 发布 LFM2.5-24B-A2B，一个 24B 参数、每 token 仅激活 2B 的推理模型，面向端侧快速私有智能体，是 LFM2.5 系列中最大也是最后一款。
推荐理由：官方给出端侧智能体的速度、基准与部署入口，可据此判断本地 Agent 的可行边界。
The Verge · AI精选AI 评分8282 Google 终于发布 Gemini 4 Argon
Google 正式发布 Gemini 4 Argon 模型，称其具备前沿推理能力并减少冗余与套话，在编码、网络安全、科学、金融和法律等基准上超过 GPT-6 Astra、Claude Fable 5.1 和 Claude Opus 5.5。
推荐理由：Google 发布 Gemini 4 Argon，给出对标竞品的基准表现、内部用例与每百万 token 定价，可据此判断前沿模型竞争格局。
Google Blog · AI精选AI 评分9090 Gemini 4 Argon：为解决最棘手问题而打造
Google 发布 Gemini 4 Argon，即日起通过 Gemini API、AI Studio、Google Antigravity 以及 Gemini 应用和 Search 的 AI Mode 向开发者、企业和订阅用户开放，入门价每百万输入 token 2 美元、输出 token 10 美元，缓存输入享 95% 折扣。
推荐理由：官方给出 Argon 在编码、科研与安全对齐上的具体案例和定价，可据此判断前沿模型的能力边界。
The Decoder精选AI 评分8484 原文发布
Google DeepMind 的 AlphaProof Nexus 解出多个开放数学问题并经过同行评审
Google DeepMind 的 AlphaProof Nexus 自主解出多个开放数学问题，相关研究发表在 Science 上。它解出 353 个 Erdős 问题中的 9 个，其中两个已悬置 56 年，还证明了 OEIS 整数序列数据库中的 44 个猜想、解决代数几何中的一个开放问题，并改进了 min-max 优化中的一个已知界。
推荐理由：AlphaProof Nexus 用 Lean 形式化验证解出多个开放数学问题，可了解 AI 数学证明的同行评审路径。
Artificial Analysis精选AI 评分8080 Muse Wonder 与 Muse Wonder Full：相较此前 Meta 模型智能水平大幅跃升
Meta 发布 Muse Wonder 和 Muse Wonder Full，在 Artificial Analysis Intelligence Index v4.3 最高推理强度下分别得分 52 和 56，均高于 Muse Spark 1.3（max）的 48，距上次发布仅 6 周。
推荐理由：Artificial Analysis 的第三方评测给出两款新模型在智能体与编码任务上的具体分数和成本对比，可据此判断其定位。
vLLM Blog精选AI 评分6262 vLLM 双向 KV 传输改善多轮智能体负载的 TTFT
vLLM 引入双向 KV 传输，让 decode 节点把已计算的 KV 缓存回传给 prefill 节点，避免多轮对话中重复计算上下文。在 1P1D 的 Amazon EC2 P5en 加 EFA 部署上，最长提示下 TTFT 降低约 1.6 倍（Qwen3-32B）和 3.3 倍（zai-org/GLM-5-FP8）。
推荐理由：vLLM 新增双向 KV 传输，读者可了解多轮智能体场景下降低 TTFT 的机制与实测数据。
vLLM Blog精选AI 评分6262 vLLM 支持 NVIDIA Vera Rubin NVL72：吞吐量达 GB200 NVL72 的 7.8 倍
vLLM 现已支持 NVIDIA Vera Rubin NVL72，官方称在 AgentX 上匹配交互性时每 GPU 吞吐量最高达 GB200 NVL72 的 7.8 倍，在 MLPerf 中 VLM 吞吐量最高达 GB300 NVL72 的 3.7 倍。
推荐理由：vLLM 官方给出 Rubin 平台的早期适配状态与实测吞吐数据，可据此判断新硬件上的推理部署进展。
Understanding AI精选AI 评分7878 解读 Jev：大家都在谈论的新模型
TypeSafe AI 于 9 月 15 日结束隐身并发布新模型 Jev，其公告在 Twitter 获得近 4000 万次浏览，一周内超 10 万人加入其 Discord，约 2000 个 GitHub 项目使用该模型。
推荐理由：通过一个概率输出模型的实际用例，读者可以理解受限输出格式为何在速度、成本和工程集成上带来优势。
Goodfire Research精选AI 评分7171 在 Kimi K3 上训练并部署生产级网络监控器
Goodfire Research 为 Kimi K3 和 GLM 5.3 构建了基于探针的网络滥用监控器，并部署在生产推理栈上。探针作为第一道过滤器只把可疑交互交给 LLM 裁判，在 5.5% 良性会话中断率下召回约 93%，成本约 50 倍更低，每百万次交互低于 200 美元，且不增加推理延迟。
推荐理由：原文给出探针加裁判级联的完整配方与生产部署数据，可了解实时监控智能体的成本与延迟取舍。
vLLM Blog精选AI 评分7878 DeepSeek-V4.1-Flash 在 vLLM 上：Day 0 以来智能体吞吐提升 5 倍
vLLM 团队与 Inferact 及社区在 DeepSeek-V4.1-Flash 发布后三周内完成优化，低并发下提速 1.9 倍，150 TPS 约束下吞吐提升 5.3 倍。
推荐理由：原文逐项拆解 vLLM 为 DeepSeek-V4.1-Flash 做的系统优化，可看到 5 倍吞吐提升的具体来源。
Artificial Analysis精选AI 评分7878 Anthropic 发布 Claude Haiku 5.5
Anthropic 发布 Claude Haiku 5.5，在 Artificial Analysis 智能指数上得分 43，比上一代 Haiku 发布一年后提升 26 分。
推荐理由：第三方评测给出 Haiku 5.5 的智能指数、分层定价与 token 消耗对比，可据此判断小模型性价比。
Prime Intellect Blog精选AI 评分6262 论集群的本质
Prime Intellect 博客文章《论集群的本质》讨论推理扩展受限于上下文窗口的问题，指出压缩、磁盘卸载、子智能体和持久智能体都是构建上下文的不同方式。
推荐理由：文章把压缩、子智能体与持久智能体串成一条上下文容量主线，并解释树状结构为何在规模扩大后失效。
Reflection Blog精选AI 评分7676 Reflection 发布 501B 开放权重模型 Beam
Reflection 发布首个开放权重模型 Beam，这是一个总参数 501B、激活 23B 的稀疏 MoE 模型，面向编码、推理和智能体任务。Beam 在 23.8 万亿 token 上预训练，并用 10.5K 块 NVIDIA GB300 GPU 进行了 4 周高算力 RL 训练，生成超过 1 亿次 rollout。
推荐理由：Reflection 公开 Beam 的 501B MoE 架构与高算力 RL 训练细节，可据此了解开放权重模型在编码与智能体方向的最新进展。
Liquid AI Blog精选AI 评分7878 Liquid AI 发布 d1 决策模型，新增视觉支持
Liquid AI 发布首个决策模型 d1，在文本基础上新增图像输入，可在 console.liquid.ai 和 d1 Playground 试用。d1 接收文本、图像或两者以及一个或多个问题，一次前向传播直接返回概率而不生成 token，文本决策耗时 200 到 300 ms，支持 Noul、Choice、Score 三类问题。
推荐理由：d1 把决策建模成一次前向的概率输出，并给出与 GPT-6.1 Sol、Claude Opus 5.5 的成本与延迟对比，可据此判断这类模型适合替换哪些 LLM 调用。
Baseten Blog精选AI 评分6262 智能体推理优化：引擎提速 50-90%
Baseten 作者让 Claude Code 基于 MetaInfer 技能框架自动生成推理引擎，在单张 B200 上为 Qwen-3.6-35B-A3B（NVFP4）生成的 VibeQwen 相比 vLLM 0.25.1 单流解码提速最高 90%，首 token 时间从 28ms 降至 12ms，并发 32 时输出吞吐提升 71%。
推荐理由：作者用两个模型实测了让智能体自动生成推理引擎的流程，给出了与 vLLM 的对比数据和成本量级。
Prime Intellect Blog精选AI 评分6060 Prime Inference：面向前沿开源模型的高速可靠推理服务
Prime Intellect 发布 Prime Inference，提供 serverless 端点和预留容量的前沿开源模型推理服务，支持跨数据中心自动故障转移和 OpenAI 兼容接口。
推荐理由：原文披露了 Prime Inference 的架构取舍与实测数据，可了解长上下文智能体服务的工程路径。