跳到正文

技术方向

开源生态 最新动态

开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。

43 条精选近 30 天 34 条共收录 130 条

更新

开源生态的精选

日期栏展示收录日期,历史补录归入原文日期。

今天10月15日周四第 1–20 条
  1. vLLM Blog71

    原文发布

    更快完成 RL 训练:位级一致、高性能、智能体驱动

    vLLM 团队提出让训练前向直接调用 vLLM 推理 kernel 并修改这些高性能 kernel,使 rollout 与训练对每个采样 token 产生位级相同的 logprob(diff = 0)。

    推荐理由:原文给出训练与推理数值不一致的量化后果和逐算子对齐方案,可了解 RL 训练稳定性的一条工程路径。

  2. Figma Blog62

    在 Figma 中用 Payload 创建、发布和管理数据驱动的网站

    Figma 将开源内容框架 Payload 集成进 Figma Make,团队在提示生成应用时即可同时获得数据库、文件存储、用户登录和管理后台。设计者可用真实内容提示体验,营销人员通过内置管理面板增改内容,开发者用 Payload 开源框架定制应用,并可按角色分配细粒度权限。

    推荐理由:Figma 把 Payload 的后端与内容管理并入 Figma Make,读者可据此判断设计到上线的流程变化。

  3. IT之家 · 人工智能76

    昆仑万维发布世界首款消费级显卡视频大模型游戏,同步开源

    昆仑万维发布 Matrix-Game 4.0,称其为世界首款运行在单张消费级显卡上的视频大模型游戏,可在 NVIDIA RTX 5090 上实现 480p、60 FPS 实时体验,按键到画面响应延迟低于 150 毫秒。

    推荐理由:原文给出消费级显卡上的实时视频生成游戏闭环与开源入口,可据此判断端侧视频模型落地的可行路径。

  4. IT之家 · 人工智能78

    阶跃 Step 5 Preview 大模型权重开放,支持 100 万 token 上下文窗口

    阶跃正式释放 Step 5 Preview 权重,开放 BF16 与 FP8 模型权重、技术博客及配套开源开发工具。该模型面向长程 Agent 任务设计,采用稀疏 MoE 架构,总参数量 600B、每 token 激活参数仅 27B,支持 100 万 token 上下文窗口,原生支持文本与视觉输入。

    推荐理由:阶跃开源 600B 稀疏 MoE 模型权重,读者可了解其百万 token 上下文与长程 Agent 设计取舍。

  5. vLLM Blog62

    原文发布

    vLLM 推出基于 Push 的 KV 传输,改善分离式推理的 TTFT 与 TPOT

    vLLM 新增 push 模式的 NIXL KV 连接器,把传输协调与建立连接从解码实例的关键路径移到预填充侧的后台线程,从而降低 TTFT 与 TPOT。在 1P1D 部署、Amazon EC2 P5en 实例加 EFA 的 Qwen3-32B 基准中,push 模式相比默认 pull 模式 TTFT 最高改善 3 倍、TPOT 最高改善 30%,结果随负载与配置变化。

    推荐理由:vLLM 新增 push 模式 KV 连接器,给出架构、线程模型与复现脚本,可据此评估分离式推理的延迟收益。

10月14日周三
  1. MIT News · AI66

    研究人员改进两到六周后的天气预报

    MIT 等机构的研究团队开发出一种机器学习后处理层,通过学习历史数据修正现有预报模型的误差,将两到六周(次季节)预报的准确率提升一倍,并在 ECMWF 的预报竞赛中夺得第一。该成果发表在 Nature 上,首次让这一时间尺度的预报优于气候学平均值,同时显著提升了对极端天气的预测能力。模型为开源、低成本的外挂式 wrapper,可叠加到任意预报模型上,肯尼亚气象部门已联系希望用于改进季风预报。

    推荐理由:MIT 团队用后处理层修正现有预报模型误差,把 2 至 6 周预报精度提升一倍,并给出开源低成本路径。

  2. Liquid AI Blog74

    原文发布

    LFM2.5-24B-A2B:为快速端侧智能体打造

    Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、每 token 仅激活 2B 的推理模型,面向端侧快速私有智能体,是 LFM2.5 系列中最大也是最后一款。

    推荐理由:官方给出端侧智能体的速度、基准与部署入口,可据此判断本地 Agent 的可行边界。

10月13日周二
  1. NVIDIA Technical Blog60

    NVIDIA Run:ai 现已开源,成为 NVIDIA DSX AI Factory 平台的一部分

    NVIDIA 将完整的 Run:ai 平台以开源软件形式发布,向客户、开发者和生态伙伴开放生产级 AI 工作负载与 GPU 编排能力。此次发布扩展了 NVIDIA DSX AI Factory 平台,把 Run:ai 确立为开放基础,让更广泛的生态能够推出差异化解决方案。

    推荐理由:NVIDIA 将 Run:ai 全平台开源并纳入 DSX AI Factory,读者可了解 GPU 编排能力的开放范围。

  2. NVIDIA Blog78

    All Systems Go:全球 PC 应用生态已为 NVIDIA RTX Spark 就绪

    NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,并联合生态伙伴推出面向本地 AI 的软件更新,涵盖 GitHub Copilot、Hermes、OpenClaw、Perplexity、Pi 和 WorkBuddy 等智能体应用。

    推荐理由:NVIDIA 官方汇总 RTX Spark 笔记本上市前的本地 AI 软件生态更新,可了解端侧智能体与开发工具的落地节奏。

10月12日周一
  1. vLLM Blog62

    vLLM 双向 KV 传输改善多轮智能体负载的 TTFT

    vLLM 引入双向 KV 传输,让 decode 节点把已计算的 KV 缓存回传给 prefill 节点,避免多轮对话中重复计算上下文。在 1P1D 的 Amazon EC2 P5en 加 EFA 部署上,最长提示下 TTFT 降低约 1.6 倍(Qwen3-32B)和 3.3 倍(zai-org/GLM-5-FP8)。

    推荐理由:vLLM 新增双向 KV 传输,读者可了解多轮智能体场景下降低 TTFT 的机制与实测数据。

10月9日周五
  1. Prime Intellect Blog71

    Prime Agent 用 Rust 重写

    Prime Intellect 将 Prime Agent 从 TypeScript 重写为 Rust,由 2000 多个智能体在两周内完成端到端重写,消耗超 2000 亿 token,运行在 10000 多个 Prime Sandboxes 上。

    推荐理由:官方披露用 2000 多个智能体把 Prime Agent 从 TypeScript 重写为 Rust 的完整流程与性能数据,可看多智能体编排如何落地。

10月8日周四
  1. Anthropic News71

    Anthropic 推出 Cyber Mission

    Anthropic 宣布启动 Anthropic Cyber Mission,一项面向防御方的长期计划,首批聚焦关键基础设施与开源软件两个方向。

    推荐理由:Anthropic 把前沿模型投向关键基础设施与开源软件防御,读者可了解其合作方与免费扫描服务的具体安排。

  2. Anthropic Research71

    Anthropic 推出面向开源软件的漏洞扫描服务 OSS Scanner

    Anthropic 推出 OSS Scanner,一个面向开源生态的可选漏洞扫描服务,加入的项目可免费获得由最强模型定期执行的安全扫描。该服务输出完全由模型生成,不经人工审核或分诊,报告包含可复现样例、漏洞说明和候选补丁。

    推荐理由:Anthropic 公开了 OSS Scanner 的扫描流程、误报率与维护者反馈,可据此判断模型自动找漏洞的可用边界。

  3. Microsoft Research71

    Agent Lightning v1.0:一个 3500 行的轻量级智能体 RL 框架,用真实 harness 训练智能体

    微软亚洲研究院开源 Agent Lightning v1.0,提出 Harnessed Agentic RL 训练范式,让部署时使用的同一套 agent harness 直接参与强化学习,无需在训练框架内重新实现智能体。

    推荐理由:微软开源 Agent Lightning v1.0,读者可了解用真实 harness 做智能体 RL 训练的思路与 3500 行代码的工程取舍。

10月7日周三
  1. Google DeepMind71

    EmbeddingGemma 2:一个开放、轻量的多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,一个基于 Gemma 4 架构、740M 参数的开源多模态嵌入模型,采用 Apache 2.0 许可,将文本、图像、音频、视频映射到统一嵌入空间。

    推荐理由:EmbeddingGemma 2 把文本、图像、音频、视频统一进一个 740M 端侧嵌入模型,读者可据此判断本地多模态检索的可行边界。