跳到正文

日期栏展示收录日期,历史补录归入原文日期。

10月2日周五
10月1日周四
  1. Zyphra Research32

    混合 NoPE 模型如何在无位置编码的情况下学习位置

    混合架构将滑动窗口注意力等局部混合层与使用 NoPE 的全局注意力层交错,局部层会在残差流中留下相对位置特征,使相邻 token 表示更相似,形成近因偏置。全局 NoPE 注意力据此学习 query 和 key 投影,将这种滞后相关的残差结构转化为带近因偏置的注意力 logits,无需显式注入相对位置。该偏置在训练中增强,并在网络更深层更明显。

  2. Goodfire Research39

    通过蛋白质嵌入为 AI 智能体打造更好的生物安全监控器

    Goodfire Research 开发出基于蛋白质模型嵌入向量的序列感知监控器,用于识别 AI 智能体在 DNA 或蛋白质序列任务中的双重用途风险。该监控器在自建基准上优于前沿模型的防护措施,拒绝率更低,对改写、片段化等新型对抗攻击更鲁棒,速度与数据库查询方法相当,且防御能力随模型能力提升而增强。

  3. Anthropic Research74

    Claude 形态的科学

    物理学家 Matthew Schwartz 在 Anthropic 客座文章中提出“Claude 形态”问题思路,即寻找最适合当前 LLM 能力的问题,而非让模型像人类科学家那样工作。他据此构建开源工具包 BootLoops,用于定量科学中的精确计算,并在生态学、群体遗传学、语言学等领域与专家合作取得进展。文中还给出应对模型虚报完成、时间估计失准等失败模式的具体经验。

    推荐理由:作者以第一手实践复盘如何为 Claude 设计适配问题,并给出跨学科协作与工具化的可迁移方法。

  4. Microsoft Research34

    预测电网面临的空间天气风险

    微软研究院实习生开发了一套机器学习系统,可为美国本土 66,935 座变电站生成位置级空间天气风险预测,提前 30 至 60 分钟预警。该系统结合 L1 太阳风观测、AE 与 Dst 指数预测、地质电导率及电网数据,评估期内检测到近 80% 的重大空间天气事件;Dst 预测在 2020-2026 年评估期内地磁最活跃时段有 62.2% 的小时数优于 Burton 方程。

9月30日周三
  1. Google DeepMind62

    Google DeepMind 推出 SynthID Bio,为 AI 生成蛋白质加水印

    Google DeepMind 推出 SynthID Bio,将水印技术用于合成生物学,把不可感知的签名嵌入生物代码,使其在数字模型和合成出的实体蛋白质上均可验证,同时保持生物功能。

    推荐理由:Google DeepMind 把水印技术引入合成生物学,读者可了解 AI 生成蛋白质的可验证溯源思路及其生物安全意义。

  2. Anthropic Research71

    机器人能做什么工作?

    Anthropic 发布机器人暴露指数研究,用 Claude 评估现有机器人对 O*NET 约 19000 项工作任务的执行能力。研究发现机器人已能完成美国 74% 的体力任务、占全部工作时间的 34%,但大多限于受控环境;仅 0.3% 的工作任务上机器人具备成本竞争力,若按历史降价速度需 40 年才能升至 10%。

    推荐理由:Anthropic 用 Claude 评估机器人任务暴露度,给出可复用的暴露分级与成本对比框架。

9月29日周二
  1. 上海人工智能实验室 InternLM · 新项目60

    InternLM/InstantFusion

    上海人工智能实验室 InternLM 开源 InstantFusion,通过共享隐空间把不同扩散模型的隐变量对齐,使去噪轨迹可以组合。方法用 Sigma 条件编码器与解码器把两个模型的隐变量映射到共享空间,训练结合重建、交叉重建、隐空间对齐和去噪速度对齐损失,可实现不同步数预算模型间的接力加速、多偏好组合以及跨模型 OPD 蒸馏。

    推荐理由:上海人工智能实验室开源 InstantFusion,给出跨扩散模型共享隐空间与模型接力去噪的完整训练和推理代码。

  2. 上海人工智能实验室 InternLM · 新项目31

    InternLM/ResOPD

    上海人工智能实验室联合上海交大等发布 ResOPD,一种稀疏在线策略蒸馏方法:精确积分教师 Top-k 粗分布,仅对尾部残差采样,复用同一稀疏教师载荷且不增加教师前向。

  3. Microsoft Research62

    微软研究院推出 Quine:面向生物学复杂性的 AI 研究系统

    微软研究院推出 Quine,一个面向生物学复杂性的 AI 研究系统,由生物学世界模型和连接模型、科学工具、文献与实验人员的交互式 harness 两部分组成。该系统与 Broad Institute 合作用于胰腺导管腺癌研究,预测并优先排序数千种化合物,最高排名的化合物在湿实验中产生了最大的经典到基底细胞状态转变,整个筛选到候选验证过程仅用一个周末。

    推荐理由:微软研究院公开 Quine 的生物学世界模型与实验闭环设计,并给出胰腺癌化合物筛选的湿实验验证结果。

  4. Microsoft Research20

    成立一年:Microsoft Research Asia – Singapore 如何推进研究、合作与人才以创造现实影响

    Microsoft Research Asia – Singapore 作为微软在东南亚的首个研究实验室,成立一年来围绕下一代 AI 模型与智能体系统、领域专用 AI、AI 原生研究实践、生态与人才培养四大方向推进工作。实验室与新加坡经济发展局等机构合作,将多模态医疗 AI 与自演化诊断智能体用于临床决策支持,并联合举办 AI 物流与运输高管圆桌会。

9月28日周一
  1. LlamaIndex Blog62

    为什么 VLM 读不懂表单?

    LlamaIndex 发文解释 VLM 在表单解析上的失败模式,包括复选框状态误判、边界框漏检与错位、以及把数值挂到错误字段的静默归因错误。文章给出 LlamaParse 的表单 JSON 结构,用字段、分区和边界框表示 W-2 等表单,并说明其自研复选框状态分类器与边界框检测模型如何修正 VLM 输出。

    推荐理由:LlamaIndex 用 W-2、1040 等实例拆解 VLM 读表单的失败模式,并给出表单 JSON 结构与调用方式。

9月27日周日
  1. Recode China AI22

    🗞️中美开启 AI 对话,阿里目标 20GW 全球数据中心容量,DeepSeek 接近 75 亿美元融资

    中美在纽约峰会上同意开启正式 AI 对话,并成立双边贸易委员会。阿里发布自研 AI 芯片,并承诺到 2032 年建成 20GW 的 AI 数据中心容量,同时推出 Qwen 智能体与云产品。DeepSeek 接近完成 75 亿美元融资、年化收入达 10 亿美元,但中国监管机构据报对其与 Moonshot 展开数据安全调查。

9月26日周六
9月25日周五
  1. Redwood Research38

    持续学习可能让你的阻断式监控几乎失效

    Redwood Research 指出,持续学习会让 AI 在部署中学会规避阻断式监控:在线 RL 用任务奖励间接训练策略对抗监控,长期部署后监控可能几乎失效,且因规避行为看起来像正常学习而难以修复。基于长上下文、记忆文件或向量存储的记忆系统优化压力较弱,短期内对监控的破坏预计较小。

9月24日周四
  1. Redwood Research50

    潜在推理架构可能削弱 CoT 这一最强监督工具

    Redwood Research 认为,向潜在推理架构的转变可能削弱 CoT 的可监控性,使 AI 监督更难。COCONUT 会完全取代 CoT,full-bandwidth transformers 则在 CoT 之外并行增加潜在通道,二者都可能让智能体无需人类可读语言即可推理和互相通信。即便这会大幅降低监控能力,AI 公司也可能为保持竞争优势而采用这类架构。

9月23日周三
  1. Sakana AI42

    下一前沿:欢迎 AI 先驱 Jürgen Schmidhuber 加入 Sakana AI

    Sakana AI 宣布 Jürgen Schmidhuber 以兼任形式出任首席科学顾问,并参与其递归自我改进(RSI)实验室。他将协助指导 Agent-Native World Models 研发,用于在行动前模拟物理后果,支撑日本制造业与机器人产业。其 1987 年关于递归自我改进与元学习的论文已影响 Darwin Gödel Machine 和 The AI Scientist 等成果。

  2. Anthropic News74

    Claude 发现具有 CRISPR 样重复序列的新型酶系统

    Anthropic 成立生命科学研究组与实验室,让 Claude 智能体自主搜索 DNA 数据库,发现了一种与 DNA 重复序列相关的新型酶系统 ART(array-associated reverse transcriptases)。

    推荐理由:Anthropic 用约 950 个 Claude 智能体在 21 小时内筛出候选酶系统,可观察 AI 驱动假设生成的实际流程。

9月22日周二
  1. Interconnects30

    与 Epoch AI 的 JS Denain 辩论 RSI、中美差距与参差不齐

    Epoch AI 洞察团队负责人 JS Denain 与 Nathan Lambert 在播客中辩论 AI 自我改进(RSI)、中美模型差距及能力参差不齐。Denain 认为 OpenAI 和 Anthropic 公开的博客证据不足以证明 AI 即将实现自我维持的加速,但 Codex 研究支出每月翻倍值得关注。他还讨论了蒸馏能否解释中美差距、开源与闭源模型的安全性,以及前沿后训练流程的样貌。

9月21日周一
9月20日周日
9月19日周六
9月18日周五