跳到正文

日期栏展示收录日期,历史补录归入原文日期。

7月21日周二
7月20日周一
7月16日周四
  1. LiveKit Blog62

    构建一个不会跑偏的语音智能体

    LiveKit 发布教程,介绍如何构建不会脱离既定脚本的语音智能体,并以酒店前台参考智能体为例贯穿全文。文章主张单一控制手段都不可靠,需在模型内外分层设防:结构化提示词划分身份与护栏、用确定性代码校验规则并限制工具调用步数、把工作拆成聚焦任务、在敏感操作前加验证与转人工,再叠加独立审核层和基于 LLM 评判的评测框架。作者强调提示词级防御对坚定攻击者较弱,真正的规则应在代码中强制执行。

    推荐理由:原文给出语音智能体防跑偏的分层做法,从提示词结构到代码校验与独立审核,可迁移到自己的 Agent 项目。

7月14日周二
  1. Modem Blog40

    Modem 现已接入 Stripe

    Modem 面向所有用户开放 Stripe 集成 beta 版,可在 Settings → Integrations → Stripe 中连接。接入后 Modem 能结合账单上下文回答用户所处套餐、是否试用或付费、发票与付款状态及未决争议等问题,并按 Stripe ARR 而非投票数对功能请求排序。

7月9日周四
  1. OpenAI Deployment Safety70

    GPT-5.6 系统卡

    OpenAI 发布 GPT-5.6 系统卡,将 Sol、Luna、Terra 三个模型在生物化学领域均按 High 能力处理,但未达到 Critical 阈值。

    推荐理由:GPT-5.6 系统卡披露了生物化学能力分级与部署模拟方法,可了解前沿模型安全评估的具体做法。

7月8日周三
  1. OpenAI Deployment Safety38

    GPT-Live System Card

    OpenAI 发布 GPT-Live System Card,披露 GPT-Live-1 与 GPT-Live-1 mini 的训练数据来源及安全评估结果。8 月 4 日因评估配置错误重跑后,修正数据显示 GPT-Live-1 非法行为得分从 0.97 降至 0.95,GPT-Live-1 mini 从 0.94 降至 0.91,均未低于安全发布标准。

7月7日周二
  1. Berkeley AI Research36

    智能免费了,然后呢?为智能体、由智能体、属于智能体的数据系统

    随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不到 $1、部分厂商低于 $0.10,基准测试显示推理价格每年下降 9x 至 900x(中位数约 50x),数据系统面临三大新挑战:为智能体设计的数据系统、由智能体运行的数据系统、以及由智能体合成的数据系统。

  2. Goodfire Research36

    用块稀疏特征提取器揭示视觉模型中的神经几何结构

    Goodfire Research 提出块稀疏特征提取器(BSF),将模型激活分解为多维子空间而非 SAE 式的单条直线,在视觉模型中发现了可解释的多维特征,并能实现细粒度引导。研究显示模型中大多数概念都是多维的,BSF 对底层流形的还原保真度显著高于标准 SAE,且块稀疏原则也能提升 MFA 与 SMixAE 的还原能力。

7月1日周三
  1. Berkeley AI Research15

    2026 BAIR Graduate Showcase

    加州大学伯克利分校 BAIR 实验室展示 2026 届博士毕业生,其研究覆盖机器人、大语言模型与推理、计算机视觉、生成建模、AI 安全、人机交互及 AI for science 等方向。毕业生去向包括高校教职、OpenAI、Mistral AI、Physical Intelligence、Amazon 等机构,部分人正在创业或寻找下一步机会。

6月26日周五
  1. OpenAI Deployment Safety62

    GPT-5.6 Preview 系统卡

    OpenAI 发布 GPT-5.6 Preview 系统卡,将 GPT-5.6 家族三个成员 Sol、Luna、Terra 在生物化学领域全部按 High 能力处理,但均未达到 Critical 阈值。

    推荐理由:系统卡披露了 GPT-5.6 家族在生物化学与网络安全能力上的分级评估和部署模拟方法,可供了解前沿模型安全评估流程。

6月23日周二
  1. Goodfire Research22

    在流形上漫步:故事随时间演变的神经几何

    Goodfire Research 用 Llama 3.1 8B 研究语言模型阅读短故事时如何逐句追踪情感动态,发现其情感表征在激活空间中呈弯曲流形,并与心理学的效价-唤醒模型及层级情感结构一致。模型每读完一句就按 0-10 分报告惊讶、厌恶、愤怒、快乐、悲伤、恐惧六种情绪,这些分数构成行为读出向量,可绘出故事的情感弧线;内部探针在不询问情感的情况下也能高精度还原这些表征。

6月19日周五
  1. OpenAI Alignment Research71

    通过强化学习训练广泛且持久有益的模型

    OpenAI 发现,在真实场景中对有益特质做强化学习,能在数十个衡量对齐与有益行为的基准上带来广泛提升,且这些收益可泛化到训练领域之外并在对抗压力下保持。研究构建了覆盖健康、教育、科学、法律、工程、经济等领域的合成对话数据集,用于测量和训练诚实、认知谦逊、元认知透明、可纠正性、普遍公平和关心人类福祉等特质。

    推荐理由:OpenAI 用真实场景 RL 训练有益特质,展示对齐能力可跨域泛化并在对抗压力下保持。

6月17日周三
  1. OpenAI Alignment Research62

    公开聊天数据能预测真实世界的 AI 失准吗?

    OpenAI 对齐研究团队验证了用公开数据集 WildChat 模拟模型部署,能否预测真实生产环境中的失准率。结果显示,对 GPT-5.1、5.2、5.4 等模型,WildChat 预测的生产失准率平均误差约 3 倍,95% 的预测落在真实率 1.04 个数量级内,且能捕捉模型特有的失准模式如 GPT-5.1 Thinking 的计算器作弊。

    推荐理由:OpenAI 用私有生产数据验证公开聊天数据集能否预测真实部署中的失准率,并指出智能体场景的预测边界。

6月15日周一
6月11日周四
6月4日周四
5月29日周五
  1. Zyphra Research28

    在 AWS Inferentia2 上实现推理通信重叠

    Zyphra Research 与 AWS 合作,在 AWS Neuron 推理栈中加入 Domino 风格的通信重叠,并在 Inferentia2 节点上对 Llama 3-8B 跨不同 NeuronCore 数量进行基准测试。结果显示聚合输出吞吐、首 token 时延和每输出 token 耗时均有改善,张量并行度越高收益越明显。

5月20日周三
  1. Modem Blog40

    使用自动化模板实现即时工作流

    Modem 面向所有用户上线 Automation Templates,可在 Automations 页面浏览并几键安装经过测试的现成智能体自动化。模板预填提示词、调度和输出目标,未修改提示词时会随官方改进自动更新,也可随时 fork 自定义。示例包括 GitHub PR 合并后向 Slack 推送客户跟进提醒、每日发现新对话参与者、每周一从已合并 PR 生成面向客户的更新日志。

5月11日周一
5月8日周五
  1. Berkeley AI Research34

    自适应并行推理:高效推理扩展的下一个范式

    伯克利 AI 研究团队发布综述,系统梳理并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解任务、并行多少线程以及如何协调。文章对比了自一致性、Best-of-N、Tree/Graph of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inference 等方法,指出多数方案仍由外部预设并行结构,未让模型按问题难度自适应选择并行度。

5月7日周四
  1. OpenAI Alignment Research60

    调查 RL 训练中意外对 CoT 评分带来的后果

    OpenAI 披露,其新检测系统发现 GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini 的部分 RL 训练曾意外对 CoT 评分,GPT-5.5 未受影响。

    推荐理由:OpenAI 公开了 CoT 评分事故的检测系统、影响范围与消融实验,可了解 CoT 可监控性在真实 RL 流程中的脆弱边界。

5月4日周一
5月1日周五
  1. OpenAI Alignment Research71

    无需同步人工监督的智能体操作自动审查

    OpenAI 发布 Auto-review 研究,用独立的 Codex 智能体在沙箱边界审批越界操作,替代用户逐次授权。内部部署中 Codex 会话需人工审批的频率比手动模式降低约 200 倍,Auto-review 对需审查操作批准约 99%,在提示注入合成评测中拒绝率 99.3%、过度主动场景 90.3%、MonitoringBench 困难集 96.1%。

    推荐理由:OpenAI 公开 Auto-review 的内部部署数据与安全评测,可了解用独立智能体替代人工审批的取舍。

4月24日周五
4月20日周一
  1. Berkeley AI Research38

    面向更长时域世界模型的基于梯度的规划

    伯克利 AI 研究提出基于梯度的规划器 GRASP,通过将轨迹提升为虚拟状态实现跨时间并行优化、在状态迭代中直接注入随机性以探索、并重塑梯度让动作获得清晰信号,同时避开高维视觉模型中脆弱的“状态-输入”梯度,使长时域规划更稳健。该工作与 Mike Rabbat、Aditi Krishnapriyan、Yann LeCun、Amir Bar 合作完成。

4月6日周一
3月13日周五
  1. Berkeley AI Research34

    大规模识别 LLM 中的交互作用

    伯克利 AI 研究提出 SPEX 与 ProxySPEX 算法,可在特征、数据和模型组件归因中大规模识别关键交互作用。SPEX 利用稀疏性与低阶性将交互搜索转化为稀疏恢复问题,ProxySPEX 进一步利用层次结构,以约少 10 倍的消融次数达到 SPEX 的性能。在情感分析任务上,SPEX 在上下文扩展至数千特征时仍保持高忠实度,优于 LIME、Banzhaf 等边际方法。

1月10日周六
  1. Berkeley AI Research24

    Information-Driven Design of Imaging Systems

    伯克利 AI 研究团队提出一种基于互信息的成像系统评估与优化框架,仅用含噪测量和噪声模型即可量化测量所含信息量,无需重建算法或任务专用解码器。该方法在彩色摄影、射电天文、无透镜成像和显微成像四个领域验证,信息估计能预测下游解码性能,优化后的设计在更少内存和算力下达到与端到端方法相当的水平,相关成果发表于 NeurIPS 2025。

8月9日周六
  1. Reflection Blog50

    构建前沿开放智能

    Reflection 宣布完成 20 亿美元融资,组建了曾参与 PaLM、Gemini、AlphaGo、AlphaCode、AlphaProof 及 ChatGPT 等项目的 AI 团队,并搭建起可训练前沿规模 MoE 模型的大规模 LLM 与强化学习平台。该平台已在自主编程领域验证有效,下一步将把方法拓展到通用智能体推理,并从头结合大规模预训练与先进强化学习来构建开放模型。