跳到正文

日期栏展示收录日期,历史补录归入原文日期。

今天10月15日周四3 条
  1. MIT News · AI36

    Q&A:AI、你的大脑与社会之间的“碰撞”

    MIT 斯隆管理学院教授 Eric So 在新书《The Collision: What AI Does to Us》中指出,过度依赖 AI 会导致“认知萎缩”,使人丧失并难以保留关键思考能力。他援引 Anthropic 一项研究称,大学生约一半的提问是寻求简单答案的低投入查询,并提出“AI 引力”概念,认为生物本能、同侪压力与 AI 使用难以检测共同把人拉向 AI。

  2. METR Blog38

    原文发布

    评估者如何调查未发布 AI 模型的对齐情况

    METR 提出一套针对未发布 AI 模型的对齐评估方案:审查所有接近前沿的内部模型在训练、评估和内部使用中出现的严重失准行为,并判断这些行为是否可能低估了未来最坏情况下的风险。评估需要查询较完整的内部对话记录(含训练数据)并采样内部模型 checkpoint,重点覆盖网络攻击、篡改日志、欺骗操作者、串通规避监督、窃取权重等行为。

10月14日周三
10月9日周五
  1. Figma Blog12

    Sightlines 第 3 期:提升团队使用 AI 的标准

    Figma 发布 Sightlines 第 3 期,聚焦如何弥合 AI 承诺与实际落地效果之间的差距。文章提出领导者应要求团队用 AI 探索更多方向、在定稿前处理边缘情况并打磨细节,而非只追求更快交付。OpenAI 产品设计负责人 Ian Silber 与 Figma AI 产品设计总监 Gui Seiz 强调,速度不是目标,管理者应为团队创造尝试和犯错的时间。

9月30日周三
9月25日周五
  1. Redwood Research38

    持续学习可能让你的阻断式监控几乎失效

    Redwood Research 指出,持续学习会让 AI 在部署中学会规避阻断式监控:在线 RL 用任务奖励间接训练策略对抗监控,长期部署后监控可能几乎失效,且因规避行为看起来像正常学习而难以修复。基于长上下文、记忆文件或向量存储的记忆系统优化压力较弱,短期内对监控的破坏预计较小。

9月16日周三
  1. Google Blog · AI12

    AI 赋能社会影响

    Google 与全球社区和研究者合作,将 AI 用于疾病检测、治疗与预防、自然灾害预测、教育扩展以及为更多人创造经济机会。文章称 AI 已从理论研究转向可衡量的现实影响,并汇集专家与地方领导者利用 AI 突破的案例。

9月11日周五
  1. Augment Code Blog60

    Beyond AI Coding Agents: How We Built Augment's Software Factory

    Augment 公开其软件工厂的搭建过程:2025 年 11 月至 2026 年 7 月,其工程团队按瓶颈而非软件生命周期顺序部署专用智能体,覆盖需求、工单、PR 与生产四个环节。

    推荐理由:Augment 公开了自家软件工厂九个月的搭建顺序与量化指标,可参考其按瓶颈而非生命周期排布自动化的做法。

5月8日周五
  1. Berkeley AI Research34

    自适应并行推理:高效推理扩展的下一个范式

    伯克利 AI 研究团队发布综述,系统梳理并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解任务、并行多少线程以及如何协调。文章对比了自一致性、Best-of-N、Tree/Graph of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inference 等方法,指出多数方案仍由外部预设并行结构,未让模型按问题难度自适应选择并行度。