#大佬观点

Q&A：AI、你的大脑与社会之间的“碰撞”

MIT 斯隆管理学院教授 Eric So 在新书《The Collision: What AI Does to Us》中指出，过度依赖 AI 会导致“认知萎缩”，使人丧失并难以保留关键思考能力。他援引 Anthropic 一项研究称，大学生约一半的提问是寻求简单答案的低投入查询，并提出“AI 引力”概念，认为生物本能、同侪压力与 AI 使用难以检测共同把人拉向 AI。

原文发布 10月14日 15:00

评估者如何调查 AI 研发自动化带来的加速证据

METR 提出一套评估框架，用于调查 AI 研发自动化是否导致能力进步显著加速。评估需分析未发布模型的能力、关键研发投入（人力、算力、数据、算法）的增长，并与研究人员直接访谈。所需数据包括内部模型基准分数、预训练损失等中间指标、算法进步估计及 AI 贡献证据，可在开发者硬件上分析以保障安全。

原文发布 10月14日 15:00

METR 与 AI 公司合作的方式

METR 发布博文说明其与 AI 公司合作开展评估、风险报告审查等工作的原则，目标是向公众提供关于 AI 失控风险的准确、及时且独立的证据。METR 承诺公开披露合作范围与时长、访问限制、信息删减及所受约束，并确保财务与运营独立、披露利益冲突。该做法源于其今年 5 月试点 Frontier Risk Report 中与 Anthropic、Google、Meta 和 OpenAI 的合作经验。

原文发布 10月14日 02:41

人人都在用 AI 智能体，却几乎没人能证明 ROI，原因何在

Databricks 的 Amber Roberts 指出，企业 AI 智能体采用速度远超 ROI 证明，因为采购方与日常使用者往往不是同一批人，目前多数组织仍处于试用与铺开阶段。她认为“更快”是衡量智能体生产力的错误指标，生产力应看一个人借助一组助手能完成多少工作，且效率提升只有在质量不下降时才有意义。智能体要真正有用，关键在于理解业务上下文，而非单纯的任务执行速度。

原文发布 10月13日 08:00

Uber 首席信息安全官谈为 AI 构建内部威胁计划

Uber 首席信息安全官 Philip Martin 提出，AI 智能体需要一套企业已为员工建立的内部威胁计划。Uber 团队在 Claude Code 出现前就用 Claude 做威胁建模，如今借助 Claude Fable 从代码、设计文档和工单历史中自动收集上下文。

你的软件工厂有多开放？

Tessl Blog 提出评估 AI 软件工厂开放性的两个问题：能否把企业上下文带进去，能否把工厂学到的东西带出来。文章指出，工厂在运行中会积累架构决策、评审纠正、事故约束和评估用例等知识，仅支持多模型、接入外部编码智能体或本地部署并不足以让这些知识迁移。开放工厂应让上下文与学习成果可检查、可提取、可复用，并保留其来源、适用范围和评审状态。

Q&A：在公民对话中，为我们的言论——以及 AI 的言论——建立问责机制

MIT 媒体艺术与科学教授、MIT 建设性传播中心（CCC）主任 Deb Roy 在《原子科学家公报》发表题为“Who stands behind the words?

迈向前沿 AI 开发的技术最佳实践

英国 AI Security Institute（AISI）提出前沿 AI 开发的新技术最佳实践方向，指出风险正更早出现在训练、内部部署和评估阶段，而能力基准很快饱和、对齐与控制评估方法仍不成熟。AISI 称已与业界独立评估超过 55 个模型，并发布开源评估工具 Inspect。该机构表示不寻求强制要求，而是为行业技术标准与最佳实践提供专业支持。

Sightlines 第 3 期：提升团队使用 AI 的标准

Figma 发布 Sightlines 第 3 期，聚焦如何弥合 AI 承诺与实际落地效果之间的差距。文章提出领导者应要求团队用 AI 探索更多方向、在定稿前处理边缘情况并打磨细节，而非只追求更快交付。OpenAI 产品设计负责人 Ian Silber 与 Figma AI 产品设计总监 Gui Seiz 强调，速度不是目标，管理者应为团队创造尝试和犯错的时间。

3 Questions: What is the best path forward for AI in academia?

MIT统计与数据科学中心主任Sasha Rakhlin发文探讨AI如何改变学术界，聚焦数学、统计、机器学习与工程领域的研究生教育。他指出，验证速度与可靠性决定AI在某一学科的进展快慢，形式化证明可自动检验、程序可运行测试，使模型能生成候选方案并从结果中学习，形成加速循环。他建议院系重新审视学术贡献认定标准，重视提问、复现、负结果与数据集共享，并让学生学会提出问题、审查模型输出与复现结果。

Agent Skills 是供应链组件

在 AI Native DevCon London 的演讲中，Tessl 将 AI Native DevCon 演讲转化为可供智能体使用的 skill。研究扫描了约 4000 个公开 skill 生态中的技能，发现可疑下载、凭证风险、类恶意软件行为、滥用和安全漏洞等问题。核心风险模型是私有上下文、不可信内容与外部通信三者叠加，skill 因此应被视为供应链组件。

智能体需要一片共享的知识公地

Mozilla.ai 在 AI Native DevCon London 上介绍了 cq 项目，主张把智能体在任务中获得的经验沉淀为可共享的基础设施。cq 的基本单位是知识单元，记录领域、洞见与采取的动作，默认使用本地 SQLite 数据库，数据无需离开本机，之后可接入远程服务器形成团队级知识库。

Skills Everywhere 需要一条上下文流水线

Tessl 将作者在 AI Native DevCon 的演讲“Skills Everywhere”做成可供智能体使用的 skill，核心主张是企业不必总靠更强模型，而要靠更好的上下文工程。

AI Agent 评估需要可执行规格

Tessl 提出用"可执行规格"评估 AI 编程智能体：把产品意图转成可验证的检查项，由规划智能体拆解需求、多个验证智能体并行逐条核验预览环境，再由编排器汇总成报告。其首版单智能体方案因上下文耗尽和一致性下降而受限，且仅给规格会让智能体臆造需求，需同时结合规格与代码，并以 base branch 而非仅 diff 作为对照。

仓库自动化需要 Continuous AI

GitHub Next 提出在 CI/CD 之外增加第三根支柱 Continuous AI，即由仓库事件或定时触发的自动化 AI 工作流，用于持续文档、代码改进、triage 与故障分析。

揭穿关于数据中心的最大迷思

Meta 针对数据中心的三大常见误解作出回应：其 AI 优化数据中心采用闭路液冷系统，水在密封回路中循环使用，部分设施年耗水量低于一座美国普通高尔夫球场；Meta 承担全部能源费用。

利用 AI 缓解数据中心日益严重的环境威胁

MIT 副教授 Christina Delimitrou 用机器学习让大型数据中心更高效、安全和可靠，通过重新设计过时的云计算系统、管理共享硬件资源并精简服务器架构，从现有硬件中挖掘更多算力。她发现多数大型计算系统利用率仅约 15%，并开发了用深度学习提前预测和阻止 Web 应用故障的工具 Seer。她还用 AI 帮助程序员定位并修复云应用问题，减少停机与算力浪费。

Discovering the value of humanistic inquiry

MIT 的 Concourse 项目每年招收 50 名大一学生，在数学与科学课程之外提供人文通识教育，研读柏拉图、荷马、亚里士多德等经典著作。该项目自 1970 年创立，被描述为“MIT 内的迷你文理学院”，通过周五午餐研讨和辩论培养学生的判断力。政治学 Ford 讲席教授 Lily Tsai 近日接任项目主任，接替任职 14 年的 Anne McCants。

AI 会犯哪些错，失败又能教给我们什么

微软研究院合伙人研究经理 Jennifer Neville 在 Microsoft Research Podcast 中与首席应用科学家 Chad Atalla 对谈，讨论评估如何推动当前 AI 系统突破性能边界以满足用户需求，以及模型在传统基准之外测试时出现的“意外失败”。

论集群的本质

Prime Intellect 博客文章《论集群的本质》讨论推理扩展受限于上下文窗口的问题，指出压缩、磁盘卸载、子智能体和持久智能体都是构建上下文的不同方式。

OCR is Dead. Long Live Agentic OCR.

LlamaIndex 提出 Agentic OCR，即让 LLM 工具调用循环自主决定文档读取方式、调用专用模型并依据结果迭代，而非传统单步 OCR。该系统需满足三点：解析策略随文档自适应、纠错须有证据支撑、执行须有明确时限与目标。LlamaParse 已在 Agentic 和 Agentic Plus 档位提供这些能力。

用计算工具应对社会最复杂的挑战

MIT 土木与环境工程系及 IDSS 副教授 Cathy Wu 的研究聚焦用机器学习与强化学习（RL）改进交通等复杂系统。她与团队发现 RL 对问题高度敏感，但通过筛选可训练良好的 10% 问题，其算法将训练效率提升至多 30 倍，原本需 100 个训练模型的任务或只需 3 个。其近期研究显示，智能控制车速的生态驾驶措施可将车辆排放降低 11% 至 22%。

能力研究同样在拓展安全-有用性帕累托前沿

Redwood Research 的文章指出，把安全研究定义为"在不显著增加成本或不降低有用性的前提下让 AI 部署更安全"会出问题：按此定义，几乎所有能力研究都算安全研究，例如推理性能优化让更弱更安全的模型被更广泛使用，同样拓展了帕累托前沿。

如今打造优秀产品需要具备什么

Figma 提出 AI 时代打造优秀产品需在速度、方向和差异化三方面发力：用最快媒介完成每类改动，在 Figma Make 中通过属性面板直接调整间距、排版、布局和尺寸，或把预览复制为可编辑图层到 Figma Design，并接入本地代码库预览改动后交工程评审。团队还可把可复用流程做成 skill 或 plugin，用 / 命令触发，如按无障碍规范检查设计。

当聊天框是错误的 UI

GitHub 的 Burke Holland 提出，聊天框只是 LLM 的通用入口，当用户明确知道要做什么时，聊天往往是错误的 UI。他介绍 GitHub Copilot app 中的 canvas，即运行在应用内、无浏览器外壳的全栈小应用，可与 agent 双向通信，并能在本地执行代码、调用第三方 API。

潜在推理架构可能削弱 CoT 这一最强监督工具

Redwood Research 认为，向潜在推理架构的转变可能削弱 CoT 的可监控性，使 AI 监督更难。COCONUT 会完全取代 CoT，full-bandwidth transformers 则在 CoT 之外并行增加潜在通道，二者都可能让智能体无需人类可读语言即可推理和互相通信。即便这会大幅降低监控能力，AI 公司也可能为保持竞争优势而采用这类架构。

智能免费了，然后呢？为智能体、由智能体、属于智能体的数据系统

随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不到 $1、部分厂商低于 $0.10，基准测试显示推理价格每年下降 9x 至 900x（中位数约 50x），数据系统面临三大新挑战：为智能体设计的数据系统、由智能体运行的数据系统、以及由智能体合成的数据系统。