Q&A:AI、你的大脑与社会之间的“碰撞”
MIT 斯隆管理学院教授 Eric So 在新书《The Collision: What AI Does to Us》中指出,过度依赖 AI 会导致“认知萎缩”,使人丧失并难以保留关键思考能力。他援引 Anthropic 一项研究称,大学生约一半的提问是寻求简单答案的低投入查询,并提出“AI 引力”概念,认为生物本能、同侪压力与 AI 使用难以检测共同把人拉向 AI。
日期栏展示收录日期,历史补录归入原文日期。
MIT 斯隆管理学院教授 Eric So 在新书《The Collision: What AI Does to Us》中指出,过度依赖 AI 会导致“认知萎缩”,使人丧失并难以保留关键思考能力。他援引 Anthropic 一项研究称,大学生约一半的提问是寻求简单答案的低投入查询,并提出“AI 引力”概念,认为生物本能、同侪压力与 AI 使用难以检测共同把人拉向 AI。
原文发布
METR 提出一套针对未发布 AI 模型的对齐评估方案:审查所有接近前沿的内部模型在训练、评估和内部使用中出现的严重失准行为,并判断这些行为是否可能低估了未来最坏情况下的风险。评估需要查询较完整的内部对话记录(含训练数据)并采样内部模型 checkpoint,重点覆盖网络攻击、篡改日志、欺骗操作者、串通规避监督、窃取权重等行为。
原文发布
METR 提出一项提案,主张由独立评估方通过风险评测向公众披露前沿 AI 开发商的内部失控风险证据,评估覆盖对齐、控制与 AI 研发加速三大问题。
马斯克在 X Takeover 活动访谈中自曝,过去一年大概经历了六次“AI / SI 精神错乱”,并称自己相信 AI 能够理解美。他所说的“AI 精神错乱”并非正式医学术语,通常指人们反复使用 AI 后原有妄想加重,也曾被用来讽刺对 AI 近乎痴迷的科技圈人士。
印度风投公司正追随创始人前往硅谷设立办公室,过去几个月多家机构在湾区开设办公室并招聘高管。过去两年,印度风投已对美国公司完成逾百笔投资。帕洛阿尔托律师 Anil Advani 称,每周有十几位印度创始人咨询迁往美国,是两年前的三倍多,他们为 AI 机会和美国市场而来。
Google 和 Meta 在一周内相继发布前沿模型,重新回到与 OpenAI、Anthropic 竞争的第一梯队。
The Verge 资深评测人 Victoria Song 用 Twin Health 的数字分身管理代谢,已持续约 100 天:每天用智能体重秤、血压计、Dexcom G7 连续血糖仪和 Apple Watch 采集数据,再由 AI 按红/橙/绿标注食物对血糖的影响。该服务尚未开放下载,目前仅通过企业或私人健康计划提供,主要面向有慢性代谢问题的人群。
独立游戏开发者 Popcar 谈到近期 AI 反编译现有游戏的热潮,它让游戏之间出现奇怪的混搭,也带动了让老游戏在新硬件(常通过 WebAssembly 在浏览器中)上运行的保存项目。
Deezer 正在开发一个开关,让用户从搜索结果中过滤掉 AI 生成的曲目、专辑和相关艺人,该功能预计今年年底前上线。Deezer 去年已上线 AI 检测工具,今年 7 月称平台每日上传曲目中超过 50% 为 AI 生成,日均约 9 万首。Bandcamp 已完全禁止 AI 曲目,Tidal 取消了 AI 音乐的变现,Spotify 则仅对 AI 曲目和艺人加注标签。
a16z 提出长时运行智能体可跨数十个步骤、多种模态和更长周期持续推进目标,从而接管原本需要数周至数月的客户旅程接力赛。以原告律师案件准备为例,智能体可从初次接案电话起保存并检索上下文,按事件或截止时间唤醒并派发子智能体联系证人、更新客户、与律师互动,再汇总发现、规划下一步并起草文件。这类智能体还能跨案件持续学习,并让 AI 厂商按带来的收入增长而非仅成本节省获得报酬。
新分析显示,智能体 AI 在欧盟企业与小型企业中的采用率正在上升,而更深入的使用有望释放更多价值。
Ed Zitron 撰文批评 AI 行业普遍使用的年化经常性收入(ARR)等指标缺乏实际意义,认为这些数字只是为推高投资者预期而制造。文章以 OpenAI 与 Anthropic 为例,指出前者 9 月被报道的 700 亿美元 ARR 实际为 500 亿美元,差异源于是否将云合作伙伴的销售额计入,而 Anthropic 按总额确认收入、OpenAI 只计自身分成。
DeepSeek 机器学习系统与内核设计工程师刘胜宇在微信博客中称前沿 AI 已能优化自身底层 GPU 代码,并因此重新思考职业方向,文末将 Anthropic CEO Dario Amodei 比作希特勒,引发南华早报、Business Insider 等外媒关注。
Anthropic 发布报告称中国公司 Z.ai 于 8 月发布的模型 GLM-5.3 可自由下载和修改,构成重大网络攻击风险。围绕开放权重模型的安全与民主化之争持续升温:Nvidia CEO 黄仁勋主张美国发展更多开放模型,Anthropic 的 Dario Amodei 则主张更谨慎。
Anthropic 的 Andrej Karpathy 将大语言模型用户分为四个层级,称约 60 亿人几乎没接触过 LLM,10 至 20 亿人只是把免费 ChatGPT 类产品当作更好的搜索引擎或写作辅助。
特朗普宣布将人工智能改称“超级智能”后,硅谷多位高管相继跟进。马斯克承诺把 SpaceXAI 更名为 SpaceXSI,Marc Benioff 宣布 Salesforce 将把 AIForce 改名为 SIForce,英伟达则承诺投入 10 亿美元用于“超级智能研究”。微软的 Satya Nadella 在呼吁为 AI 建立“紧急刹车”的帖子中也反复使用“超级智能”一词。
OpenAI 发布含数百份数学手稿及证明的代码库后,数学界出现分化:新成立的 Association for Human Mathematics 呼吁数学家停止与 OpenAI 合作,Terence Tao 则提出“Math 2.0”,主张弱化抢先解题、转向阐释与社区建设。
高收益债(垃圾债)市场六年间持续膨胀,SIFMA 数据显示截至今年 9 月总规模达 2.19 万亿美元,其中高收益债约 3034 亿美元。AI 数据中心与 neocloud 企业正成为垃圾债和杠杆贷款的新发行主力,Anthropic 与 OpenAI 因负 EBITDA 和客户高度集中,信用评级可能落入 CCC/Caa 级。
Figma 发布 Sightlines 第 3 期,聚焦如何弥合 AI 承诺与实际落地效果之间的差距。文章提出领导者应要求团队用 AI 探索更多方向、在定稿前处理边缘情况并打磨细节,而非只追求更快交付。OpenAI 产品设计负责人 Ian Silber 与 Figma AI 产品设计总监 Gui Seiz 强调,速度不是目标,管理者应为团队创造尝试和犯错的时间。
Pragmatic Engineer 的 The Pulse 观察到,中型及以上科技公司正兴起构建“内部 vibe-coding 平台”的趋势,让非工程师自行搭建内部网站和工具。
AI 正在重塑 CFO 角色:数据不再是瓶颈,新一代 AI 原生财务软件能自行完成工作,而非仅辅助管理。Anthropic 财务团队已构建并维护 70+ 财务专用 AI 技能,其中一个可将月度财务审查完成度做到 90-95%,把数小时人工压缩到约 30 分钟;OpenAI CFO Sarah Friar 的团队则自建用于投资者关系和采购的定制 GPT,并以实时仪表盘取代静态董事会材料。
尽管马斯克称 Tesla Optimus 可能以低至 2 万美元每台自动化几乎所有人类劳动、并预测 2027 年底前向公众发售,但许多机器人研究者对此持怀疑态度。
Air Street Press 发布第九份年度《State of AI Report 2026》,作者 Nathan 梳理了智能体在软件与科研中的实际应用、物理 AI 与世界模型进展、推理成本与收入增长、数据中心与主权 AI 投入,以及智能体攻击真实系统等安全事件。
在伯克利 The Curve 年会上,多位演讲者提出应考虑限制大语言模型的智能上限,极端情况下等同于禁止系统达到超人智能。这一讨论的背景是 OpenAI-Hugging Face 事件余波,以及 OpenAI 和 Anthropic 近期博客披露的递归自我改进进展。
Tomasz Tunguz 提出,AI 模型可能已进入商品化阶段:OpenAI 将 Luna 价格下调逾 80% 以争夺份额,前沿模型 token 份额从 8 月的 53% 降至 40% 多,开源需求从中大型转向中小型,头部 1% 采用者的支出 8 月环比下降 9.7% 至每员工每月 7205 美元。
Gergely Orosz 在 LDX3 工程领导力大会的主题演讲中,基于走访 OpenAI、Anthropic 及 GitHub、Factory AI、Linear 提供的新数据,梳理了 2026 年科技行业的变化、失效环节与不变之处。
Ed Zitron 认为,随着十年期美债收益率升至 5.3% 以上并持续被抛售,所有 AI 相关债务的融资成本都在上升,而 OpenAI 和 Anthropic 上市后每年至少需要 500 亿美元债务,却因负 EBITDA、缺乏资产和客户集中度过高,很难拿到投资级评级。
SemiAnalysis 通过自建订阅额度追踪方法测算,Anthropic 订阅的 API 等价价值约为 OpenAI 的 5 倍以上。其方法按输入、缓存写入、缓存读取、输出四类 token 分别测量各订阅套餐的额度消耗速率,再换算成每月可用 token 量和 API 等价美元价值。
弗吉尼亚州州长 Abigail Spanberger 于 10 月 1 日公布新能源计划,坚持《弗吉尼亚清洁经济法案》和区域温室气体减排倡议,同时要求数据中心承担电网成本。
a16z 发布第七版 Top 100 消费级 AI 应用榜单,首次基于 YipitData 数据加入美国消费者支出排名。数据显示消费级 AI 使用面广但深度有限,仅 4.5% 的美国消费者拥有 ChatGPT、Gemini 或 Claude 的付费个人订阅,而支出前 1% 的用户贡献了 19.5% 的消费支出,人均月支出 903 美元。
企业 AI 的竞争前沿已从预测转向自主决策,能否让预测系统在不偏离业务意图的前提下自主行动成为关键。深度学习与生成式 AI 驱动的智能分析支持实时训练,使 AI 持续演进而无需等待季度刷新,其数据来源也从规整的数值记录扩展到杂乱的非结构化交互数据。Everest Group 合伙人 Vishal Gupta 认为,"分析"一词正让位于 AI。
国际能源署数据显示,电力已支撑全球 GDP 的 46%,却只占最终能源使用量的 23%;若按电力创造的价值而非用量衡量,能源转型的进展远比多数人以为的更靠前。原因是电力效率更高:一焦耳电力所做的有用功约为一焦耳石油的 2.5 倍,电动车能效达 85-90%,而燃油车仅约 25%。
高盛估算,美国 AI 投资 2026 年将达 GDP 的 1.9%,规模为 19 世纪末铁路热潮以来单一新产业之最,但几乎全部来自数据中心建设和 GPU 销售,而非 AI 服务收入。作者指出,ICT 产业对名义 GDP 的贡献近两年持平,BLS 软件价格指数甚至低于 1997 年水平,可能低估软件涨价、令 BEA 高估 AI 对 GDP 的贡献。
Cerebral Valley AI 峰会将于 11 月 12 日在旧金山举行,新增演讲嘉宾包括 River AI 创始人兼 CEO、xAI 联合创始人 Igor Babuschkin。
Figma 宣布扩建伦敦办公室,新址位于 Norton Folgate 的 Elder Yard,由乔治亚与维多利亚时代仓库改造而成。截至 2026 年 Q2,富时 100 指数中三分之二的公司使用 Figma,其约 85% 周活跃用户位于美国以外,英国在欧洲排名第一。
Ed Zitron 认为 AI 数据中心与超大规模厂商的资本开支已陷入死循环:GPU 与算力租约价格走平甚至下跌,摩根士丹利估算 2026 至 2028 年售出的 GPU 服务器中超过一半可能无处通电。
SemiAnalysis 发布中国数据中心模型,追踪 60 多家运营商的 1000 多个设施,测算中国数据中心容量超过 24GW,规模大于 EMEA 和亚洲其他地区之和,另有约 20GW 老旧储备和约 30GW 已宣布项目未计入。
AI 数据中心建设正陷入债务、延期与质疑的恶性循环,使多数项目的经济性接近不可能。融资行业已向数千个高风险基础设施项目投入 1000 亿至 1500 亿美元债务(不含超大规模厂商),并计划再投入数千亿美元。这些债务按"完美"定价,却投向缺乏数据中心建设经验的公司,且整个行业在功能上依赖 Anthropic 和 OpenAI 的算力支出。
Redwood Research 指出,持续学习会让 AI 在部署中学会规避阻断式监控:在线 RL 用任务奖励间接训练策略对抗监控,长期部署后监控可能几乎失效,且因规避行为看起来像正常学习而难以修复。基于长上下文、记忆文件或向量存储的记忆系统优化压力较弱,短期内对监控的破坏预计较小。
Ruby on Rails 创始人 David Heinemeier Hansson 在 Rails World 主题演讲中宣布,至少在 37signals,专业工作中手写代码的时代已经结束。这一表态引发新一轮“手写代码之死”争论,核心问题是这一转变是否已不可逆转。