为什么我仍未认同真正的 RSI
Interconnects 作者对"真正的递归自我改进(RSI)"持保留态度,认为当前 AI 安全担忧更多来自规模化智能体已能实际干活,而非尚未公开的突破性进展。
日期栏展示收录日期,历史补录归入原文日期。
Interconnects 作者对"真正的递归自我改进(RSI)"持保留态度,认为当前 AI 安全担忧更多来自规模化智能体已能实际干活,而非尚未公开的突破性进展。
Ed Zitron 在《AI 债务仇恨者指南》第一部分中梳理支撑 AI 基建的债务体系,指出 Oracle、Google、Amazon 已现金流为负,Meta 紧随其后。
前 Anthropic AI 研究员 Jacob Coxon 接受《华尔街日报》专访,宣称因担心实验室无法控制 AI 而"退出 AI 行业"(实际并未退出),其警告围绕"递归自我改进"这一仍属理论的概念。
Anthropic CEO Dario Amodei 9 月 12 日发文呼吁为不受约束的 AI 进展踩刹车,主张引入第三方评估机构、建立先进模型的国家监管框架,并严格控制对华 AI 芯片出口。
Nathan Lambert 认为,Jacob Coxon 的辞职之所以引发远超预期的传播,是因为今年 AI 风险议题的土壤已经变干,而恐惧是最容易被传播的叙事。
Interconnects 文章指出,AI 目前对普通人日常生活的影响仍微乎其微,家庭、饮食、交通和娱乐等核心领域几乎没有直接改变。作者认为当前 AI 主要服务于精英阶层,知识工作约占美国经济的一半,这种只带动半个社会的失衡可能引发政治反弹,甚至让 AI 重蹈美国核电的覆辙。
一家新实验室认为 AI 文风的千篇一律是训练问题,并据此打造了一款写作专用模型,实测其文字确实更不可预测,但未必更好。作者以 Vibe Check 形式试用后指出,主流实验室在写作上的进展似乎已经停滞。
微软 Copilot Studio 被认为是构建 AI 智能体的最佳工具之一,但用户需先购买 Microsoft 365 Business Standard(282 美元/年)等订阅、经多步管理后台配置才能使用,且 skills 等功能受许可证限制未默认开启。
Google DeepMind 研究副总裁 Raia Hadsell 在 RAAIS 演讲中提出,大模型在足够数据上能学到复杂系统的底层规律,语言只是其中一种,天气、生物、合成世界和物理运动同样如此,而学界过度聚焦语言。
随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不到 $1、部分厂商低于 $0.10,基准测试显示推理价格每年下降 9x 至 900x(中位数约 50x),数据系统面临三大新挑战:为智能体设计的数据系统、由智能体运行的数据系统、以及由智能体合成的数据系统。
Compound Engineering 方法论从四步扩展为八步:Ideate → brainstorm → plan → work → review → polish → compound → repeat,新增前置的 Ideate、brainstorm 与收尾的 polish。
资深记者兼传播专家指出,AI 尚无法复制优秀人类提问者从访谈中挖掘隐性知识的能力,这种"苏格拉底式服务"仍是人类工作。文中引用 Michael Polanyi 的隐性知识概念与 Ikujiro Nonaka 1991 年文章中松下电器派软件开发者向酒店面包师学徒、最终改良揉面技术的案例。Every 内部已用 AI 智能体在撰写 OKR 时向员工提问。