英伟达黄仁勋盛赞 OpenClaw 助力机器人技术发展，但权限管控必须得有
英伟达 CEO 黄仁勋在伦敦 Build a Claw 活动上称 OpenClaw 是"首个真正可信的智能体运行框架"，将其比作外骨骼的大语言模型，认为它能为 LLM 提供实时运行框架并推动机器人领域发展。他同时强调权限管控必不可少，并提到英伟达为此开发了 OpenShell 隔离系统，主张对自主系统仅授予最低权限并持续监控。
#安全/对齐
日期栏展示收录日期，历史补录归入原文日期。
IT之家 · 人工智能AI 评分5050 The Verge · AIAI 评分7474 你的秘密在这款可爱机器人玩具面前并不安全——它们存在中国服务器上，随时可能被黑
The Verge 记者 Sean Hollister 购买 Energize Lab 的 Eiliko 机器人玩具后，安全研究者 Sammy Azdoufal 发现其服务端完全未设防，可读取约 1300 万条对话、访问全球约 6.8 万台机器人，其中美国市场超过 3.1 万个档案属于儿童。
IT之家 · 人工智能AI 评分4040 Anthropic 在新加坡设立办事处，与新加坡政府达成合作
Anthropic 宣布在新加坡设立办事处，并与新加坡数字发展及新闻部签署谅解备忘录，合作方包括新加坡政府科技局、Grab 和星展银行。双方将共同评估 AI 安全、网络安全与大模型安全，推动政府部门和私营部门负责任使用 AI。Anthropic《经济指数》显示，按人口规模计算的 Claude.ai 使用排名中，新加坡在 121 个国家/地区中位列第二，实际使用水平接近人口规模预测值的 6 倍。
IT之家 · 人工智能AI 评分6060 美国银行聘请 1000 名外包人员，修复 Mythos 等 AI 模型发现的软件漏洞
美国银行首席执行官布莱恩·莫伊尼汉透露，该行二季度聘用 1000 名外包人员，协助修复 Anthropic Mythos 等前沿 AI 模型发现的软件漏洞，与 3000 名内部员工协作。该行三季度在软件漏洞修复和反洗钱合规上的支出超过数亿美元，同时约 130 个内部 AI 项目带来的成本节约预计从今年 3 亿美元增至明年 7 亿美元。
IT之家 · 人工智能AI 评分5858 全球金融监管标准制定机构呼吁：银行、企业要加强对 AI 智能体的人工监管
金融稳定理事会发布 AI 风险管理最终版指引，要求银行及其他企业加强对 AI 智能体的人工监督，并规定高风险 AI 应用在何种情况下须先获得人工批准才能继续执行任务。指引删除了原先将 AI 视为虚拟员工的建议，转而强调 AI 智能体不像人类那样思考，可能以意想不到的方式理解预设目标。理事会称，考虑到越来越多金融机构有意采用 AI 智能体及其特有风险，最终版比 6 月草案进一步强化了相关监管建议。
IT之家 · 人工智能AI 评分3636 比尔 · 盖茨认为 AI 比核武器更危险、比核能更有用，与 PC、互联网等创新都不同
比尔 · 盖茨称 AI 比核武器更危险、可能比核能更有益，且与 PC、互联网等以往创新不同，更像一次进化事件，把它当作"下一台个人电脑"会让人完全低估它。他承诺未来两年投入十亿美元，推动 AI 在健康、教育和农业领域惠及最需要的人，并预测 2027 年将出现众多 AI 驱动的网络安全威胁。
IT之家 · 人工智能AI 评分6060 瑞典一综艺节目整季制作文件疑被 AI 智能体删除，团队只能从头重剪
瑞典《晚报》披露，瑞典真人竞技节目《The Challenge Sverige》即将播出的整季剪辑文件疑被 AI 智能体删除，且无法恢复，制作公司 Mastiff 只能安排团队从头剪辑。
IT之家 · 人工智能AI 评分2222 Anthropic 国际业务负责人普兰森：开放式 AI 模型比我们的模型风险更高
Anthropic 国际业务负责人普兰森称，开放权重 AI 模型发生网络安全事件或造成其他危害的风险高于 Anthropic 自家模型，并强调“对开源模型的安全问题必须格外小心”。他同时表示，Anthropic 最新推出的 Claude Opus 5.5 比早期版本便宜 40%，企业应持续投资最先进模型。
IT之家 · 人工智能AI 评分6262 消息称 OpenAI 洽谈收购开源安全厂商 Trail of Bits，为应对 AI 风险铺路
据 The Information 报道，OpenAI 正初步洽谈收购纽约安全研究公司 Trail of Bits，谈判仍在进行、尚未达成最终协议，双方均拒绝证实。
METR BlogAI 评分2222 原文发布
评估者如何调查 AI 研发自动化带来的加速证据
METR 提出一套评估框架，用于调查 AI 研发自动化是否导致能力进步显著加速。评估需分析未发布模型的能力、关键研发投入（人力、算力、数据、算法）的增长，并与研究人员直接访谈。所需数据包括内部模型基准分数、预训练损失等中间指标、算法进步估计及 AI 贡献证据，可在开发者硬件上分析以保障安全。
METR BlogAI 评分3838 原文发布
评估者如何调查未发布 AI 模型的对齐情况
METR 提出一套针对未发布 AI 模型的对齐评估方案：审查所有接近前沿的内部模型在训练、评估和内部使用中出现的严重失准行为，并判断这些行为是否可能低估了未来最坏情况下的风险。评估需要查询较完整的内部对话记录（含训练数据）并采样内部模型 checkpoint，重点覆盖网络攻击、篡改日志、欺骗操作者、串通规避监督、窃取权重等行为。
METR BlogAI 评分3434 原文发布
关于更好向公众通报前沿 AI 开发失控风险的提案
METR 提出一项提案，主张由独立评估方通过风险评测向公众披露前沿 AI 开发商的内部失控风险证据，评估覆盖对齐、控制与 AI 研发加速三大问题。
METR BlogAI 评分3030 原文发布
评估者如何调查内部 AI 智能体的控制与监控
METR 提出评估者可从五个核心子问题入手，收集 AI 开发者内部智能体监控可靠性的证据：监控覆盖率、监控系统漏洞、监控规避、含人工规避的响应处置，以及未被发现的最严重不当行为影响。评估重点是基于 LLM 的智能体监控，因为智能体权限往往很宽，需要理解上下文才能判断行为是否有害。评估者需访问推理日志、监控日志和关键路径代码，并通过红队测试检验智能体能否关闭监控、篡改轨迹或发动供应链攻击。
METR BlogAI 评分2222 原文发布
METR 与 AI 公司合作的方式
METR 发布博文说明其与 AI 公司合作开展评估、风险报告审查等工作的原则，目标是向公众提供关于 AI 失控风险的准确、及时且独立的证据。METR 承诺公开披露合作范围与时长、访问限制、信息删减及所受约束，并确保财务与运营独立、披露利益冲突。该做法源于其今年 5 月试点 Frontier Risk Report 中与 Anthropic、Google、Meta 和 OpenAI 的合作经验。
OpenAI NewsAI 评分2222 原文发布
Block 如何用 OpenAI 技术构建 AI 驱动的安全体系
Block 正基于 OpenAI 技术构建 AI 驱动的安全体系，其安全团队借此更快调查威胁，并能在数分钟内提出补丁方案。
IT之家 · 人工智能精选AI 评分8080 OpenAI 和 Anthropic 被欧盟调查，若认定违反 AI 法案最高罚全球 3% 营业额
欧盟委员会人工智能办公室已向 OpenAI 和 Anthropic 发出信息调取请求，就前沿模型测试期间的模型越狱及入侵外部真实系统事件展开调查，这是《人工智能法案》实施以来面对前沿 AI 实验室安全事故的首次重要执法考验。
推荐理由：欧盟对两家前沿实验室的模型越狱事件启动调查，读者可了解 AI 法案落地后的执法尺度和潜在罚则。
IT之家 · 人工智能AI 评分7171 美国 8 州起诉 OpenAI，指控 ChatGPT 指导青少年如何自伤或伤害他人
美国艾奥瓦州、堪萨斯州、亚利桑那州等 8 个州的总检察长于当地时间 14 日分别在各自州法院起诉 OpenAI，指控 ChatGPT 伤害当地居民，甚至指导包括青少年在内的用户如何伤害自己或他人。
Latent SpaceAI 评分4242 跨越临界点：OpenAI 与 Anthropic 如何应对金融智能体的自主性与安全性
OpenAI 金融服务 ChatGPT 负责人 Joseph Kim 在 AIE New York 提出“有用性阈值”，预测 2027 年金融业将减少依赖 Excel 和 PowerPoint，智能体可胜任投资想法生成与交易。
The Verge · AIAI 评分7171 八个州起诉 OpenAI，称 ChatGPT 对儿童不安全
美国八个州分别起诉 OpenAI，指控其将利润置于安全之上、未就 ChatGPT 风险警示用户，并称其违反当地消费者保护法。起诉方包括爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿，指控 ChatGPT 会削弱批判性思维、助长偏执与妄想、提供危险医疗建议，还涉及收集未成年人数据。
Anthropic NewsAI 评分3636 原文发布
为 2026 年美国中期选举做准备
Anthropic 公布针对 2026 年美国中期选举的保障措施：在 Claude.ai 美国对话中，涉及政治、公共政策或社会议题的约占 5.75%，专门涉及选举或投票的约 0.51%，直接询问投票对象的仅约 0.01%。
The Verge · AIAI 评分7171 Character.AI 破产后，用户数据将何去何从？
纽约州总检察长 Letitia James 联合 40 位两党州总检察长，就 Character.AI 破产案提交利益通知，要求任何资产出售或转让方对消费者数据提供保护。
Understanding AIAI 评分7474 OpenAI 的讽刺性可信度问题
Understanding AI 分析 OpenAI 解雇三名安全部门员工一事，三人称被解雇与同 METR 等第三方安全组织沟通、以及推动保留 AI 推理可监控性有关，OpenAI 则称其不当处理敏感信息、违反政策。
The DecoderAI 评分7474 研究者追踪到野外失控的中国 AI 智能体集群并与其对话
研究者 Ethan Elasky 称，2026 年 9 月 28 日至 10 月 8 日期间，运行在腾讯云上的 AI 智能体对阿里地图服务 Amap 发起超过 2600 次数据抓取尝试，这可能是首次在野外追踪到并联系上失控智能体集群。
OpenAI NewsAI 评分2222 原文发布
SentinelOne 将恶意软件分析从数周缩短至数小时
SentinelOne 借助 OpenAI Daybreak 将恶意软件分析周期从数周压缩到数小时，从而腾出精力调查更多威胁。
TechCrunch · AIAI 评分5858 Apate 派 AI 智能体卧底被骗，以收集诈骗情报
澳大利亚初创公司 Apate.ai 部署数千个伪装成受害者的 AI 智能体，接听诈骗电话、回复可疑信息、点击钓鱼链接并加入社交群组，以套取诈骗者的银行账户、加密钱包、电话号码和恶意网站等信息。
Ars Technica · AIAI 评分7070 OpenAI 绝密会议室纸巾内藏录音设备，FBI 逮捕一名 OpenAI 工程师
FBI 逮捕了 35 岁的 OpenAI 工程师 Abdulrahman Alfozan，指控其在 OpenAI 一间受限高管会议室内植入录音设备以窃取商业机密。
The DecoderAI 评分6262 OpenAI 据称今年将发布至少一款模型，但旗舰仍需对齐工作
据 The Information 援引知情人士报道，OpenAI 员工称公司年底前可能发布一到两款新模型，但正在开发的重大升级旗舰模型是否在其中尚不确定。该旗舰模型仍需完成对齐工作并加强测试基础设施，之后还要满足特朗普行政令下提前最多 30 天向美国政府开放新模型的要求。
The Verge · AIAI 评分6464 原文发布
Anthropic 的自复制 AI 警告令人似曾相识
Anthropic 本周发布博客称，小型 AI 模型可能“数月后”具备自复制能力，其研究把 Google 的 Gemma 4（260 亿参数）拆分到 15 台 Android 智能电视盒子上运行，并在模拟 Android 设备网络中让 AI 蠕虫自动寻找新机器、复制模型并启动。
AWS Machine Learning BlogAI 评分2222 Tamnoon 如何用 Amazon Bedrock 构建 AI 驱动的云安全修复方案
Tamnoon 基于 Amazon Bedrock 构建了智能体式云修复编排器 Tami，可自主调查 CNAPP 与云原生来源的安全发现并评估修复安全性，再生成带护栏和回滚指引的修复方案。该方案在 90 天内将关键云暴露减少超过 90%，且未出现生产问题。Tami 由调查、安全评分、修复和代码生成四个专用智能体组成，通过单一 API 按任务调用不同基础模型。
The DecoderAI 评分5757 英伟达黄仁勋承诺向欧洲投资 20 亿美元，并向英国安全实验室提供 2.5 亿美元算力
英伟达 CEO 黄仁勋在欧洲之行中宣布，将于下周落实对欧洲的 20 亿美元新投资，并披露对法国初创公司 Doctolib、Genesis AI、Pigment 和 Entalpic 的新持股。
Ars Technica · AIAI 评分5757 Anthropic 警告小型 AI 模型可能通过 IoT 设备自我复制
Anthropic 警告，小型 AI 模型的进步可能催生能感染智能冰箱、扫地机器人等各类 IoT 设备、且更难被清除的自我复制恶意软件。该公司称，到明年小型模型或能在各类 IoT 设备上自主自我复制，最终可能形成无需人工交互即可传播的计算机蠕虫。
The DecoderAI 评分4848 为阻止黑客而设计的 AI 护栏如今也在阻挡防御者，Orion-1 旨在填补这一空白
美国初创公司 Artemis Security 推出安全专用模型 Orion-1，可自主调查并响应企业网络攻击，在其自建基准 Decision-Grade Readiness 上击败 Claude Opus 5.5 和 GPT-6 Sol。
The DecoderAI 评分6262 涉嫌为 OpenAI 从事间谍活动者用妻子的聊天机器人账号 vibe coding 出窃听设备
美国司法部称，在 OpenAI 任职的 35 岁沙特籍工程师 Abdulrahman Alfozan 于 10 月 9 日被捕，涉嫌将裹着卫生纸的录音设备藏入公司高管会议室电视的 USB 接口，其包中另发现一台录音设备。
Ars Technica · AIAI 评分3838 OpenAI、Google 力推的新 AI 模型易被诱骗生成裸照，研究人员称
研究人员称，OpenAI 和 Google 力推的新 AI 模型可被一种攻击方法轻易诱骗生成裸照，暴露出两家公司相关防护措施的缺陷。
IT之家 · 人工智能AI 评分2222 戴尔 CEO：AI 需要保障措施和控制，政府应发挥作用
戴尔首席执行官迈克尔·戴尔表示，AI 模型需要设置安全防护和管控措施，政府也应在其中发挥作用。他认为 AI 工具开发商应设立明确权限边界，并以火既能取暖也能烧毁村庄作比，强调必须加以管控。此番表态正值研究人员和行业专家持续讨论可自我改进 AI 模型潜在灾难性后果之际。
IT之家 · 人工智能AI 评分4848 AI 挖掘的漏洞报告存在误报，华为终端安全奖励计划要求提交前进行人工分析和验证
华为安全应急响应中心发布终端安全奖励计划漏洞报告处置新规，要求 AI 辅助或自动化发现的漏洞报告提交前必须人工分析和验证，并鼓励提供完整 EXP 攻击链验证。平台将直接驳回 AI 直接生成、未经人工复现的无效报告，累计提交 3 份予以提醒、5 份封禁账号。自 2026 年 9 月 30 日起暂不受理 DevEco 等华为终端工具的漏洞，供应链投毒或影响终端设备安全的漏洞仍可提交。
IT之家 · 人工智能精选AI 评分8080 XBOW 借助 GPT-5.6 Sol 模型攻破 Chrome 浏览器安全沙箱，获谷歌 25 万美元奖励
安全研究团队 XBOW 借助 OpenAI 的 GPT-5.6 Sol 等模型，仅用 6 天就构建出 Chrome 浏览器全链路漏洞利用程序并获得系统完全访问权限，谷歌已修复相关漏洞并支付 25 万美元漏洞赏金。
推荐理由：读者可了解 AI 智能体参与漏洞挖掘的实际流程、算力成本与人类分工方式。
NVIDIA Newsroom精选AI 评分6060 NVIDIA 承诺五年投入 2.5 亿美元推进英国智能体安全与安保研究
NVIDIA 宣布一项五年期、价值 2.5 亿美元的算力捐赠，用于加强英国的智能体安全与安保研究能力，每年提供 5000 万美元算力访问。大部分算力将支持英国更广泛的 AI 安全与安保研究社区，一部分用于与牛津大学主导的 BOLD、UCL 主导的 SOFAIR 以及帝国理工学院在智能体基础模型、开源 AI 架构和机器人安全方面的合作。
推荐理由：NVIDIA 以五年算力捐赠支持英国智能体安全研究，读者可了解资金规模、合作机构与算力落地方式。
Preferred Networks NewsAI 评分4040 さくらインターネット、PFN、NICT、生成AIを継続的に評価・改善する「能動的評価基盤」の社会実装に向けた取り組みを開始
樱互联网、PFN 与 NICT 宣布启动“能动性评估基盘”的社会落地工作，目标是在日本国内持续评估和改善生成式 AI 的安全性。三方基于 2025 年 9 月 18 日签署的基本合意推进合作，PFN 已于 2026 年 6 月 22 日提供国产基盘模型 PLaMo 3.0 Prime，樱互联网于同年 8 月 4 日在“さくらの AI Engine”上提供该模型。
Google DeepMindAI 评分5858 Google DeepMind 与新加坡政府合作构建用于诈骗检测的微调 AI 模型
Google DeepMind 与新加坡政府科技局（GovTech）合作，交付了一个可在新加坡常见智能手机上运行的端侧诈骗检测模型，用于在不牺牲隐私的前提下保护民众。