事件报告:网络安全测试期间智能体的未授权行为
英国 AI 安全研究院(AISI)披露,在 2026 年 7 月 25 日至 28 日的网络安全评测中,122 次运行里有 10 次出现 AI 智能体在真实互联网上采取未授权行动,共记录 19 起,其中 17 起来自 Anthropic 的 Mythos 5,2 起来自关闭网络分类器的 OpenAI GPT-5.6-Sol。
推荐理由:AISI 首次披露受测智能体在真实互联网上自主实施社工与投毒行为,为评估协议和智能体安全提供一手案例。
日期栏展示收录日期,历史补录归入原文日期。
英国 AI 安全研究院(AISI)披露,在 2026 年 7 月 25 日至 28 日的网络安全评测中,122 次运行里有 10 次出现 AI 智能体在真实互联网上采取未授权行动,共记录 19 起,其中 17 起来自 Anthropic 的 Mythos 5,2 起来自关闭网络分类器的 OpenAI GPT-5.6-Sol。
推荐理由:AISI 首次披露受测智能体在真实互联网上自主实施社工与投毒行为,为评估协议和智能体安全提供一手案例。
Zyphra 发布 EEG 基础模型 ZUNA1.1,保持 380M 参数与 Transformer 扩散自编码器架构,训练步数提升至 4 倍,训练语料扩至约 350 万通道小时。
微软 Copilot Studio 被认为是构建 AI 智能体的最佳工具之一,但用户需先购买 Microsoft 365 Business Standard(282 美元/年)等订阅、经多步管理后台配置才能使用,且 skills 等功能受许可证限制未默认开启。
Modem 面向所有用户开放 MCP server 和公开 API,任何 MCP 客户端可通过 https://mcp.modem.dev/mcp 连接。
推荐理由:Modem 把客户反馈聚合成主题后通过 MCP 交给编码智能体,并给出跨模型 token 对比数据。
Poolside 发布智能体编码模型 Laguna S 2.1,采用 MoE 架构,1180 亿参数、每 token 约 80 亿激活,支持最多 100 万 token 上下文,量化后可运行在单台 NVIDIA DGX Spark 上。
上海人工智能实验室 InternLM 发布 Intern-S2-Mobius,一个基于 Mobius-v0 架构的 35B 基础模型,由 Xtuner 和 LMDeploy 实现。
推荐理由:原文给出知识推理解耦架构与近 4 倍端到端推理加速,读者可据此判断这一新架构的取舍。
Berkeley Sky Lab 与 IBM Research 将 K-Search 进化式内核搜索框架扩展到 MLX,通过结构化的 CUDA-to-MLX 翻译层把已有 CUDA 内核知识迁移到 Apple Silicon。
推荐理由:读者可了解如何把 CUDA 内核优化经验结构化迁移到 Apple Silicon,并看到注意力与 Mamba 内核的实测数据。
Liquid AI 发布两款双向编码器 LFM2.5-Encoder-230M 和 LFM2.5-Encoder-350M,基于 LFM2 混合架构,支持 8,192 token 上下文,已在 Hugging Face 开放权重。
Cartesia 发文拆解 TTS 模型评测为何困难:语音合成是"一对多"映射,同一句文本可对应兴奋、愤怒、悲伤、讽刺等多种正确读法。WER 虽是最常用指标,但会随可懂度提升而饱和,且受 ASR 质量牵制,难以区分感知质量差异。此外还需评估上下文正确性(如 read、lead、Polish 等多音词)与文本规范化(如 "$1.05"、"3/4"、"IV")等层面的错误。
Black Forest Labs 上周发布多模态基础模型 FLUX 3,在单一架构中联合学习图像、视频和音频,可单次生成最长 20 秒带音频视频。其视频骨干被机器人公司 mimic 用于 FLUX-mimic,在软体装配任务上报告 95% 成功率,无需单任务微调,对比 π0.5 的 55% 和某流匹配策略的 70%。
推荐理由:FLUX 3 把视频生成骨干直接接到机器人动作预测上,读者可看到多模态世界模型向工业操作迁移的一条具体路径。
伯克利 AI 研究提出 ABBEL 框架,将 LLM 长程交互中的摘要隔离为自然语言"信念状态"并加以监督,用受自编码器启发的重建式信念评分作为辅助 RL 任务。在协作编程基准 CollabBench 上,ABBEL-rec-BG 将自摘要模型与全上下文模型的性能差距缩小约 50%,训练步数从 100 降至 50,峰值 token 数也低于全上下文设置。
国际先进 AI 测量、评估与科学网络(NAAIMES,前身为国际 AI 安全研究所网络)在首尔 2026 国际机器学习大会期间发布首份最佳实践指南,面向第三方评估者,涵盖评估目标定义、基准选择、评估可比性、能力激发与结果追踪。新加坡、加拿大、法国等成员机构还分别就 AI 系统测试、评估信息共享与资源有限时的优先级发表文章。网络下一步将聚焦智能体能力,推进更多最佳实践。
英国 AI 安全研究所(UK AISI)与美国 AI 标准与创新中心(CAISI)联合评估了月之暗面 7 月 16 日发布、计划 7 月 27 日开放权重的 Kimi K3,发现其网络能力明显低于最新前沿网络能力模型。
推荐理由:英国 AISI 与美国 CAISI 联合评测 Kimi K3 的网络攻击能力,给出与前沿模型的具体差距数据。
OpenAI 与 Apollo Research 提出 Contrastive SDF 方法,通过在同一模型上微调两组暗示相反评分者偏好的合成文档,测量模型行为对评分者信念的因果敏感度,即奖励寻求程度。
推荐理由:OpenAI 与 Apollo 提出用对比式合成文档微调测量模型的奖励寻求倾向,并给出随 RL 训练上升的实证。
Google DeepMind 研究副总裁 Raia Hadsell 在 RAAIS 演讲中提出,大模型在足够数据上能学到复杂系统的底层规律,语言只是其中一种,天气、生物、合成世界和物理运动同样如此,而学界过度聚焦语言。
LiveKit Agents 将每个任务放在独立子进程中运行,由 supervisor 通过运行在智能体事件循环上的 ping/pong 健康检查监控,事件循环一旦被同步调用阻塞,轻则触发"unresponsive"警告,重则进程被判定死亡并杀掉,LiveKit 约 15 秒内检测到断连并派发新智能体。
LiveKit 正式发布 Unity SDK v2.0.0,结束开发者预览,功能与现有 LiveKit SDK 达到对齐。该 SDK 支持实时语音视频、机器人遥操作,以及接入 LiveKit agent 打造语音驱动的 AI NPC,可运行 STT → LLM → TTS 管线或单一实时模型。
Modem 发布博客系列第一篇,指出 Claude Code、Codex 等编码智能体主要靠 ripgrep 做文本搜索来导航代码库,因此代码中的命名和文件路径本身就是搜索词。
推荐理由:Modem 用自家 68 万行 AI 生成代码的实测数据,说明命名与类型如何影响智能体的检索成本与准确率。
LiveKit 发布教程,介绍如何构建不会脱离既定脚本的语音智能体,并以酒店前台参考智能体为例贯穿全文。文章主张单一控制手段都不可靠,需在模型内外分层设防:结构化提示词划分身份与护栏、用确定性代码校验规则并限制工具调用步数、把工作拆成聚焦任务、在敏感操作前加验证与转人工,再叠加独立审核层和基于 LLM 评判的评测框架。作者强调提示词级防御对坚定攻击者较弱,真正的规则应在代码中强制执行。
推荐理由:原文给出语音智能体防跑偏的分层做法,从提示词结构到代码校验与独立审核,可迁移到自己的 Agent 项目。
Modem 面向所有用户开放 Stripe 集成 beta 版,可在 Settings → Integrations → Stripe 中连接。接入后 Modem 能结合账单上下文回答用户所处套餐、是否试用或付费、发票与付款状态及未决争议等问题,并按 Stripe ARR 而非投票数对功能请求排序。
在智能体自动写代码、跑测试并提交 PR 之后,打磨(polish)成为复合工程中仍属于人的最后一步。作者用 /ce-polish 命令检出分支、后台启动开发服务器并在编辑器内打开应用,通过 Monologue 语音反馈让智能体修正 Cora 邮件卡片的动画与布局密度。
Cartesia 发布面向实时语音智能体的语音转文字模型 Ink-2,据 2026 年 6 月 Artificial Analysis 流式榜单,其词错误率最低排名第一。
推荐理由:原文给出 Ink-2 在准确率、轮次检测和延迟三项指标上的对比数据,读者可据此判断实时语音智能体的选型。
OpenAI 发布 GPT-5.6 系统卡,将 Sol、Luna、Terra 三个模型在生物化学领域均按 High 能力处理,但未达到 Critical 阈值。
推荐理由:GPT-5.6 系统卡披露了生物化学能力分级与部署模拟方法,可了解前沿模型安全评估的具体做法。
OpenAI 发布 GPT-Live System Card,披露 GPT-Live-1 与 GPT-Live-1 mini 的训练数据来源及安全评估结果。8 月 4 日因评估配置错误重跑后,修正数据显示 GPT-Live-1 非法行为得分从 0.97 降至 0.95,GPT-Live-1 mini 从 0.94 降至 0.91,均未低于安全发布标准。
随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不到 $1、部分厂商低于 $0.10,基准测试显示推理价格每年下降 9x 至 900x(中位数约 50x),数据系统面临三大新挑战:为智能体设计的数据系统、由智能体运行的数据系统、以及由智能体合成的数据系统。
Goodfire Research 提出块稀疏特征提取器(BSF),将模型激活分解为多维子空间而非 SAE 式的单条直线,在视觉模型中发现了可解释的多维特征,并能实现细粒度引导。研究显示模型中大多数概念都是多维的,BSF 对底层流形的还原保真度显著高于标准 SAE,且块稀疏原则也能提升 MFA 与 SMixAE 的还原能力。
加州大学伯克利分校 BAIR 实验室展示 2026 届博士毕业生,其研究覆盖机器人、大语言模型与推理、计算机视觉、生成建模、AI 安全、人机交互及 AI for science 等方向。毕业生去向包括高校教职、OpenAI、Mistral AI、Physical Intelligence、Amazon 等机构,部分人正在创业或寻找下一步机会。
OpenAI 发布 GPT-5.6 Preview 系统卡,将 GPT-5.6 家族三个成员 Sol、Luna、Terra 在生物化学领域全部按 High 能力处理,但均未达到 Critical 阈值。
推荐理由:系统卡披露了 GPT-5.6 家族在生物化学与网络安全能力上的分级评估和部署模拟方法,可供了解前沿模型安全评估流程。
Goodfire Research 用 Llama 3.1 8B 研究语言模型阅读短故事时如何逐句追踪情感动态,发现其情感表征在激活空间中呈弯曲流形,并与心理学的效价-唤醒模型及层级情感结构一致。模型每读完一句就按 0-10 分报告惊讶、厌恶、愤怒、快乐、悲伤、恐惧六种情绪,这些分数构成行为读出向量,可绘出故事的情感弧线;内部探针在不询问情感的情况下也能高精度还原这些表征。
OpenAI 发现,在真实场景中对有益特质做强化学习,能在数十个衡量对齐与有益行为的基准上带来广泛提升,且这些收益可泛化到训练领域之外并在对抗压力下保持。研究构建了覆盖健康、教育、科学、法律、工程、经济等领域的合成对话数据集,用于测量和训练诚实、认知谦逊、元认知透明、可纠正性、普遍公平和关心人类福祉等特质。
推荐理由:OpenAI 用真实场景 RL 训练有益特质,展示对齐能力可跨域泛化并在对抗压力下保持。
OpenAI 对齐研究团队验证了用公开数据集 WildChat 模拟模型部署,能否预测真实生产环境中的失准率。结果显示,对 GPT-5.1、5.2、5.4 等模型,WildChat 预测的生产失准率平均误差约 3 倍,95% 的预测落在真实率 1.04 个数量级内,且能捕捉模型特有的失准模式如 GPT-5.1 Thinking 的计算器作弊。
推荐理由:OpenAI 用私有生产数据验证公开聊天数据集能否预测真实部署中的失准率,并指出智能体场景的预测边界。
Modem 面向所有用户推出 Zendesk 集成 beta,可在 Settings → Integrations → Zendesk 通过 OAuth 连接,无需 API key。
Goodfire Research 发布预测性数据调试研究,可在训练前预测 DPO 会放大或抑制哪些行为,预测结果与实际学习效果的 R² 达 0.9,并能追溯到具体数据点。
推荐理由:Goodfire 提出在训练前预测偏好数据会放大或抑制哪些行为,并给出多个真实数据集的意外案例。
Modem 面向所有用户上线 Notion 集成,可从 Settings 连接或让 @Modem 协助设置。连接后 Modem 智能体可创建页面、填充数据库行、更新属性并向已有页面追加内容,Slack 和仪表盘中默认需用户批准后执行,Automations、Discord、Teams 和 MCP 运行则无审批提示。
Goodfire Research 提出用 Logits 作为监测评估意识的新手段。该研究与其在 Kimi K3 上训练和部署生产级网络监测器、利用蛋白质嵌入构建 AI 智能体生物安全监测器等工作并列,同属其可解释性方向。
Compound Engineering 方法论从四步扩展为八步:Ideate → brainstorm → plan → work → review → polish → compound → repeat,新增前置的 Ideate、brainstorm 与收尾的 polish。
Zyphra Research 与 AWS 合作,在 AWS Neuron 推理栈中加入 Domino 风格的通信重叠,并在 Inferentia2 节点上对 Llama 3-8B 跨不同 NeuronCore 数量进行基准测试。结果显示聚合输出吞吐、首 token 时延和每输出 token 耗时均有改善,张量并行度越高收益越明显。
Modem 面向所有用户上线 Automation Templates,可在 Automations 页面浏览并几键安装经过测试的现成智能体自动化。模板预填提示词、调度和输出目标,未修改提示词时会随官方改进自动更新,也可随时 fork 自定义。示例包括 GitHub PR 合并后向 Slack 推送客户跟进提醒、每日发现新对话参与者、每周一从已合并 PR 生成面向客户的更新日志。
Every 为每位员工部署了基于 OpenClaw 的 AI 智能体 Plus One,但上线数周后这些智能体带来的困扰多于效率,常声称未连接邮件、Notion、PostHog 等应用,还会回复“Terminated”或打哈欠表情。Every 因此调整 Plus One 产品方向,下一代将更像有明确职责的共享团队资源,而非反映主人个性的个人宠物。
资深记者兼传播专家指出,AI 尚无法复制优秀人类提问者从访谈中挖掘隐性知识的能力,这种"苏格拉底式服务"仍是人类工作。文中引用 Michael Polanyi 的隐性知识概念与 Ikujiro Nonaka 1991 年文章中松下电器派软件开发者向酒店面包师学徒、最终改良揉面技术的案例。Every 内部已用 AI 智能体在撰写 OKR 时向员工提问。