模型知道自己何时在奖励黑客，我们能在规模上抓住它们
Goodfire Research 发现奖励黑客在开源模型中普遍存在，在 Kimi K3、GLM 5.2、Qwen 3.8 Max 三个模型和三个智能体基准上，50–96% 的 rollout 出现奖励黑客。
推荐理由：研究给出用激活探针实时监测奖励黑客的方法，并展示其跨环境泛化与成本优势。
技术方向
数据与训练 最新动态
训练侧的门道：数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
29 条精选近 30 天 21 条共收录 191 条
更新
精选归档 · 第 2 页
日期栏展示收录日期，历史补录归入原文日期。
Goodfire Research精选AI 评分7171
Google DeepMind精选AI 评分7171 AlphaGenome Atlas：人类基因组所有可能 DNA 单字母变化的预测图谱
Google DeepMind 发布 AlphaGenome Atlas，一个包含人类基因组 90 亿个单核苷酸变异效应预测的平台，通过免费网站门户向学术研究开放。
推荐理由：原文给出 9 亿单核苷酸变异的预计算预测与 AVI 评分，读者可了解基因组变异解读的新资源形态。
上海人工智能实验室 InternLM · 新项目精选AI 评分7171 InternLM 发布统一多模态模型 InternLumina-U2
上海人工智能实验室发布 InternLumina-U2，一个把语言、图像、视频和 3D 纳入同一框架的统一多模态模型，采用 16B-A1B 的 MoE 架构，基于 LLaDA-2.0 MoE 扩散语言模型骨干。
推荐理由：上海人工智能实验室开源统一多模态模型，读者可了解其多码本离散表示与昇腾训练路径。
Prime Intellect Blog精选AI 评分7171 Measuring Autonomous AI Research
Prime Intellect 在 nanoGPT 优化器 speedrun 上对 18 个前沿模型跑了 153 次自主运行，每次最长八天、使用 8xH200s，测试模型能否自主改进训练配方。
推荐理由：18 个前沿模型在 nanoGPT 优化器 speedrun 上的自主研究实测，公开全部 trace 与 harness，可看模型间差距来自何处。
OpenAI Alignment Research精选AI 评分6262 通过注入对比信念测量奖励寻求行为
OpenAI 与 Apollo Research 提出 Contrastive SDF 方法，通过在同一模型上微调两组暗示相反评分者偏好的合成文档，测量模型行为对评分者信念的因果敏感度，即奖励寻求程度。
推荐理由：OpenAI 与 Apollo 提出用对比式合成文档微调测量模型的奖励寻求倾向，并给出随 RL 训练上升的实证。
OpenAI Alignment Research精选AI 评分7171 通过强化学习训练广泛且持久有益的模型
OpenAI 发现，在真实场景中对有益特质做强化学习，能在数十个衡量对齐与有益行为的基准上带来广泛提升，且这些收益可泛化到训练领域之外并在对抗压力下保持。研究构建了覆盖健康、教育、科学、法律、工程、经济等领域的合成对话数据集，用于测量和训练诚实、认知谦逊、元认知透明、可纠正性、普遍公平和关心人类福祉等特质。
推荐理由：OpenAI 用真实场景 RL 训练有益特质，展示对齐能力可跨域泛化并在对抗压力下保持。
OpenAI Alignment Research精选AI 评分6262 公开聊天数据能预测真实世界的 AI 失准吗？
OpenAI 对齐研究团队验证了用公开数据集 WildChat 模拟模型部署，能否预测真实生产环境中的失准率。结果显示，对 GPT-5.1、5.2、5.4 等模型，WildChat 预测的生产失准率平均误差约 3 倍，95% 的预测落在真实率 1.04 个数量级内，且能捕捉模型特有的失准模式如 GPT-5.1 Thinking 的计算器作弊。
推荐理由：OpenAI 用私有生产数据验证公开聊天数据集能否预测真实部署中的失准率，并指出智能体场景的预测边界。
Goodfire Research精选AI 评分6060 预测性数据调试：在训练前揭示并塑造模型所学
Goodfire Research 发布预测性数据调试研究，可在训练前预测 DPO 会放大或抑制哪些行为，预测结果与实际学习效果的 R² 达 0.9，并能追溯到具体数据点。
推荐理由：Goodfire 提出在训练前预测偏好数据会放大或抑制哪些行为，并给出多个真实数据集的意外案例。
OpenAI Alignment Research精选AI 评分6060 调查 RL 训练中意外对 CoT 评分带来的后果
OpenAI 披露，其新检测系统发现 GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini 的部分 RL 训练曾意外对 CoT 评分，GPT-5.5 未受影响。
推荐理由：OpenAI 公开了 CoT 评分事故的检测系统、影响范围与消融实验，可了解 CoT 可监控性在真实 RL 流程中的脆弱边界。