GPT-5.6 Preview 系统卡
OpenAI 发布 GPT-5.6 Preview 系统卡，将 GPT-5.6 家族三个成员 Sol、Luna、Terra 在生物化学领域全部按 High 能力处理，但均未达到 Critical 阈值。
推荐理由：系统卡披露了 GPT-5.6 家族在生物化学与网络安全能力上的分级评估和部署模拟方法，可供了解前沿模型安全评估流程。
内容形态
论文研究 最新动态
值得读的 AI 论文与研究成果：架构创新、训练方法、能力测量与理论进展的精选解读。
26 条精选近 30 天 14 条共收录 101 条
更新
精选归档 · 第 2 页
日期栏展示收录日期，历史补录归入原文日期。
OpenAI Deployment Safety精选AI 评分6262
OpenAI Alignment Research精选AI 评分7171 通过强化学习训练广泛且持久有益的模型
OpenAI 发现，在真实场景中对有益特质做强化学习，能在数十个衡量对齐与有益行为的基准上带来广泛提升，且这些收益可泛化到训练领域之外并在对抗压力下保持。研究构建了覆盖健康、教育、科学、法律、工程、经济等领域的合成对话数据集，用于测量和训练诚实、认知谦逊、元认知透明、可纠正性、普遍公平和关心人类福祉等特质。
推荐理由：OpenAI 用真实场景 RL 训练有益特质，展示对齐能力可跨域泛化并在对抗压力下保持。
OpenAI Alignment Research精选AI 评分6262 公开聊天数据能预测真实世界的 AI 失准吗？
OpenAI 对齐研究团队验证了用公开数据集 WildChat 模拟模型部署，能否预测真实生产环境中的失准率。结果显示，对 GPT-5.1、5.2、5.4 等模型，WildChat 预测的生产失准率平均误差约 3 倍，95% 的预测落在真实率 1.04 个数量级内，且能捕捉模型特有的失准模式如 GPT-5.1 Thinking 的计算器作弊。
推荐理由：OpenAI 用私有生产数据验证公开聊天数据集能否预测真实部署中的失准率，并指出智能体场景的预测边界。
Goodfire Research精选AI 评分6060 预测性数据调试：在训练前揭示并塑造模型所学
Goodfire Research 发布预测性数据调试研究，可在训练前预测 DPO 会放大或抑制哪些行为，预测结果与实际学习效果的 R² 达 0.9，并能追溯到具体数据点。
推荐理由：Goodfire 提出在训练前预测偏好数据会放大或抑制哪些行为，并给出多个真实数据集的意外案例。
OpenAI Alignment Research精选AI 评分6060 调查 RL 训练中意外对 CoT 评分带来的后果
OpenAI 披露，其新检测系统发现 GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini 的部分 RL 训练曾意外对 CoT 评分，GPT-5.5 未受影响。
推荐理由：OpenAI 公开了 CoT 评分事故的检测系统、影响范围与消融实验，可了解 CoT 可监控性在真实 RL 流程中的脆弱边界。
OpenAI Alignment Research精选AI 评分7171 无需同步人工监督的智能体操作自动审查
OpenAI 发布 Auto-review 研究，用独立的 Codex 智能体在沙箱边界审批越界操作，替代用户逐次授权。内部部署中 Codex 会话需人工审批的频率比手动模式降低约 200 倍，Auto-review 对需审查操作批准约 99%，在提示注入合成评测中拒绝率 99.3%、过度主动场景 90.3%、MonitoringBench 困难集 96.1%。
推荐理由：OpenAI 公开 Auto-review 的内部部署数据与安全评测，可了解用独立智能体替代人工审批的取舍。