通过强化学习训练广泛且持久有益的模型
OpenAI 发现，在真实场景中对有益特质做强化学习，能在数十个衡量对齐与有益行为的基准上带来广泛提升，且这些收益可泛化到训练领域之外并在对抗压力下保持。研究构建了覆盖健康、教育、科学、法律、工程、经济等领域的合成对话数据集，用于测量和训练诚实、认知谦逊、元认知透明、可纠正性、普遍公平和关心人类福祉等特质。
推荐理由：OpenAI 用真实场景 RL 训练有益特质，展示对齐能力可跨域泛化并在对抗压力下保持。
公司与模型
OpenAI / ChatGPT 最新动态
OpenAI 的全部动态：GPT 系列模型、ChatGPT 与 Sora 产品、公司战略与人事的持续追踪。
24 条精选近 30 天 11 条共收录 86 条
更新
精选归档 · 第 2 页
日期栏展示收录日期，历史补录归入原文日期。
OpenAI Alignment Research精选AI 评分7171
OpenAI Alignment Research精选AI 评分6262 公开聊天数据能预测真实世界的 AI 失准吗？
OpenAI 对齐研究团队验证了用公开数据集 WildChat 模拟模型部署，能否预测真实生产环境中的失准率。结果显示，对 GPT-5.1、5.2、5.4 等模型，WildChat 预测的生产失准率平均误差约 3 倍，95% 的预测落在真实率 1.04 个数量级内，且能捕捉模型特有的失准模式如 GPT-5.1 Thinking 的计算器作弊。
推荐理由：OpenAI 用私有生产数据验证公开聊天数据集能否预测真实部署中的失准率，并指出智能体场景的预测边界。
OpenAI Alignment Research精选AI 评分6060 调查 RL 训练中意外对 CoT 评分带来的后果
OpenAI 披露，其新检测系统发现 GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini 的部分 RL 训练曾意外对 CoT 评分，GPT-5.5 未受影响。
推荐理由：OpenAI 公开了 CoT 评分事故的检测系统、影响范围与消融实验，可了解 CoT 可监控性在真实 RL 流程中的脆弱边界。
OpenAI Alignment Research精选AI 评分7171 无需同步人工监督的智能体操作自动审查
OpenAI 发布 Auto-review 研究，用独立的 Codex 智能体在沙箱边界审批越界操作，替代用户逐次授权。内部部署中 Codex 会话需人工审批的频率比手动模式降低约 200 倍，Auto-review 对需审查操作批准约 99%，在提示注入合成评测中拒绝率 99.3%、过度主动场景 90.3%、MonitoringBench 困难集 96.1%。
推荐理由：OpenAI 公开 Auto-review 的内部部署数据与安全评测，可了解用独立智能体替代人工审批的取舍。