OpenAI Alignment Research· Micah Carroll, Tomek Korbak, Zehao Dou, Bowen Baker, Ian Kivlichan·原文发布· 2026-05-07精选AI 评分60
调查 RL 训练中意外对 CoT 评分带来的后果
Investigating the consequences of accidentally grading CoT during RL
AI 导读
OpenAI 披露，其新检测系统发现 GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini 的部分 RL 训练曾意外对 CoT 评分，GPT-5.5 未受影响。
本站提供 AI 导读，完整报道请前往来源网站阅读。
阅读原文 OpenAI Alignment Research · alignment.openai.com
推荐理由
OpenAI 公开了 CoT 评分事故的检测系统、影响范围与消融实验，可了解 CoT 可监控性在真实 RL 流程中的脆弱边界。