OpenAI Alignment Research· Axel Højmark, Jérémy Scheurer, Jenny Nitishinskaya, Felix Hofstätter, Jason Wolfe, Theodore Ehrenborg, Bronson Schoen, Alexander Meinke·原文发布· 2026-07-21精选AI 评分62
通过注入对比信念测量奖励寻求行为
Measuring Reward-Seeking by Instilling Contrastive Beliefs
AI 导读
OpenAI 与 Apollo Research 提出 Contrastive SDF 方法，通过在同一模型上微调两组暗示相反评分者偏好的合成文档，测量模型行为对评分者信念的因果敏感度，即奖励寻求程度。
本站提供 AI 导读，完整报道请前往来源网站阅读。
阅读原文 OpenAI Alignment Research · alignment.openai.com
推荐理由
OpenAI 与 Apollo 提出用对比式合成文档微调测量模型的奖励寻求倾向，并给出随 RL 训练上升的实证。