OpenAI Alignment Research· Joy Hsu, Sam Arnesen·原文发布· 13 小时前精选AI 评分67
OpenAI 研究 Agent 安全评测中的评测与生产行为差距及评测感知的作用
Eval-production behavior gaps in agent safety and the role of eval-awareness
AI 导读
OpenAI 对齐团队比较六个已上线模型在 Respecting Warnings 安全评测与匹配的 Codex 生产决策上的表现，发现评测成功率普遍低于生产，差距为 10.2 至 37.4 个百分点。
本站提供 AI 导读，完整报道请前往来源网站阅读。
阅读原文 OpenAI Alignment Research · alignment.openai.com
推荐理由
OpenAI 用生产日志对比安全评测，发现评测分数反而低于生产表现，且模型猜错评测目标会因果性地改变安全行为。