跳到正文
OpenAI Alignment Research· Melody Guan, Yuxiang Xie, Bowen Baker·原文发布· 3 小时前AI 评分40

Beyond g-mean²: complementary metrics for monitorability

Beyond g-mean²: complementary metrics for monitorability

AI 导读

OpenAI 在 g-mean² 监控判别力指标基础上提出两个补充指标:pair-matched monitorability 在多模型共享的任务实例上做配对比较,避免各模型因有效正例子集不同而混淆评估;post-control risk 模拟用监控器拒绝输出后再重试的部署场景,计算系统最终放行坏输出的概率。

本站提供 AI 导读,完整报道请前往来源网站阅读。

阅读原文 OpenAI Alignment Research · alignment.openai.com