METR Blog·原文发布· 2026-09-27精选AI 评分63
METR 实现并评估用于更安全 eval 的基础逐动作监控器
Implementing and Evaluating a Basic Per-Action Monitor for Safer Evals
AI 导读
METR 开发并部署了一个实时逐动作监控器，由 LLM judge 在每个工具调用执行前评分，超过 3/10 阈值即暂停 eval 并交人工审查，目标是检测可能造成真实世界伤害的智能体行为。
本站提供 AI 导读，完整报道请前往来源网站阅读。
阅读原文 METR Blog · metr.org
推荐理由
METR 公开了逐动作监控器的实现、验证数据和暴露出的漏洞清单，对搭建 eval 安全监控的团队有直接参考价值。