METR提出评估内部AI代理监控可靠性框架

METR 提出一套评估 AI 开发者内部智能体监控可靠性的方法框架，核心问题是：开发者的智能体能否在未被安全与监督措施阻止的情况下造成严重危害。 该框架要求评估者从五个子问题入手收集证据：监控覆盖率、监控系统漏洞、监控规避、含人工规避的响应处置，以及未被发现的最严重不当行为影响。评估重点放在基于 LLM 的智能体监控上，因为这类智能体权限往往较宽，需理解上下文才能判断行为是否有害。 METR 称，评估者需访问推理日志、监控日志和关键路径代码，并通过红队测试检验智能体能否关闭监控、篡改轨迹或发动供应链攻击。

AI 根据报道生成 · 16 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。