Anthropic 致信纽森：建议法院可禁高风险 AI 模型

Anthropic 于 10 月 15 日致信加州州长纽森，建议政府应有权向法院申请禁令，阻止对公众构成“严重风险”的 AI 模型发布。 Anthropic 同时表示，要求开发者设置关闭整个模型的紧急关闭开关可能带来虚假安全感，其更倾向于关闭出问题的 AI 智能体、暂停特定客户使用权限等针对性措施。该意见是纽森今年 9 月召集 AI 专家小组研究制定 AI 安全要求建议后，Anthropic 提交的。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。