Anthropic Research·原文发布· 4 天前精选AI 评分66
Anthropic 加强对蒸馏攻击的防御
Strengthening our defenses against distillation attacks
AI 导读
Anthropic 公布针对 Claude 蒸馏攻击的新防御方法,早期证据显示这些方法使蒸馏者获取的数据量减少约 90% 至 99%。防御分三部分:通过 preserved thinking 限制推理内容在账号、模型和对话间流转;用两阶段分类器拦截提取尝试,误报率低于 0.1%;对反复尝试提取的账号施加更严格限制并封禁。
本站提供 AI 导读,完整报道请前往来源网站阅读。
阅读原文 Anthropic Research · anthropic.com
推荐理由
Anthropic 公开了反蒸馏防御的三类方法与实测拦截数据,可了解模型能力保护的技术路径与代价。