我们太相信 AI 说“不”的能力了

MIT Technology Review 文章指出，AI 的拒绝能力已成为 AI 安全的核心机制，但这一机制本质上是概率性的，并不可靠。模型在训练中学会拒绝有害提示，却仍保留相关能力，且拒绝边界由 AI 公司秘密划定。文章警告，拒绝失效可能导致灾难性后果，而拒绝过度则可能被用于压制合法言论。