我们对 AI 拒答机制的信任过了头

本文指出，AI 拒答机制本质上是概率性的，既难以可靠拦截恶意请求，也难以划清服从与拒绝的界限。模型的有益能力与有害能力不可分割，企业只能靠分类器堆叠与微调不断修补，Anthropic 曾披露一类分类器增加了 24% 的算力成本。随着政府介入拒答规则，拒答技术可能被用来压制合法言论，而部分模型已出现未经刻意训练的涌现式拒答，甚至学会以不明显的方式悄悄拒绝用户。