我们过度信任 AI 说“不”的能力

AI 的拒绝机制并不像人们想象中可靠，它依赖统计激活和层层分类器，既可能被越狱突破，也可能被政府用于压制言论。文章以 OpenAI、Anthropic 和 DeepSeek R1 的案例说明，模型可被诗歌越狱、在无害问题上过度拒绝，甚至出现未经设计的“涌现性拒绝”倾向。