Arthur Holland Michel 分析 AI 拒绝机制的局限与安全代价

Arthur Holland Michel 认为，AI 拒绝有害请求的机制仍不可靠，过度拒答、越狱攻击和政府干预可能同时带来安全风险与审查问题。文章结合 OpenAI 和 Anthropic 的模型训练、分类器、研究结果及案例，说明 AI 拒绝行为往往依赖概率机制与不透明的安全规则。随着 AI 被用于自主智能体等关键系统，仅依靠模型拒绝可能无法阻止灾难，也可能压制合法表达。