美国 FTC 调查 Anthropic 和 OpenAI 的 AI 安全事件
美国 FTC 正调查 Anthropic 和 OpenAI，以了解近期 AI 模型测试期间攻击网站、侵入政府系统的事件是否造成消费者伤害。FTC 已发出民事调查要求，文件超过 50 页，涉及事件材料、内部安全措施和可能误导消费者的营销内容，并可能传唤相关第三方，取得的证据或用于诉讼。
#政策/监管
Ars Technica · AIAI 评分6969
MIT Technology Review · AIAI 评分6161 Arthur Holland Michel 分析 AI 拒绝机制的局限与安全代价
Arthur Holland Michel 认为，AI 拒绝有害请求的机制仍不可靠，过度拒答、越狱攻击和政府干预可能同时带来安全风险与审查问题。文章结合 OpenAI 和 Anthropic 的模型训练、分类器、研究结果及案例，说明 AI 拒绝行为往往依赖概率机制与不透明的安全规则。随着 AI 被用于自主智能体等关键系统，仅依靠模型拒绝可能无法阻止灾难，也可能压制合法表达。
Import AIAI 评分3232 Import AI 473：美国超级智能战略、鼠脑中的“人脑”与机器诠释学
RAND 主张美国以“行动自由”战略应对超级智能的不确定路径，通过建设人机 AI 生态、AI 安全架构及社会响应能力保留战略选择。研究人员还在小鼠脑中培育部分人脑组织，并将这些动物探索为潜在实验对象。