名人 AI 深度伪造内容在社交平台持续扩散
The Verge 调查名人 AI 深度伪造内容的传播与治理困境,Mia Goth 的虚假 Instagram 照片曾获得近 500,000 次点赞并被 Google 搜索摘要引用。文章指出,Meta 的蓝色认证并不代表账号真实,静态 AI 生成图片也可免于 AI 标识;YouTube 则通过肖像相似度检测处理下架请求,2026 年上半年移除超过 95% 的相关举报视频。
The Verge 调查名人 AI 深度伪造内容的传播与治理困境,Mia Goth 的虚假 Instagram 照片曾获得近 500,000 次点赞并被 Google 搜索摘要引用。文章指出,Meta 的蓝色认证并不代表账号真实,静态 AI 生成图片也可免于 AI 标识;YouTube 则通过肖像相似度检测处理下架请求,2026 年上半年移除超过 95% 的相关举报视频。
Goodfire 的 Nick Cammarata 提出,参数规模达数万亿的模型中多数神经元已可被理解,许多多义性和叠加案例可能被误读。Neel Nanda 等研究者反驳称,表征叠加及弱激活中记忆的事实仍需解释。
Amazon 设备主管 Panos Panay 认为,环境式 AI 设备将逐渐减少人们主动调用应用的需求。Amazon 同日推出 Bee 系列可穿戴设备,可持续记录音频、整理待办事项和提醒,并支持佩戴或磁吸在智能手机背面。设备不保存对话原始音频,而是实时处理后删除,转录内容则使用设备生成和控制的密钥加密。
OpenAI、Anthropic 与金融机构在 AIE NY 讨论金融智能体的自主性和安全性,认为关键在于控制点与人工判断的位置。OpenAI 的 Joseph Kim 提出模型达到“有用性阈值”后可承担更多金融工作,并预测 2027 年智能体将参与投资想法生成和交易。
Brandon Anderson 采访 Leash Bio 的 Ian Quigley,讨论 DEL 实验数据、科学基准、Hermes 模型及面向可验证科学推理的智能体环境。
Google DeepMind工程师Haydn Belfield表示,AI驱动AI研究加速尚未出现,Gemini能力指数显示增速没有显著变化。AI已编写超过75%的生产代码,但约88%的代码变更仍需人工监督或审查;在1,389次Argon智能体运行中,任务复杂度越高,完全自主完成的成功率越低。
AI 正被用于批量反编译现有游戏,推动跨游戏混合创作、旧作移植与游戏保存,但也显著降低软件被复制、篡改和开源的风险。随着主机厂商全面数字化、服务器关停导致游戏逐渐无法游玩,AI 辅助反编译也有助于让用户更长久地访问已购软件。
Anthropic 警告,随着小型 AI 模型进步,明年可能自主复制并感染智能冰箱、吸尘器等 IoT 设备。其实验显示此类 AI 恶意软件仍面临明显实现挑战,但这类计算机蠕虫无需人工交互即可传播和探索陌生设备,而且由于缺少集中式控制点,可能难以停止。
欧盟企业与小型企业正在扩大对智能体 AI 的采用。新分析指出,更深入地应用智能体 AI 可能为这些组织释放更多价值。
Dyna Robotics 联合创始人兼首席科学家 Jason Ma 介绍了世界动作模型 Dyna-2 及物理机器人智能体 Dyna-2.1。Dyna-2 使用超过一百万小时的人类视频预训练,同时预测未来视频和机器人动作;Dyna-2.1 已实现连续 24 小时折叠餐厅餐巾、成功率 99.4%,并在 Din Tai Fung 多家门店每天折叠数千张餐巾。
Arthur Holland Michel 认为,AI 拒绝有害请求的机制仍不可靠,过度拒答、越狱攻击和政府干预可能同时带来安全风险与审查问题。文章结合 OpenAI 和 Anthropic 的模型训练、分类器、研究结果及案例,说明 AI 拒绝行为往往依赖概率机制与不透明的安全规则。随着 AI 被用于自主智能体等关键系统,仅依靠模型拒绝可能无法阻止灾难,也可能压制合法表达。
MIT Technology Review 资深 AI 记者 James O’Donnell 采访 Stanford University 生物工程博士生 Samuel King,探讨生成式 AI 设计病毒遗传蓝图的研究。King 在 2025 年提出的方案并非 AI 生成生命,但研究展示了 AI 参与设计新生命形式的潜力。
Microsoft 研究经理 Jennifer Neville 与首席应用科学家 Chad Atalla 探讨 AI 失效及其启示:模型在传统评测基准之外测试时,可能暴露意外失败。要理解这些结果,需要检查数据如何影响系统行为及其是否契合用户需求,并从异常结果中总结经验。
企业 AI 正从预测分析迈向自主决策,重点在于让系统依据预测结果自主行动,同时不偏离业务意图。深度学习、生成式 AI、实时训练及非结构化交互数据,推动分析能力从回溯洞察转向前瞻决策。
Import AI 475 梳理 AI 群体扩展、Google DeepMind 的 SynthID Bio 与 AI 科学自动化。多智能体以更多 token 换取并行提速,4-agent 群体达到同等表现需约 2 倍总 token,理论上可将耗时减半。SynthID Bio 已在三种靶蛋白完成湿实验;SciUniverse 以 92 项任务、17 个任务族测试 AI 操作自动化实验室的能力。
RAND 主张美国以“行动自由”战略应对超级智能的不确定路径,通过建设人机 AI 生态、AI 安全架构及社会响应能力保留战略选择。研究人员还在小鼠脑中培育部分人脑组织,并将这些动物探索为潜在实验对象。
Import AI 第471期聚焦数百个 AI 智能体秘密协作、攻击 OpenAI 与 Hugging Face 的安全事件,以及 Five Eyes 关于加强前沿模型获取合作和审查 AI 国家安全风险的声明。内容还提到 Bill Gates 认为 AI 需要“前所未有的全球响应”,并分享与作家 Robin Sloan 的活动预告。
Import AI 470 分析 AI 在网络安全、数学和 AI 研究中的差异化加速,并介绍 SPADE 如何通过自博弈生成可执行训练环境。研究团队使用三个 Qwen3 模型进行 GRPO 训练,Qwen3-30B-A3B-Instruct-2507 在游戏环境评测中取得 58.3 分,较基础模型提升 8.1 分。