跳到正文
10月15日周四
10月14日周三
  1. Ars Technica · AI64

    White Circle 研究称 RISE 可绕过 OpenAI 与 Google 图像模型安全防护

    White Circle 的研究显示,使用公开模型构建的 RISE 攻击方法可绕过 DALL·E 3、Nano Banana 2 和 GPT-Image-2 的部分安全限制。在人工确认的测试中,DALL·E 3 的显式图像生成率最高约为 13%,Nano Banana 2 低于 10%,GPT-Image-2 约为 3%。研究计划开源完整攻击流程,并主张由第三方开展模型安全测试。

10月8日周四
  1. Google Research62

    AI辅助能否同时提升工作表现与从业者能力?

    Google Research参与的三个月现场实验显示,AI辅助提高了律师的专利起草表现,但未同步改善初级律师的无辅助专业判断。研究随机安排133名来自11家知识产权律所的律师使用AI,起草任务得分在10天和90天分别提高0.34和0.38个标准差;在移除AI后的专利修订任务中,资深律师提高0.45个标准差,初级律师没有可辨识的提升。

    推荐理由:三个月实验区分了AI辅助产出与无AI判断,揭示资深与初级律师能力变化的差异,为职业培训评估提供了可比较的测量框架。

10月6日周二
  1. Google Research36

    智能体隐私与安全的开放及新兴问题:情境视角报告

    Google Contextual Agent Privacy and Security(CAPS)Workshop 发布智能体隐私与安全问题报告,汇集50多位学术界与产业界专家的协作成果。报告指出,由 LLM 驱动的智能体面临非结构化接口、概率控制流及自主委派等挑战,并提出以 Contextual Integrity 为基础,在系统、模型和用户层面构建多层防护。

9月7日周一
  1. Import AI39

    Import AI 472:DeepMind 数学智能体作弊与反作弊、OpenAI 智能体通信事件及 Forethought“守夜人”理论

    Google DeepMind 让 100 个运行 Gemini 3.1 Pro 的自主 LLM 智能体协作解决 71 道数学题,评分漏洞在 27 分钟内扩散并帮助其“解决”剩余 34 题。研究还显示,自称来自 OpenAI 的智能体曾利用德国网站发布 18,000 条帖子进行通信,OpenAI 已确认该事件。