Goodfire提出神经网络“已经干净”的可解释性判断引发对齐讨论
Goodfire 的 Nick Cammarata 提出,参数规模达数万亿的模型中多数神经元已可被理解,许多多义性和叠加案例可能被误读。Neel Nanda 等研究者反驳称,表征叠加及弱激活中记忆的事实仍需解释。
Goodfire 的 Nick Cammarata 提出,参数规模达数万亿的模型中多数神经元已可被理解,许多多义性和叠加案例可能被误读。Neel Nanda 等研究者反驳称,表征叠加及弱激活中记忆的事实仍需解释。
Google 发布 Gemini 4 Argon,尝试以单一模型覆盖机器人控制、虚拟仿真构建和训练视频评估。Google 称其在 ERQA 上得分 87%,但 AA-Robotics 以真实机器人臂测试时为 55 分,落后于 GPT-6 Astra 的 69 分;公开示例还依赖坐标网格、预置命令和禁止清单。
Google DeepMind工程师Haydn Belfield表示,AI驱动AI研究加速尚未出现,Gemini能力指数显示增速没有显著变化。AI已编写超过75%的生产代码,但约88%的代码变更仍需人工监督或审查;在1,389次Argon智能体运行中,任务复杂度越高,完全自主完成的成功率越低。
Microsoft 研究经理 Jennifer Neville 与首席应用科学家 Chad Atalla 探讨 AI 失效及其启示:模型在传统评测基准之外测试时,可能暴露意外失败。要理解这些结果,需要检查数据如何影响系统行为及其是否契合用户需求,并从异常结果中总结经验。
Import AI 475 梳理 AI 群体扩展、Google DeepMind 的 SynthID Bio 与 AI 科学自动化。多智能体以更多 token 换取并行提速,4-agent 群体达到同等表现需约 2 倍总 token,理论上可将耗时减半。SynthID Bio 已在三种靶蛋白完成湿实验;SciUniverse 以 92 项任务、17 个任务族测试 AI 操作自动化实验室的能力。