Latent Space·· 5 小时前AI 评分57
Goodfire提出神经网络“已经干净”的可解释性判断引发对齐讨论
[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment
AI 导读
Goodfire 的 Nick Cammarata 提出，参数规模达数万亿的模型中多数神经元已可被理解，许多多义性和叠加案例可能被误读。Neel Nanda 等研究者反驳称，表征叠加及弱激活中记忆的事实仍需解释。
来源：Latent Space · latent.space