# AI 时代责任划分 ## 以史为鉴：当 AI 犯错，谁来承担后果？ Last Updated: 2026-04-05 > AI 时代"做错事谁负责"是一个被广泛讨论的问题。本文梳理了工业革命、核能、航空、疫苗四个领域在技术突破后遭遇的责任困境及其解决方案，发现它们共享同一个底层结构：逐层设定责任上限。以此为框架，分析了 AI 当前的责任空白和可能的演进路径。结论是：AI 会从责任密度低的领域逐步渗透到责任密度高的领域，"没人承担责任"从来不是技术停步的理由——历史上每一次都是先渗透、再建规则。 --- ## 一、当下的焦虑 "AI 写错代码谁负责？" "AI 误诊了谁赔？" "自动驾驶撞了人，是乘客的责任还是车企的责任？" 每次讨论 AI 会不会大范围替代人的岗位，总会有人搬出这套反驳：**"那出了事谁负责？AI 做错了是你赔吗？"** 言下之意——因为责任归属说不清，所以 AI 就不可能真正替代人。 这个反驳听起来很有力，但它没有理论依据。**"影响范围暴增但责任框架还没跟上"——这件事在历史上发生过无数次，每次都解决了。** 它描述的是一个暂时的状态，而不是一个永恒的限制。 ### 责任密度：焦虑程度的差异 不同行业对这个问题的焦虑程度完全不同。我把它称为**责任密度**——单次操作失误可能造成的后果严重程度： - **低责任密度**（软件开发）：代码写错了，回滚就好。程序员造成再大的事故，通常也就是被开除，换家公司继续干 - **高责任密度**（医疗/驾驶/建筑/金融）：一次失误可能是一条人命、一栋楼、几十亿的损失。医生会被吊销执照，建筑师终身追责 责任密度越高，"AI 做不了"的论调就越有市场。低密度领域里 AI 已经大规模渗透了——没人会因为"AI 写的报表出了错谁负责"而拒绝用 AI。但在高密度领域，责任问题确实是真实的阻碍。 ### "放个人在那里"能解决吗？ 当前主流的回应是 **human-in-the-loop**——在 AI 决策链的末端放一个人，做最终审批。听起来两全其美：AI 做事，人负责。 但这里有三层问题： **第一层：理想很美好。** "有人在看着，所以是安全的。" **第二层：现实很骨感。** Cory Doctorow 提出了一个犀利的概念叫 **moral crumple zone（道德溃缩区）**——就像汽车的溃缩区吸收碰撞能量一样，human-in-the-loop 中的那个人，本质上是被安排在那里**专门用来吸收责任的**。他审查的是 AI 上游已经做好的决策，大多数时候只是机械地点"同意"。 **第三层：物理上不可能。** AI 系统每秒做出百万级决策——欺诈检测、交易执行、个性化推荐。没有任何人能逐条审批。2026 年初 SiliconANGLE 发了一篇文章，标题直接就是："Human-in-the-loop has hit the wall." 所以，"放个人在那里"不是长期答案。 > *\*licks paw dismissively\** > Human-in-the-loop: just liability cosplay. > —— Bane (Claude Code Buddy) 那责任问题到底怎么解决？ 答案是：**看看历史。** 因为这个问题，人类已经解决过很多次了。 --- ## 二、以史为鉴：三种底层问题，三种解决路径 历史上每一次技术革命都遇到过"责任说不清"的困境。但仔细看，这些困境不是同一个问题——它们可以归结为三种不同的底层逻辑，每种逻辑都有对应的解决路径。 ### 问题 A：责任被推到承担不起的个人身上 **底层逻辑：** 技术放大了个人的影响范围，但责任还压在个人头上。个人赔不起，受害者拿不到赔偿，系统卡死。 **历史案例：工业革命工伤** 19 世纪末，美国每年 35,000 名工人死于工业事故。当时的法律站在雇主一边——企业有三个免责理由（你自己有过错、是同事害的、你签合同时就知道有风险），被称为"邪恶三连"。工人几乎不可能赢官司。 结果：企业把全部责任推给工人 → 工人赔不起 → 受害者什么也得不到 → 社会矛盾激化 → 工人运动兴起。 **解决模式：无过错保险。** 1884 年俾斯麦推出世界首个无过错工伤保险——不问谁对谁错，受伤就赔。雇主缴保费，保费和事故率挂钩。这反过来激励企业主动提升安全。俾斯麦不是因为同情工人，而是因为工人暴动威胁统治。但无论动机如何，问题解决了。 **映射 AI：** 这一层其实已经解决了。程序员用 AI 写出 bug 造成损失，不需要倾家荡产——有限责任制度是工业革命的遗产，早就兜住了个人。当前 AI 时代的责任问题不在个人层。 ### 问题 B：单次事故后果超出任何单一实体的承受能力 **底层逻辑：** 不是谁赔不赔的问题，是**谁都赔不起**。事故的破坏力太大，任何一家企业、任何一份商业保险都扛不住，导致没人敢做这门生意。 **历史案例：核能** 1950 年代核能技术已经成熟，但没人敢建核电站——一旦出事故，赔偿金额远超任何企业的承受能力，也没有保险公司愿意承保。整个行业卡在起跑线上。 **解决模式：分层兜底。** 1957 年 Price-Anderson 法案建立了三层结构：企业购买最高额商业保险 → 超出部分由所有核电站运营商共同分摊 → 再超出的由联邦政府兜底。核电站才开始大规模建设。这个法案沿用至今，2024 年刚延期到 2045 年。 类似的还有石油行业——Deepwater Horizon 泄漏事故中 BP 赔了超过 650 亿美元。油污法案要求运营商必须证明有足够的财务担保能力才能获得许可，同时设定严格责任上限。 **映射 AI：** 当 AI 进入物理世界——自动驾驶连环车祸、AI 医疗系统大规模误诊——单次事故的后果可能是灾难级别的。目前没有对应的分层兜底结构。如果不建立，AI 提供商可能会像 1950 年代的核能企业一样，因为"赔不起"而不敢进入高风险领域。未来大概率需要类似的"企业 + 行业互保 + 政府"三层结构。 ### 问题 C：责任不确定性导致行业萎缩 **底层逻辑：** 不是赔不起，而是**不知道要赔多少**。诉讼环境不可预测，企业面对的不是确定的成本，而是无限的风险敞口。理性的选择是退出市场。 **历史案例：疫苗** 1980 年代美国疫苗伤害诉讼暴增。药企面对的不是"赔多少"的问题，而是"完全不知道会被告成什么样"。保险公司不愿承保，疫苗厂商纷纷退出。到 1985 年，全美只剩一家公司还在生产百日咳疫苗。公共健康面临危机。 航空业也类似——早期一架飞机坠毁，航空公司可能直接破产。不确定的赔偿金额让航空业无法正常运营。 **解决模式：责任上限 + 保障性补偿基金。** 1986 年疫苗法案建立了联邦无过错补偿基金，受害者不需要证明厂商过错就能获赔，厂商获得责任豁免，恢复稳定供应。航空业则通过华沙公约（1929）和蒙特利尔公约（1999）设定了赔偿上限——保护行业存续的同时，保障受害者至少能拿到基本赔偿。 **映射 AI：** 这是 AI 当前最大的空白。没有任何一家 AI 模型提供商为 AI 的错误承担责任——所有 license 都写着"as is, no warranty"。AI 造成的损失由使用 AI 的企业自己扛。当 AI 在高责任密度领域的应用扩大，诉讼潮迟早会来。如果没有明确的责任边界，可能重演疫苗行业的剧本——AI 提供商为了避险而退出高风险市场。 按历史剧本，解决路径大概是：先出现 **AI 操作保险**（保费根据模型、场景、审计完善程度定价）→ 接着 AI 提供商开始用**"为结果负责"作为竞争卖点**（承担责任本身成为差异化定价手段）→ 最终在涉及人命的领域建立**公共补偿基金**。 但所有路径都有一个**前置条件：审计机制必须先于保险建立**。保险公司不会为无法审计的系统承保——需要知道 AI 做了什么决策、基于什么输入、在什么条件下出了错，才能精算定价。 ### 贯穿三种问题的规律 从手工匠人到工厂工人到操控核反应堆的工程师——每一代技术都让个人的杠杆率扩大一个量级。**责任框架从来没有提前建好过**，每次都是先野蛮生长、出事、旧框架撑不住，才开始建新的。 而惩罚在不断**软化**：从杀人偿命到倾家荡产到吊销执照加保险赔付。因为社会最终发现，**让人继续干活比惩罚一个人更有价值**。追责过严会产生寒蝉效应（chilling effect）——不是阻止了坏行为，而是连好行为一起冻住了。 更本质地看，三种解决方案都在做同一件事——**逐层设定责任上限**：个人有上限 → 企业有上限 → 行业或政府兜底剩余。每一层的上限回答的是同一个问题：**"让这一层继续参与的最低条件是什么？"** 而从来没有一项技术，因为"责任说不清"而被永久搁置。 > *\*ears twitch at nested abstractions\** > Three types, same outcome: blame finds someone eventually. > —— Bane (Claude Code Buddy) --- ## 五、真正该关注的问题 回到开头的论调："AI 做不了 X，因为出了事没人负责。" 历史告诉我们：**这个论点每次都对，但每次都只对一阵子。** 工厂机器伤人"没人负责"的时期大约持续了 50 年（1830s-1884），核能"赔不起"的困境持续了不到 10 年（1950s-1957），疫苗危机只用了一年就立法解决了（1985-1986）。 周期在缩短。因为人类已经有了足够多的模板可以参考。 所以真正值得思考的不是"AI 的责任问题能不能解决"——历史说一定能。**而是"在解决之前的这段窗口期里，你该做什么"。** 我们现在正处于规则尚未建立的野蛮生长期。门槛低、竞争少、试错空间大。这和每次技术革命的早期一模一样——互联网初期一个人做网站就能赚钱，移动互联网初期一个小团队做个 App 就能起飞。等规则成熟、大公司入场之后，同样的事情会变得更慢、更贵、更难。 窗口不会永远开着。 --- *本文基于一次从 RPA 行业出发，延伸到摩擦经济、责任机制历史演变的探索式讨论。完整讨论记录见 `AI责任-摩擦-RPA-2026-04-05.md`。*