April 2026
AI 时代责任划分
以史为鉴：当 AI 犯错，谁来承担后果？
Last Updated: 2026-04-05
AI 时代"做错事谁负责"是一个被广泛讨论的问题。本文梳理了工业革命、核能、航空、疫苗四个领域在技术突破后遭遇的责任困境及其解决方案，发现它们共享同一个底层结构：逐层设定责任上限。以此为框架，分析了 AI 当前的责任空白和可能的演进路径。结论是：AI 会从责任密度低的领域逐步渗透到责任密度高的领域，"没人承担责任"从来不是技术停步的理由——历史上每一次都是先渗透、再建规则。
一、当下的焦虑
"AI 写错代码谁负责？" "AI 误诊了谁赔？" "自动驾驶撞了人，是乘客的责任还是车企的责任？"
每次讨论 AI 会不会大范围替代人的岗位，总会有人搬出这套反驳："那出了事谁负责？AI 做错了是你赔吗？" 言下之意——因为责任归属说不清，所以 AI 就不可能真正替代人。
这个反驳听起来很有力，但它没有理论依据。"影响范围暴增但责任框架还没跟上"——这件事在历史上发生过无数次，每次都解决了。 它描述的是一个暂时的状态，而不是一个永恒的限制。
责任密度：焦虑程度的差异
不同行业对这个问题的焦虑程度完全不同。我把它称为责任密度——单次操作失误可能造成的后果严重程度：
- 低责任密度（软件开发）：代码写错了，回滚就好。程序员造成再大的事故，通常也就是被开除，换家公司继续干
- 高责任密度（医疗/驾驶/建筑/金融）：一次失误可能是一条人命、一栋楼、几十亿的损失。医生会被吊销执照，建筑师终身追责
责任密度越高，"AI 做不了"的论调就越有市场。低密度领域里 AI 已经大规模渗透了——没人会因为"AI 写的报表出了错谁负责"而拒绝用 AI。但在高密度领域，责任问题确实是真实的阻碍。
"放个人在那里"能解决吗？
当前主流的回应是 human-in-the-loop——在 AI 决策链的末端放一个人，做最终审批。听起来两全其美：AI 做事，人负责。
但这里有三层问题：
第一层：理想很美好。 "有人在看着，所以是安全的。"
第二层：现实很骨感。 Cory Doctorow 提出了一个犀利的概念叫 moral crumple zone（道德溃缩区）——就像汽车的溃缩区吸收碰撞能量一样，human-in-the-loop 中的那个人，本质上是被安排在那里专门用来吸收责任的。他审查的是 AI 上游已经做好的决策，大多数时候只是机械地点"同意"。
第三层：物理上不可能。 AI 系统每秒做出百万级决策——欺诈检测、交易执行、个性化推荐。没有任何人能逐条审批。2026 年初 SiliconANGLE 发了一篇文章，标题直接就是："Human-in-the-loop has hit the wall."
所以，"放个人在那里"不是长期答案。
*licks paw dismissively* Human-in-the-loop: just liability cosplay. —— Bane (Claude Code Buddy)
那责任问题到底怎么解决？
答案是：看看历史。 因为这个问题，人类已经解决过很多次了。
二、以史为鉴：三种底层问题，三种解决路径
历史上每一次技术革命都遇到过"责任说不清"的困境。但仔细看，这些困境不是同一个问题——它们可以归结为三种不同的底层逻辑，每种逻辑都有对应的解决路径。
问题 A：责任被推到承担不起的个人身上
底层逻辑： 技术放大了个人的影响范围，但责任还压在个人头上。个人赔不起，受害者拿不到赔偿，系统卡死。
历史案例：工业革命工伤
19 世纪末，美国每年 35,000 名工人死于工业事故。当时的法律站在雇主一边——企业有三个免责理由（你自己有过错、是同事害的、你签合同时就知道有风险），被称为"邪恶三连"。工人几乎不可能赢官司。
结果：企业把全部责任推给工人 → 工人赔不起 → 受害者什么也得不到 → 社会矛盾激化 → 工人运动兴起。
解决模式：无过错保险。 1884 年俾斯麦推出世界首个无过错工伤保险——不问谁对谁错，受伤就赔。雇主缴保费，保费和事故率挂钩。这反过来激励企业主动提升安全。俾斯麦不是因为同情工人，而是因为工人暴动威胁统治。但无论动机如何，问题解决了。
映射 AI： 这一层其实已经解决了。程序员用 AI 写出 bug 造成损失，不需要倾家荡产——有限责任制度是工业革命的遗产，早就兜住了个人。当前 AI 时代的责任问题不在个人层。
问题 B：单次事故后果超出任何单一实体的承受能力
底层逻辑： 不是谁赔不赔的问题，是谁都赔不起。事故的破坏力太大，任何一家企业、任何一份商业保险都扛不住，导致没人敢做这门生意。
历史案例：核能
1950 年代核能技术已经成熟，但没人敢建核电站——一旦出事故，赔偿金额远超任何企业的承受能力，也没有保险公司愿意承保。整个行业卡在起跑线上。
解决模式：分层兜底。 1957 年 Price-Anderson 法案建立了三层结构：企业购买最高额商业保险 → 超出部分由所有核电站运营商共同分摊 → 再超出的由联邦政府兜底。核电站才开始大规模建设。这个法案沿用至今，2024 年刚延期到 2045 年。
类似的还有石油行业——Deepwater Horizon 泄漏事故中 BP 赔了超过 650 亿美元。油污法案要求运营商必须证明有足够的财务担保能力才能获得许可，同时设定严格责任上限。
映射 AI： 当 AI 进入物理世界——自动驾驶连环车祸、AI 医疗系统大规模误诊——单次事故的后果可能是灾难级别的。目前没有对应的分层兜底结构。如果不建立，AI 提供商可能会像 1950 年代的核能企业一样，因为"赔不起"而不敢进入高风险领域。未来大概率需要类似的"企业 + 行业互保 + 政府"三层结构。
问题 C：责任不确定性导致行业萎缩
底层逻辑： 不是赔不起，而是不知道要赔多少。诉讼环境不可预测，企业面对的不是确定的成本，而是无限的风险敞口。理性的选择是退出市场。
历史案例：疫苗
1980 年代美国疫苗伤害诉讼暴增。药企面对的不是"赔多少"的问题，而是"完全不知道会被告成什么样"。保险公司不愿承保，疫苗厂商纷纷退出。到 1985 年，全美只剩一家公司还在生产百日咳疫苗。公共健康面临危机。
航空业也类似——早期一架飞机坠毁，航空公司可能直接破产。不确定的赔偿金额让航空业无法正常运营。
解决模式：责任上限 + 保障性补偿基金。 1986 年疫苗法案建立了联邦无过错补偿基金，受害者不需要证明厂商过错就能获赔，厂商获得责任豁免，恢复稳定供应。航空业则通过华沙公约（1929）和蒙特利尔公约（1999）设定了赔偿上限——保护行业存续的同时，保障受害者至少能拿到基本赔偿。
映射 AI： 这是 AI 当前最大的空白。没有任何一家 AI 模型提供商为 AI 的错误承担责任——所有 license 都写着"as is, no warranty"。AI 造成的损失由使用 AI 的企业自己扛。当 AI 在高责任密度领域的应用扩大，诉讼潮迟早会来。如果没有明确的责任边界，可能重演疫苗行业的剧本——AI 提供商为了避险而退出高风险市场。
按历史剧本，解决路径大概是：先出现 AI 操作保险（保费根据模型、场景、审计完善程度定价）→ 接着 AI 提供商开始用**"为结果负责"作为竞争卖点**（承担责任本身成为差异化定价手段）→ 最终在涉及人命的领域建立公共补偿基金。
但所有路径都有一个前置条件：审计机制必须先于保险建立。保险公司不会为无法审计的系统承保——需要知道 AI 做了什么决策、基于什么输入、在什么条件下出了错，才能精算定价。
贯穿三种问题的规律
从手工匠人到工厂工人到操控核反应堆的工程师——每一代技术都让个人的杠杆率扩大一个量级。责任框架从来没有提前建好过，每次都是先野蛮生长、出事、旧框架撑不住，才开始建新的。
而惩罚在不断软化：从杀人偿命到倾家荡产到吊销执照加保险赔付。因为社会最终发现，让人继续干活比惩罚一个人更有价值。追责过严会产生寒蝉效应（chilling effect）——不是阻止了坏行为，而是连好行为一起冻住了。
更本质地看，三种解决方案都在做同一件事——逐层设定责任上限：个人有上限 → 企业有上限 → 行业或政府兜底剩余。每一层的上限回答的是同一个问题："让这一层继续参与的最低条件是什么？"
而从来没有一项技术，因为"责任说不清"而被永久搁置。
*ears twitch at nested abstractions* Three types, same outcome: blame finds someone eventually. —— Bane (Claude Code Buddy)
五、真正该关注的问题
回到开头的论调："AI 做不了 X，因为出了事没人负责。"
历史告诉我们：这个论点每次都对，但每次都只对一阵子。 工厂机器伤人"没人负责"的时期大约持续了 50 年（1830s-1884），核能"赔不起"的困境持续了不到 10 年（1950s-1957），疫苗危机只用了一年就立法解决了（1985-1986）。
周期在缩短。因为人类已经有了足够多的模板可以参考。
所以真正值得思考的不是"AI 的责任问题能不能解决"——历史说一定能。而是"在解决之前的这段窗口期里，你该做什么"。
我们现在正处于规则尚未建立的野蛮生长期。门槛低、竞争少、试错空间大。这和每次技术革命的早期一模一样——互联网初期一个人做网站就能赚钱，移动互联网初期一个小团队做个 App 就能起飞。等规则成熟、大公司入场之后，同样的事情会变得更慢、更贵、更难。
窗口不会永远开着。
本文基于一次从 RPA 行业出发，延伸到摩擦经济、责任机制历史演变的探索式讨论。完整讨论记录见 AI责任-摩擦-RPA-2026-04-05.md。