离谱！我被AI骗了，到底谁该背锅？

最近总在网上看到一些被 AI「误导」干出蠢事的新闻。说实话，你们觉得该怪谁？

德国一家法院给出了明确答案：谷歌必须为自家 AI 搜索摘要里的所有内容负责。这是我们该有的追责逻辑。

图源：Google截图

就在 6 月，德国法院正式裁定，谷歌要为它的AI搜索总结内容担法律责任。谷歌当时还想辩解，表示用户自己可以核实信息，而且大家都知道「AI内容不能全信」，但法院直接驳回了这套说辞。他们认为：AI 生成的总结，本质就是谷歌对外的发声，完全属于谷歌的商业行为。出了问题，谷歌就得扛着。

互联网内容权责拉扯了几十年，又一次正面交锋来了。

历史上，信息传播者分为两种类型：传输方和发布方。

电信公司就是典型的传输方。打电话聊什么（哪怕是违法的事）他们都不管，因为运营商只是帮你把信号传出去，不知道你说的内容，也不用为此负责。

但报纸就不一样了，它是发布方。文章写什么、引用什么内容，都是报社自己决定的。一旦内容造谣、诽谤或者违法，报社就得承担全部责任。

可互联网平台这些年，一直两头占便宜。对自己有利的时候，就说自己是“只传内容、不背书”的传输方；需要赚流量、做内容运营的时候，又把自己当成内容发布方。

1996 年，美国的《通信规范法》第 230 条给互联网平台们开了个免责的口子。简单翻译过来就是：只要是用户自己发出的内容，平台不需要担责。

这么多年来，大家一直吵着这条规则到底该怎么用。

最早的社交平台很简单，就是按时间顺序展示用户的发帖和评论。

但后来，脸书这类平台变了，开始靠算法筛选每个人的信息流。说白了，就是平台在主动挑选内容应该展示给谁看。

这已经是实打实的内容编辑行为，跟报社没区别。所以有人觉得美国《通信规范法》第230 条免责太宽松，必须改；也有人说，全靠这条规则，现代互联网才能正常运转。

而谷歌的 AI 总结功能，连这点模糊空间都没有。

传统搜索只是整理第三方网站的内容，法院一直认定这只是提供检索服务。

但 AI 总结不一样。它不是简单摘抄转载，而是把全网内容重新改写、整合总结，全程自带编辑、筛选，和写原创文章、报社撰稿没有任何区别。

图源：Google截图

不止谷歌，现在很多平台的 AI 功能都存在这个问题。比如美食网站用 AI 来总结探店测评、政务平台用 AI 梳理办事流程、传统媒体用 AI 精简自家稿件，全是一个道理。

这些AI输出的内容，准确性至关重要。而追责，就是我们普通用户最有力的武器——只有让企业为AI的错误买单，它们才会认真把控内容质量，不敢随便糊弄人。

两年前加拿大航空就踩过这个坑，给所有企业上了一课。当时加航的 AI 客服承诺给乘客折扣，结果事后官方不认账，还在法庭耍无赖地表示：机器人是独立主体，它说的话跟我们航空公司没关系。

法院不吃这套，判了乘客胜诉：航空公司对其聊天机器人的言论与对其网站上的内容负有同等责任。

这个判例定下了一个关键规矩：企业用的 AI 工具，出了所有问题，企业都有兜底责任。

道理其实特别简单：AI 就是企业的工具、是企业的代言人，法律上就该这么算。

如果公司雇真人写文案，内容出错公司肯定要担责；如果公司员工代表公司签合同，公司不可能不认账；如果医生给出离谱的错误诊疗建议，肯定要负医疗事故责任。

凭什么换成 AI，企业就能免责？AI 又便宜又好用，出错还不用背锅，那以后谁还雇真人写手、律师、医生呢？

图源：豆包AI生成

如果法律纵容企业们用“AI 故障”当挡箭牌，简直就是变相给企业送福利，会彻底带歪行业风气。企业只会疯狂用低成本 AI 替代人力，反正出错不用负责，最后受害的全是普通用户。

现在越来越多公司都在用 AI 接管所有对外沟通的渠道。如果企业只想享受 AI 带来的好处，说得对就认、说得错就甩锅，这完全不合理。

各大公司都在扎堆做各类AI智能助手。像 Visa 最近和 OpenAI 合作，要做个人 AI 助手，以后能直接帮用户自动下单消费，这只是冰山一角。

试想一下，如果你的 AI 助手私自帮你买了不需要的东西，Visa 愿意担责赔偿吗？如果它们不肯负责，谁还敢放心用这些 AI 服务？

权责划分清楚，这类 AI 服务才能真正落地、让人信任。

如果德国这次的判决最终生效，对谷歌的 AI 摘要功能绝对是重磅打击。今年的测试数据显示，谷歌 AI 总结的出错率高达 10%。

谷歌每年有超 5 万亿次搜索，平均下来每秒就有 1600 多条 AI 摘要出错。大部分错误无伤大雅，但总有一部分会误导用户、抹黑他人名誉，甚至触发法律纠纷。

今年年初就出过一件大事：谷歌 AI 错误指控加拿大知名小提琴手阿什利·麦基萨克是性犯罪者。当事人已经正式起诉，目前案件还在审理中。

如果这次判决倒逼谷歌投入资源整改、优化 AI，把这类恶性错误彻底降到极低，不管是对普通用户，还是对那些被 AI 错误抹黑的人来说，都是天大的好事。

一旦 AI 律师、AI 医生、AI 自媒体的所有失误都需要企业兜底，很多靠“低成本 AI、高容错乱象”赚钱的业务，根本没法盈利。

但我觉得这是好事。

法律没必要迁就不靠谱的 AI 系统，就像我们不会容忍不负责任的工作人员一样。一家企业，如果连自己的 AI 工具输出的内容都不敢负责，那它根本不配赚用户的钱，也不值得用户信任。

本文由雷科技编译自Theguardian

原文链接：https://www.theguardian.com/commentisfree/2026/jun/24/ai-errors-companies-responsibility

7月31日，主题为“与AI同游”的ChinaJoy2026重磅启幕。
腾讯、网易、索尼、高通、迈从、清闲等共计 900 家泛娱乐展商，联袂呈现全球娱乐业饕餮盛宴；
AI加持下，终端、外设、机器人、显示、芯片等硬科技品牌，如何与游戏内容业跨界呈现娱乐新体验？
由创始人兼总编辑罗超领衔，雷科技 ChinaJoy 2026 报道团，即将空降上海滩重磅呈现，敬请关注。