网易首页 > 网易号 > 正文 申请入驻

遭AI诬陷的律师:我不反AI, 只反甩锅AI的恶意侵权

0
分享至

当 AI 一本正经地 “胡说八道” 从订餐乌龙、误导退票,演变为凭空捏造犯罪事实、恶意诋毁个人名誉,技术的边界在哪里?谁该为 AI 的 “幻觉” 买单?

去年9月,北京锦钟律所黄贵耕律师因被AI造谣“威胁法官、伪造印章”,将涉事平台告上法庭。6月12日,在南都举办的数字经济治理沙龙现场,黄贵耕结合自身维权经历,剖析了生成式AI侵权背后的现实困境与法律争议。“我从未对AI宣战,我抵制的是将AI幻觉作为恶意侵权挡箭牌的行为。”


黄贵耕律师在论坛现场在线发言。

从“荒诞乌龙”到“恶意诽谤”AI幻觉侵权正演变为公共危害

“作为一名执业律师,我亲身经历了被AI平台捏造虚假信息、恶意诽谤的全过程。”在论坛分享环节,黄贵耕展示了一组截图。截图中,AI精准标注了他的姓名和执业机构,并凭空捏造出他“威胁法官”“介绍贿赂”“伪造印章”“涉嫌刑事犯罪被吊销执照”等恶劣情节。

黄贵耕表示,这些虚假负面信息被案件当事人及亲友广泛传播,致使他的社会评价严重贬损,潜在客户流失不可估量,承受着巨大的精神压力。

这并非孤例。据黄贵耕介绍,南京李小亮律师、北京安振杰律师均遭涉事AI及其旗下产品捏造定罪判刑的虚假内容;公益人士寇延丁被无端诬陷“判刑十三年”;山东青年冀承祥被恶意编造“组织卖淫罪”;就连“清芝灵卵磷脂”“栖贤山黄酒”等企业产品也未能幸免,被造谣为禁售商品。除了李小亮一案已宣判外,律师黄贵耕、作家寇延丁两人分别提起的另外两起诉讼,目前仍处于法院审理程序。

“从自然人到企业,受害者范围持续扩大。”黄贵耕指出,这类频繁侵害不特定个人名誉权的行为,已不仅是针对个人的伤害,更暴露出极大的公共危害性,势必造成社会秩序混乱和公众对AI技术的信任崩塌。

在黄贵耕的维权交涉中,涉事平台搬出“AI幻觉”作为挡箭牌,声称这是当前大模型技术发展的局限性。对此,黄贵耕不能认同。在他看来,“AI幻觉”本质是模型对数据分布的错误理解,通常表现为位置不准、数量偏差等轻微瑕疵。这与该平台编造他人罪名、篡改司法记录等行为的危害性不可等同,绝非“不可避免的技术误差”。他也同步横向对比了豆包、DeepSeek、千问等同类AI产品,发现在输入相同关键词后,其他主流大模型均能通过过滤机制拦截侵权内容。

黄贵耕从技术归因角度剖析了涉事平台输出的核心原因:一是训练数据缺陷,平台未接入权威数据库,反而在抓取网络负面信息后擅自“去匿名化”,将他人处罚记录张冠李戴;二是算法设计导向偏差,在交互中反复通过“关联问题引导”主动推送负面提问,靠流量变现驱动侵权;三是校验机制缺失,对涉及犯罪事实等高风险内容没有任何人工核验或风险提示。

“AI幻觉”成平台侵权挡箭牌?享受AI红利必须承担对等责任

在遭遇AI侵权后,受害者面临的最大痛点是“算法黑箱”。普通人很难证明平台在数据投喂和算法设计中存在具体过错,也难以溯源虚假信息究竟是哪一次交互引发的。这种技术壁垒让受害者在维权时处于绝对弱势。

AI侵权发生后,平台是否真的无法核查和纠错?黄贵耕在论坛现场引用了山东教育电视台的一则报道:腾讯元宝AI在除夕夜出现辱骂用户的异常输出后,官方迅速核查日志并发布致歉声明,明确“与用户操作无关,不存在人工回复,属于小概率下的模型异常输出”,并承诺后续将紧急优化。

“这说明生成式AI服务提供者,具备对用户调取AI服务的操作日志进行全面核查及整改的技术能力。”因此黄贵耕认为,其所诉涉事平台以“AI幻觉”不可预见为由,在首次侵权出现后未及时整改,持续生成侵权内容,实属以算法黑箱甩锅。“这就像司机明知刹车失灵仍上路撞人,不能把责任推给汽车。”

在法律责任的界定上,黄贵耕驳斥了平台常引用的“技术中立”和“AI非民事主体”的免责逻辑。他认为,司法实践中,“技术中立”的前提是平台已尽到合理防控义务。若同行业其他产品可规避同类错误,唯独某平台反复出现恶性侵权,就证明平台存在明显过错。“所谓的‘避风港原则’,针对的是平台仅作为信息载体、供用户上传内容的情况。但我所诉的AI恶意侵权内容是平台自主生产的,本质是平台行为的延伸,根本不适用避风港原则。” 黄贵耕说,近期德国慕尼黑地方法院首次裁定谷歌要为 AI 搜索摘要的幻觉问题承担直接责任,这也印证了平台主体责任是全球共识

“就像养狗伤人主人要担责、汽车肇事司机要赔偿,平台从AI服务中攫取了巨大流量与商业收益,绝无可能只享红利而不承担风险。”他强调,根据《生成式人工智能服务管理暂行办法》等相关法规,AI 服务提供者必须落实内容安全主体责任。在将AI产品推向公众时,有义务对生成内容审核把关、留存日志、及时处置违法虚假信息。

尽管深受AI幻觉侵权之害,但黄贵耕始终对人工智能技术持正面态度。“AI 确实极大提高了工作效率,我日常也会使用豆包、元宝、Kimi 等 AI 产品作为办公助手。媒体报道中说我‘对 AI 宣战’,这是不准确的,我只是对涉事AI平台的恶意侵权行为说不。”

他认为,AI 行业必须告别 “重创新、轻风控,重流量、轻责任” 的野蛮生长模式。对此,他提出三点建议:平台要补全全流程风控,接入官方权威数据库,优化算法取消负面诱导设计,建立 7×24 小时投诉通道;监管部门要细化 AI 侵权处罚规则,对风控缺失、频繁恶性侵权的平台依法重罚,对缺陷 AI 产品必须像缺陷汽车一样召回整改;用户要提高警惕,涉及职业资质、司法记录等关键信息,务必通过官方渠道核实。

在技术狂飙突进的当下,如何打破算法黑箱、完善法律规制、让平台真正扛起主体责任,已成为生成式AI行业健康发展的必答题。“AI 的未来充满想象,但底线永远是法律与良知。” 黄贵耕在发言的最后表示,希望通过自己的维权经历,推动行业规范发展,让 AI 真正回归便民利民的本质,而非沦为伤人的利器。

出品:南都数字经济治理研究中心

采写:南都N视频记者吕虹 发自北京

更多报道请看专题:AI出错,谁为模型“幻觉”买单?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美国夫妻46万美元拍下一栋百年废弃豪宅,拿到钥匙后傻眼:整片房子都被“它们”占领了……

美国夫妻46万美元拍下一栋百年废弃豪宅,拿到钥匙后傻眼:整片房子都被“它们”占领了……

北美省钱快报
2026-08-29 06:36:45
在大陆骗吃骗喝,在台湾搞“暗独”,“两面人”夏立言终于不演了

在大陆骗吃骗喝,在台湾搞“暗独”,“两面人”夏立言终于不演了

南书房
2026-08-29 06:45:12
被孙宇晨曝"私密事"后,"一言不发"的景甜,不再顾及所谓的体面

被孙宇晨曝"私密事"后,"一言不发"的景甜,不再顾及所谓的体面

傲傲讲历史
2026-08-28 10:13:29
丽江通报:导游王某东已被拘留

丽江通报:导游王某东已被拘留

南方都市报
2026-08-30 11:27:21
“每一个都生无可恋、毫无朝气”,军训学生面相火了,家长:精气神呢

“每一个都生无可恋、毫无朝气”,军训学生面相火了,家长:精气神呢

番外行
2026-08-29 10:25:00
孙宇晨大意失民心:赵长鹏取关,王小川再炮轰,古早前女友揭短

孙宇晨大意失民心:赵长鹏取关,王小川再炮轰,古早前女友揭短

鞭牛士
2026-08-29 14:35:07
2年1.367亿美元!库里正式获得续约资格:若等明夏可签3年2.07亿

2年1.367亿美元!库里正式获得续约资格:若等明夏可签3年2.07亿

罗说NBA
2026-08-30 06:45:10
将消防员送到吉隆口岸,直升机难以实现,为啥无人机却先做到了?

将消防员送到吉隆口岸,直升机难以实现,为啥无人机却先做到了?

陶慕剑地球观察
2026-08-30 07:40:40
铁饭碗要碎了?卫生院、街道办、教师编等基层单位的人也发不出工资了!

铁饭碗要碎了?卫生院、街道办、教师编等基层单位的人也发不出工资了!

黯泉
2026-08-30 10:59:26
朱忠明已任上海市政府党组书记

朱忠明已任上海市政府党组书记

极目新闻
2026-08-29 19:13:28
1-0!英超升班马开局2连胜+紧追曼城 第82分钟绝杀 送兰帕德2连败

1-0!英超升班马开局2连胜+紧追曼城 第82分钟绝杀 送兰帕德2连败

我爱英超
2026-08-30 00:06:16
网友问张继科:景甜后背是不是你的名字?张继科回答让人很意外

网友问张继科:景甜后背是不是你的名字?张继科回答让人很意外

七阿姨爱八卦
2026-08-28 16:46:43
孙宇晨背景被扒:外公副市长、父亲公务员,85 亿身家却 8 年回不了国

孙宇晨背景被扒:外公副市长、父亲公务员,85 亿身家却 8 年回不了国

一盅情怀
2026-08-29 13:04:10
易建联为妻儿在洛杉矶建造的豪宅已化为灰烬,如今这块2000平方米空地的估值浮出水面,金额出人意料,房产经纪人透露了实情

易建联为妻儿在洛杉矶建造的豪宅已化为灰烬,如今这块2000平方米空地的估值浮出水面,金额出人意料,房产经纪人透露了实情

人生录
2026-08-29 00:05:14
孙割不体面,有人帮他体面

孙割不体面,有人帮他体面

求实处
2026-08-29 20:10:29
新瓜,孙宇晨彻底吊打景甜!

新瓜,孙宇晨彻底吊打景甜!

财经要参
2026-08-29 07:05:19
尼日利亚赖掉中国千万卫星费,中方警告完,转头20亿订单砸向以法

尼日利亚赖掉中国千万卫星费,中方警告完,转头20亿订单砸向以法

共工之锚
2026-08-30 00:31:08
“看见你就恶心!”男生化全妆军训被教官骂恶心,哭诉后晒照!

“看见你就恶心!”男生化全妆军训被教官骂恶心,哭诉后晒照!

世界圈
2026-08-28 19:37:01
老人重伤转了四家医院不敢治,家属发帖控诉,网友都为医生捏把汗

老人重伤转了四家医院不敢治,家属发帖控诉,网友都为医生捏把汗

天天热点见闻
2026-08-29 08:49:46
景甜背后的金主之谜!时间回到15年前,王思聪早已道出事实

景甜背后的金主之谜!时间回到15年前,王思聪早已道出事实

文刀贰
2026-08-28 04:10:03
2026-08-30 14:35:00
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
630055文章数 3590310关注度
往期回顾 全部

科技要闻

OpenClaw:红过,爱过,散了

头条要闻

女警文燕在泥石流灾害中失联 父亲心痛:我就一个女儿

头条要闻

女警文燕在泥石流灾害中失联 父亲心痛:我就一个女儿

体育要闻

梅西登顶美职联射手榜 任意球双响+1v3炫技

娱乐要闻

演员张蓝心发文 疑为隔空声援景甜

财经要闻

净利润暴跌94%,影石崩了?

汽车要闻

巨幕长联屏/天神之眼/云辇-C 方程豹钛9将于四季度上市

态度原创

本地
健康
房产
时尚
公开课

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

脑出血两大夺命风险,早治早保命!

房产要闻

突发,三亚又大量卖地!

乐福鞋,搞定一周穿搭

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版