网易首页 > 网易号 > 正文 申请入驻

遭AI诬陷的律师:我不反AI, 只反甩锅AI的恶意侵权

0
分享至

当 AI 一本正经地 “胡说八道” 从订餐乌龙、误导退票,演变为凭空捏造犯罪事实、恶意诋毁个人名誉,技术的边界在哪里?谁该为 AI 的 “幻觉” 买单?

去年9月,北京锦钟律所黄贵耕律师因被AI造谣“威胁法官、伪造印章”,将涉事平台告上法庭。6月12日,在南都举办的数字经济治理沙龙现场,黄贵耕结合自身维权经历,剖析了生成式AI侵权背后的现实困境与法律争议。“我从未对AI宣战,我抵制的是将AI幻觉作为恶意侵权挡箭牌的行为。”


黄贵耕律师在论坛现场在线发言。

从“荒诞乌龙”到“恶意诽谤”AI幻觉侵权正演变为公共危害

“作为一名执业律师,我亲身经历了被AI平台捏造虚假信息、恶意诽谤的全过程。”在论坛分享环节,黄贵耕展示了一组截图。截图中,AI精准标注了他的姓名和执业机构,并凭空捏造出他“威胁法官”“介绍贿赂”“伪造印章”“涉嫌刑事犯罪被吊销执照”等恶劣情节。

黄贵耕表示,这些虚假负面信息被案件当事人及亲友广泛传播,致使他的社会评价严重贬损,潜在客户流失不可估量,承受着巨大的精神压力。

这并非孤例。据黄贵耕介绍,南京李小亮律师、北京安振杰律师均遭涉事AI及其旗下产品捏造定罪判刑的虚假内容;公益人士寇延丁被无端诬陷“判刑十三年”;山东青年冀承祥被恶意编造“组织卖淫罪”;就连“清芝灵卵磷脂”“栖贤山黄酒”等企业产品也未能幸免,被造谣为禁售商品。除了李小亮一案已宣判外,律师黄贵耕、作家寇延丁两人分别提起的另外两起诉讼,目前仍处于法院审理程序。

“从自然人到企业,受害者范围持续扩大。”黄贵耕指出,这类频繁侵害不特定个人名誉权的行为,已不仅是针对个人的伤害,更暴露出极大的公共危害性,势必造成社会秩序混乱和公众对AI技术的信任崩塌。

在黄贵耕的维权交涉中,涉事平台搬出“AI幻觉”作为挡箭牌,声称这是当前大模型技术发展的局限性。对此,黄贵耕不能认同。在他看来,“AI幻觉”本质是模型对数据分布的错误理解,通常表现为位置不准、数量偏差等轻微瑕疵。这与该平台编造他人罪名、篡改司法记录等行为的危害性不可等同,绝非“不可避免的技术误差”。他也同步横向对比了豆包、DeepSeek、千问等同类AI产品,发现在输入相同关键词后,其他主流大模型均能通过过滤机制拦截侵权内容。

黄贵耕从技术归因角度剖析了涉事平台输出的核心原因:一是训练数据缺陷,平台未接入权威数据库,反而在抓取网络负面信息后擅自“去匿名化”,将他人处罚记录张冠李戴;二是算法设计导向偏差,在交互中反复通过“关联问题引导”主动推送负面提问,靠流量变现驱动侵权;三是校验机制缺失,对涉及犯罪事实等高风险内容没有任何人工核验或风险提示。

“AI幻觉”成平台侵权挡箭牌?享受AI红利必须承担对等责任

在遭遇AI侵权后,受害者面临的最大痛点是“算法黑箱”。普通人很难证明平台在数据投喂和算法设计中存在具体过错,也难以溯源虚假信息究竟是哪一次交互引发的。这种技术壁垒让受害者在维权时处于绝对弱势。

AI侵权发生后,平台是否真的无法核查和纠错?黄贵耕在论坛现场引用了山东教育电视台的一则报道:腾讯元宝AI在除夕夜出现辱骂用户的异常输出后,官方迅速核查日志并发布致歉声明,明确“与用户操作无关,不存在人工回复,属于小概率下的模型异常输出”,并承诺后续将紧急优化。

“这说明生成式AI服务提供者,具备对用户调取AI服务的操作日志进行全面核查及整改的技术能力。”因此黄贵耕认为,其所诉涉事平台以“AI幻觉”不可预见为由,在首次侵权出现后未及时整改,持续生成侵权内容,实属以算法黑箱甩锅。“这就像司机明知刹车失灵仍上路撞人,不能把责任推给汽车。”

在法律责任的界定上,黄贵耕驳斥了平台常引用的“技术中立”和“AI非民事主体”的免责逻辑。他认为,司法实践中,“技术中立”的前提是平台已尽到合理防控义务。若同行业其他产品可规避同类错误,唯独某平台反复出现恶性侵权,就证明平台存在明显过错。“所谓的‘避风港原则’,针对的是平台仅作为信息载体、供用户上传内容的情况。但我所诉的AI恶意侵权内容是平台自主生产的,本质是平台行为的延伸,根本不适用避风港原则。” 黄贵耕说,近期德国慕尼黑地方法院首次裁定谷歌要为 AI 搜索摘要的幻觉问题承担直接责任,这也印证了平台主体责任是全球共识

“就像养狗伤人主人要担责、汽车肇事司机要赔偿,平台从AI服务中攫取了巨大流量与商业收益,绝无可能只享红利而不承担风险。”他强调,根据《生成式人工智能服务管理暂行办法》等相关法规,AI 服务提供者必须落实内容安全主体责任。在将AI产品推向公众时,有义务对生成内容审核把关、留存日志、及时处置违法虚假信息。

尽管深受AI幻觉侵权之害,但黄贵耕始终对人工智能技术持正面态度。“AI 确实极大提高了工作效率,我日常也会使用豆包、元宝、Kimi 等 AI 产品作为办公助手。媒体报道中说我‘对 AI 宣战’,这是不准确的,我只是对涉事AI平台的恶意侵权行为说不。”

他认为,AI 行业必须告别 “重创新、轻风控,重流量、轻责任” 的野蛮生长模式。对此,他提出三点建议:平台要补全全流程风控,接入官方权威数据库,优化算法取消负面诱导设计,建立 7×24 小时投诉通道;监管部门要细化 AI 侵权处罚规则,对风控缺失、频繁恶性侵权的平台依法重罚,对缺陷 AI 产品必须像缺陷汽车一样召回整改;用户要提高警惕,涉及职业资质、司法记录等关键信息,务必通过官方渠道核实。

在技术狂飙突进的当下,如何打破算法黑箱、完善法律规制、让平台真正扛起主体责任,已成为生成式AI行业健康发展的必答题。“AI 的未来充满想象,但底线永远是法律与良知。” 黄贵耕在发言的最后表示,希望通过自己的维权经历,推动行业规范发展,让 AI 真正回归便民利民的本质,而非沦为伤人的利器。

出品:南都数字经济治理研究中心

采写:南都N视频记者吕虹 发自北京

更多报道请看专题:AI出错,谁为模型“幻觉”买单?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
德尚弃用35岁巨星!2-0领先不用他,世界杯0出场,和姆巴佩有过节

德尚弃用35岁巨星!2-0领先不用他,世界杯0出场,和姆巴佩有过节

体育知多少
2026-07-10 07:45:06
14亿!特效像ai,演员呲牙、瞪眼、装狠,《女足》票房越骂越高,长预告让谁破了防?

14亿!特效像ai,演员呲牙、瞪眼、装狠,《女足》票房越骂越高,长预告让谁破了防?

娱乐故事
2026-07-10 23:15:22
正式发布!中国足协任命新主教练,50岁著名教头

正式发布!中国足协任命新主教练,50岁著名教头

顺静自然
2026-07-10 08:45:13
管水库的人因承包出去养鱼,不舍得放水致水库漫堤?六蓝水库养殖公告照片引争议

管水库的人因承包出去养鱼,不舍得放水致水库漫堤?六蓝水库养殖公告照片引争议

火山詩话
2026-07-07 11:02:52
长沙女子彭某某身份被实锤,真容曝光,长得很漂亮,男子拒绝妥协

长沙女子彭某某身份被实锤,真容曝光,长得很漂亮,男子拒绝妥协

天天热点见闻
2026-07-10 10:30:50
长沙占车位 8 天不肯道歉事件:对方身份曝光,来头有点大,官方介入

长沙占车位 8 天不肯道歉事件:对方身份曝光,来头有点大,官方介入

李晚书
2026-07-10 11:51:09
独家 《天路》词曲作者发声:韩红10万元买断《天路》版权子虚乌有

独家 《天路》词曲作者发声:韩红10万元买断《天路》版权子虚乌有

草莓解说体育
2026-07-10 17:08:07
媒体锐评:“副处长被指霸道停车,拒不道歉”,“八小时以外”也要管

媒体锐评:“副处长被指霸道停车,拒不道歉”,“八小时以外”也要管

上观新闻
2026-07-10 20:10:37
记者:哥伦比亚国脚坎帕斯遭死亡威胁,未能随队回国

记者:哥伦比亚国脚坎帕斯遭死亡威胁,未能随队回国

懂球帝
2026-07-10 13:20:10
官媒定调:小米汽车1300公里中间只充一次电是恶意扭曲!网友呼吁:给其他被造谣的企业也写一篇吧

官媒定调:小米汽车1300公里中间只充一次电是恶意扭曲!网友呼吁:给其他被造谣的企业也写一篇吧

大白聊IT
2026-07-08 17:52:19
北京协和医院声明:纯属虚构,立即停止传播并删除

北京协和医院声明:纯属虚构,立即停止传播并删除

南方都市报
2026-07-10 15:19:29
“飞行员举报情人诈骗700余万案”二审改判:刑期从12年减为6年,家属称将申诉

“飞行员举报情人诈骗700余万案”二审改判:刑期从12年减为6年,家属称将申诉

红星新闻
2026-07-10 18:31:31
重磅!两部门:对氦气实施临时禁止出口管理!氦气是半导体制造的关键原料,“一天一个价”

重磅!两部门:对氦气实施临时禁止出口管理!氦气是半导体制造的关键原料,“一天一个价”

每日经济新闻
2026-07-10 17:31:09
德尚:很多人认为姆巴佩自私甚至是独裁者,但事实不是这样

德尚:很多人认为姆巴佩自私甚至是独裁者,但事实不是这样

懂球帝
2026-07-10 11:44:14
原来生命是这么的脆弱,网友:因为10天没有拉大便,结果人没了

原来生命是这么的脆弱,网友:因为10天没有拉大便,结果人没了

另子维爱读史
2026-07-10 19:48:19
华为注册了几乎整个山海经商标惹争议!反对方:吐槽“字研”,支持方:总比甲骨文被外国公司注册好

华为注册了几乎整个山海经商标惹争议!反对方:吐槽“字研”,支持方:总比甲骨文被外国公司注册好

新浪财经
2026-07-10 09:21:49
“有钱人不长你这样!”女孩晒天价矿泉水被嘲,家长认清现实!

“有钱人不长你这样!”女孩晒天价矿泉水被嘲,家长认清现实!

林林先生
2026-07-10 09:05:03
在俄罗斯被交警勒索300美元,威胁上手铐,最后让删除视频,网红自驾游遇到一串倒霉事

在俄罗斯被交警勒索300美元,威胁上手铐,最后让删除视频,网红自驾游遇到一串倒霉事

西虹市闲话
2026-07-10 14:36:38
特朗普问泽连斯基:你愿意去莫斯科吗?泽连斯基回答说那里有很多乌克兰的无人机 太危险了

特朗普问泽连斯基:你愿意去莫斯科吗?泽连斯基回答说那里有很多乌克兰的无人机 太危险了

每日经济新闻
2026-07-10 11:51:22
交通运输部:坚决拥护党中央决定

交通运输部:坚决拥护党中央决定

新京报
2026-07-10 19:49:40
2026-07-11 02:40:49
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
621438文章数 3589494关注度
往期回顾 全部

科技要闻

中国开启可回收火箭时代

头条要闻

广西有人抓上百斤蛇 有独居老人窗户几乎被蛇爬满

头条要闻

广西有人抓上百斤蛇 有独居老人窗户几乎被蛇爬满

体育要闻

法国VS摩洛哥:谁才是臭外地的?

娱乐要闻

韩国顶流李钟硕与IU官宣分手!

财经要闻

一封举报信 引发小红书IPO合规考验

汽车要闻

吉利银河TT:C级纯电轿跑新玩家 此TT非彼TT

态度原创

教育
手机
游戏
公开课
军事航空

教育要闻

大校专程送来录取通知书!山东双胞胎姐妹考上同一所军校

手机要闻

苹果正探索让iPhone本地跑更大规模AI模型,减少云端依赖

从夯到拉,锐评10款仍值得入坑的FPS爽游!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

以色列:已做好打击伊朗的准备

无障碍浏览 进入关怀版