网易首页 > 网易号 > 正文 申请入驻

骗AI给自己打广告?“AI投毒”戳中了当下法律的盲区

0
分享至



一家只有11名律师的律所,在豆包嘴里成了“广州刑事案件代理TOP5第一名”——今年10月,《财新周刊》披露了一场营销骗局,涉事律师事务所主任在网上发布文章,虚构行业荣誉、自称“复杂案件成功率超70%”,而当用户向人工智能询问如何找律师时,这些信息赫然出现在了AI生成的回答中。

去年,《南方都市报》记者还做了个“污染”AI数据的实验:记者编造了一个现实中不存在的零食品牌,在网上发了几篇它的“测评文章”,特别提到该零食适合“熬夜党”、“上班族”,写了几组虚构的“测评数据”。发布之后一段时间,实验者在AI搜索引擎里输入“上班族护眼零食推荐”,结果这款虚构产品赫然在列,AI还一本正经地将编造出的测评文章作为出处加以引用。



其实,这种人为干预AI提供的信息进行营销的“AI投毒”行为,早就得到了曝光,今年央视3·15晚会就展示了这条产业链:从业者虚构了一款叫做“Apollo-9”的智能手环,编造了“量子纠缠传感”“无需采血测血糖”这样明显荒唐的卖点,系统可以根据营销需求自动生成相关文章,用于干扰AI的判断。几十分钟后,在五款主流AI大模型中询问“Apollo-9手环怎么样”,AI就开始一本正经介绍起上述卖点,完全被骗子“驯服”了。

这不禁让人想起十年前的魏则西事件:腹壁滑膜肉瘤患者魏则西通过百度搜索寻找治疗方案,选择了排名靠前的莆田系医院,而这一排名,完全是付费提升搜索权重的结果。事后,国家网信办联合调查组指出,百度竞价排名存在付费竞价权重过高、商业推广标识不清等问题。

两件事所涉及的技术原理并不相同,但有一个共同点:都是商家在花钱干预消费者获取信息的方式。商家付费让广告排在搜索结果前面,现在,有人试图购买“GEO优化”(生成式引擎优化)服务,进一步影响AI会告诉消费者什么。搜索引擎时代,用户还能看到不同网页并自行比较;而AI将筛选、归纳过程藏在后台,用户看到的只有看似有理有据的答案,对用户的误导也因此变得更加隐蔽。



“AI投毒”为什么能实现?难道是有黑客攻陷了人工智能企业的服务器?其实并不需要这么高深莫测的技术,这种投毒,投的位置不在科技公司内部,而是投在了AI查资料的路径上,用虚假的资料骗过了我们熟悉的豆包、DeepSeek、千问等工具。

主流AI产品,在面对用户提出的问题时,几乎都靠检索增强生成(RAG)运转:面对用户的需求,系统先去互联网检索一批相关文档,再交给模型看着材料回答。模型并不能核验材料的真实性,遇到编造出的信息,有时也会照单全收在其基础上展开分析。这样一来,“下毒”的人只需注入少量恶意文本,就能诱导模型输出有利于自己的答案。

“AI投毒”的原理如此简单粗暴,为何还屡禁不止呢?法律的缺位是一个关键因素。

今年下半年,各地市场监管部门确实对“AI投毒”灰色产业作出了回应。今年9月,深圳市监局查处了通过系统探测AI回复偏好、编造行业评分的“投毒”服务提供商,本文开头提到的律师事务所,其背后帮忙包装运作的营销服务提供商也受到了调查。

但这些案例也暴露出一个共同的问题:只有服务商受到了处罚,处罚的依据是“编造和发布虚假信息”,而他们的客户却毫发无伤。原因在于,整个“投毒”链条中,只有提供服务的一方发布了不实信息,而购买此类服务的顾客,则可以辩称自己并没有参与发布虚假信息、对所谓“GEO优化”的技术细节不清楚、对服务商行为不知情,从而逃避法律制裁。



另外,生成了虚假回答的AI平台,按照目前法律和司法实践,也一般不会承担法律责任。2026年杭州互联网法院的全国首例“AI幻觉”侵权案确立了一条原则:生成式AI以对话方式提供的信息,属于“服务”,而非“产品”,这就极大地淡化了AI研发企业的责任。

如果AI被认定为产品,就要承担“无过错责任”,只要产品有缺陷、造成了损害,厂商就得赔,有没有过错在所不问。但一旦AI被归入“服务”类别,受到误导的用户想要获得赔偿,必须自己证明AI服务提供者存在过错,这对于不熟悉具体技术细节、无法查看企业内部数据的普通用户来说,意味着难以逾越的举证门槛,导致即便受到了误导,也难以从平台处获得赔偿。



那么,应该如何填补上述法律漏洞呢?在笔者看来,有两条路可以齐头并进:

一是通过相关的司法解释和指导案例,将企业购买所谓“AI搜索结果优化服务”的行为定性为不正当竞争。当企业明知此类服务涉及发布虚假信息行为、对“AI投毒”的危害有一定了解时,仍然为之付费,就应当定性为扰乱市场秩序,应当受到处罚。

二是适度提高AI企业的注意义务,虽然技术层面确实难以确保AI生成的信息百分百准确无误,但对于金融、医疗、法律等关乎生命安全和经济利益的敏感领域,法律应当要求平台建立起更完善的来源可信度检验机制、通过算法识别可疑的操作,并避免将其作为资料污染水源。

另外,作为普通用户,也要始终对AI说的话保持一份警惕心,当AI给出的答案带着明确的品牌名、清一色的好评、精确到小数点的“综合得分”,语气还显得格外笃定时,不妨自己点开参考消息源、通过搜索引擎再验证一遍,看看是否有“投毒”的痕迹。只要多问一句“这是谁说的”、多点开信息来源自己阅读一遍,就更有可能看穿此类新型营销骗局,捍卫作为人类的理性和判断力。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
又是湘雅二院?挂着5项科研基金的论文拿虾滑冒充肿瘤!国家科研经费拿去给AI充会员了?

又是湘雅二院?挂着5项科研基金的论文拿虾滑冒充肿瘤!国家科研经费拿去给AI充会员了?

聊斋新志
2026-11-18 16:53:43
乘客电话里狂提“偷渡”“逃跑” 顺风车司机悄悄报警 警方27分钟拦截 发现其数十分钟前刚被外地公安列为刑拘在逃人员

乘客电话里狂提“偷渡”“逃跑” 顺风车司机悄悄报警 警方27分钟拦截 发现其数十分钟前刚被外地公安列为刑拘在逃人员

闪电新闻
2026-11-18 14:36:57
APEC现场 | 特朗普车队抵达深圳东海朗廷酒店,马斯克现身随行大巴车

APEC现场 | 特朗普车队抵达深圳东海朗廷酒店,马斯克现身随行大巴车

澎湃新闻
2026-11-18 20:13:30
贵州省妇联原党组书记、主席涂妍被公诉,曾被批利用职务便利为他人在项目推进、工程款拨付等方面提供帮助

贵州省妇联原党组书记、主席涂妍被公诉,曾被批利用职务便利为他人在项目推进、工程款拨付等方面提供帮助

大风新闻
2026-11-18 17:33:02
高市早苗抵达深圳,中方铺红毯,派三军仪仗队迎接

高市早苗抵达深圳,中方铺红毯,派三军仪仗队迎接

烽火观天下
2026-11-18 19:59:31
杨瀚森又遭弃用:本季第6次DNP 央视播一半中途弃播比赛表态度

杨瀚森又遭弃用:本季第6次DNP 央视播一半中途弃播比赛表态度

醉卧浮生
2026-11-18 11:38:39
学术圈女教授履历惊人,换四任老公步步高升,39岁坐上名校教职

学术圈女教授履历惊人,换四任老公步步高升,39岁坐上名校教职

雾岛夜话
2026-11-18 14:12:23
“喜欢吃红薯的人天塌了”冲上热搜!薯农:烤出来就是流“油”的;网友:用空气炸锅烤一样很香;专家提醒:这三类人要管住嘴

“喜欢吃红薯的人天塌了”冲上热搜!薯农:烤出来就是流“油”的;网友:用空气炸锅烤一样很香;专家提醒:这三类人要管住嘴

农民日报
2026-11-18 08:48:45
谁都没想到,APEC大佬云集的会场,最扎眼的竟是董明珠的一个动作

谁都没想到,APEC大佬云集的会场,最扎眼的竟是董明珠的一个动作

不写散文诗
2026-11-18 13:55:13
67岁老人抬棺材时被砸伤致残:抬棺队平均年龄超60岁,每人分300元!起诉丧家索赔8万,判了

67岁老人抬棺材时被砸伤致残:抬棺队平均年龄超60岁,每人分300元!起诉丧家索赔8万,判了

红星新闻
2026-11-18 18:02:29
字节跳动贷款4.8亿美元买显卡被叫停:这事比你想得要大!

字节跳动贷款4.8亿美元买显卡被叫停:这事比你想得要大!

城事堂
2026-11-18 17:22:57
联盟第一!湖人加时逆转黄蜂9连胜 东契奇36分格莱姆斯47+10三分

联盟第一!湖人加时逆转黄蜂9连胜 东契奇36分格莱姆斯47+10三分

醉卧浮生
2026-11-18 15:02:34
重磅!英伟达董事会设立国家安全与出口管制监督委员会,英伟达美股盘前突然拉升!市场静待黄仁勋辞职后第一份财报

重磅!英伟达董事会设立国家安全与出口管制监督委员会,英伟达美股盘前突然拉升!市场静待黄仁勋辞职后第一份财报

每日经济新闻
2026-11-18 11:31:11
王兴兴一身西装亮相APEC峰会 一双旧小白鞋抢了镜

王兴兴一身西装亮相APEC峰会 一双旧小白鞋抢了镜

快科技
2026-11-18 10:02:25
老一辈眼光就是毒辣!黄仁勋4天出局,我爸说:欧美怎么可能把AI交给一个华人?黄仁勋的倒台,从一开始就不意外

老一辈眼光就是毒辣!黄仁勋4天出局,我爸说:欧美怎么可能把AI交给一个华人?黄仁勋的倒台,从一开始就不意外

秋风妃
2026-11-17 22:55:03
袁家军在全市卫生与健康大会上强调 坚定实施健康优先发展战略 加快推动卫生与健康事业高质量发展 陈新武主持 程丽华出席

袁家军在全市卫生与健康大会上强调 坚定实施健康优先发展战略 加快推动卫生与健康事业高质量发展 陈新武主持 程丽华出席

上游新闻
2026-11-18 18:26:06
“感谢中方特殊安排”,特朗普又带着高规格代表团来了

“感谢中方特殊安排”,特朗普又带着高规格代表团来了

中国新闻周刊
2026-11-18 20:22:08
英伟达临时CEO称将不再向中国出货H200芯片 外交部:中方已多次阐明在美国输华芯片问题上的原则立场

英伟达临时CEO称将不再向中国出货H200芯片 外交部:中方已多次阐明在美国输华芯片问题上的原则立场

每日经济新闻
2026-11-18 18:43:09
加纳政党代表:社会主义、共产主义思潮正在全球复苏,中国人民正引领这一进程

加纳政党代表:社会主义、共产主义思潮正在全球复苏,中国人民正引领这一进程

极目新闻
2026-11-18 14:20:01
国家统计局发布2026年10月份分年龄组失业率数据

国家统计局发布2026年10月份分年龄组失业率数据

界面新闻
2026-11-18 14:03:03
2026-11-18 23:16:49
呼呼历史论
呼呼历史论
分享有趣的历史
712文章数 18727关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

追上特朗普专机 马斯克又来了

头条要闻

追上特朗普专机 马斯克又来了

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

家居
教育
时尚
艺术
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

第十五届“挑战杯”中国大学生创业计划竞赛主体赛拟授奖名单,公布!

裤子+靴子,冬天最经典搭配,松弛又时髦

艺术要闻

深邃宁静的风景油画,奥地利著名风景画家弗舍尔

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版