网易首页 > 网易号 > 正文 申请入驻

AI“幻觉”包名变成了真实的恶意软件

0
分享至

大语言模型随口编出的软件包名称,正在被攻击者注册成真正的恶意程序。当开发者用GPT-4这类助手写代码时,助手偶尔会“幻觉”出一个看起来很合理的第三方库,攻击者只需提前占坑,就能把后门送到生产环境。

这种攻击叫“slopsquatting”——利用模型生成虚假但似真的依赖名,再将其植入公开仓库。攻击逻辑很直接:模型产生幻觉名→攻击者注册幻名包→开发者或被AI工具自动引入这个包→恶意代码注入项目。整个过程没有复杂的漏洞利用,只靠对AI输出习惯的预判。


扫描这种威胁的思路也相对明确:对每个依赖项检查它在公开仓库中是否存在。如果仓库里找不到对应的注册信息,就标记为潜在风险。核心代码不过几十行——用Python封装一个检查函数,查询仓库接口,再将项目里的全部依赖轮询一遍。提到的例子中,扫描逻辑把“example-package”“fake-package”这类名字送进registry.api校验,返回200就算存在,否则打上安全警告。

攻击者要完成一次slopsquatting,前面需要走通三步:看准模型高频幻想的包名风格;实时监控并抢注对应的空包;让被污染的包进入实际构建链。只要开发者或AI工具不核对仓库注册情况,恶意依赖就会溜进项目。而且这种攻击不需要窃取凭证,也不依赖任何零日,本质上是对自动化信任的滥用。

防御要从依赖验证流程入手。每次引入一个新包,先通过公开仓库接口做存在性检查;自动化扫描管线里加入对“未被注册依赖”的阻断;定期回扫已有依赖,防止攻击者事后注册。文中给出的脚本思路就是把校验动作前置,不等构建失败才发现问题。

slopsquatting之所以值得关注,是因为它把AI模型的随机输出变成了稳定的攻击面。哪怕模型只是偶尔“胡编”,只要攻击者押中一次,影响就能沿供应链扩散。与其指望模型不再幻觉,不如在工程侧补上验证这一环。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
6.4万的“特斯拉FSD”,你会买吗?

6.4万的“特斯拉FSD”,你会买吗?

中国新闻周刊
2026-05-30 22:05:16
南开院长、中大副院长被撸!耿同学明明赢了,为啥彻底输了?

南开院长、中大副院长被撸!耿同学明明赢了,为啥彻底输了?

大江看潮
2026-05-31 09:37:53
恩里克封神!大巴黎点球复仇阿森纳,英超统治欧洲梦碎

恩里克封神!大巴黎点球复仇阿森纳,英超统治欧洲梦碎

耀阳体育
2026-05-31 11:04:20
阿曼达一身棕色,背的包竟是20美元平替

阿曼达一身棕色,背的包竟是20美元平替

娱圈观察员
2026-05-31 00:23:38
别人怕以色列,中国不怕!欧美集体失声,凭什么中国敢动真格?

别人怕以色列,中国不怕!欧美集体失声,凭什么中国敢动真格?

贱议你读史
2026-05-31 00:22:08
《百年孤独》道破人性:能陪你走完一生的,不是亲人伴侣,是骨子里的两样东西

《百年孤独》道破人性:能陪你走完一生的,不是亲人伴侣,是骨子里的两样东西

心理观察局
2026-05-31 06:56:08
离开北京陈盈骏道别,发声喊话,官宣决定,妻子陪同,合同已到期

离开北京陈盈骏道别,发声喊话,官宣决定,妻子陪同,合同已到期

阿晞体育
2026-05-29 21:52:16
承诺“不限次数”,就该接住顾客的“天天来”

承诺“不限次数”,就该接住顾客的“天天来”

南风不及你温柔
2026-05-16 01:02:57
钱天一:国乒第一女神真旺夫!老公王昶再次冲冠婆婆把她当女儿疼

钱天一:国乒第一女神真旺夫!老公王昶再次冲冠婆婆把她当女儿疼

科学发掘
2026-05-30 15:00:31
他达拉非立大功!研究发现:中老年吃他达拉非,改善5类难言之隐

他达拉非立大功!研究发现:中老年吃他达拉非,改善5类难言之隐

健康科普365
2026-05-28 21:10:13
袁立病中公开与辛柏青真实关系,守护他丧妻体面

袁立病中公开与辛柏青真实关系,守护他丧妻体面

TVB的四小花
2026-05-30 00:42:11
里奇保罗:如果没有皮蓬,乔丹一个冠军都拿不到

里奇保罗:如果没有皮蓬,乔丹一个冠军都拿不到

移动挡拆
2026-05-30 23:46:47
永久停业!天津这家开了25年的老店也不干了?

永久停业!天津这家开了25年的老店也不干了?

天津人
2026-05-31 06:32:48
哈佛女孩刘亦婷现状:毕业后经历无数失败,最终嫁白人,沦为主妇

哈佛女孩刘亦婷现状:毕业后经历无数失败,最终嫁白人,沦为主妇

乐享人生风雨
2026-05-31 00:00:40
舔狗经济全面崩盘!女方吐槽忘带伞,男方直言“没伞不会买一把”

舔狗经济全面崩盘!女方吐槽忘带伞,男方直言“没伞不会买一把”

夜深爱杂谈
2026-05-24 21:08:51
反转!姜洪涛被判赔堂哥36万,前妻花堂哥不少钱,姜洪涛也要退还

反转!姜洪涛被判赔堂哥36万,前妻花堂哥不少钱,姜洪涛也要退还

汉史趣闻
2026-05-30 13:05:27
伊朗大内鬼浮出水面?美媒:要不是美以失手,内贾德早已接管伊朗

伊朗大内鬼浮出水面?美媒:要不是美以失手,内贾德早已接管伊朗

健身狂人
2026-05-30 15:23:24
释永信和徐湖平的下文来了!

释永信和徐湖平的下文来了!

行者殷涛
2026-05-30 22:38:52
陈数首谈14年婚姻,盲目听从丈夫安排,身患重病后现状如何?

陈数首谈14年婚姻,盲目听从丈夫安排,身患重病后现状如何?

瑛派儿老黄
2026-05-30 20:23:51
5.31乒乓德甲半决赛:樊振东3-0大获全胜,没有换胶皮 头发有点长

5.31乒乓德甲半决赛:樊振东3-0大获全胜,没有换胶皮 头发有点长

郝小小看体育
2026-05-31 00:28:49
2026-05-31 11:19:00
碳基打工人
碳基打工人
坐标北京,靠咖啡续命,靠小红书下饭的普通人类。
4205文章数 43关注度
往期回顾 全部

科技要闻

戴尔诺基亚又回来了!AI重估老牌科技公司

头条要闻

稻城亚丁景区是否有权在省道上"设卡" 央媒调查

头条要闻

稻城亚丁景区是否有权在省道上"设卡" 央媒调查

体育要闻

巴黎再度捧起欧冠奖杯 枪手众将黯然神伤

娱乐要闻

贾玲最新动作!侯明昊给虞书欣抬轿!

财经要闻

字节跳动的 "一盘大棋"

汽车要闻

900V+3.2秒破百 领克10+&领克10上市16.99万元起

态度原创

教育
手机
旅游
游戏
公开课

教育要闻

家长的反复纠错,对于孩子来说有多窒息

手机要闻

nova十周年大作!华为nova 16系列下周亮相:顶流代言+麒麟9系芯片

旅游要闻

重磅剧透!300+海外旅行商齐聚北京,新体验带动新消费!——2026北京入境旅游发展大会6月1日高能启幕,五大板块抢先看!

PS5独占《漫威金刚狼》售价曝光!疑似即将开启预购

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版