网易首页 > 网易号 > 正文 申请入驻

ChatGPT再现安全漏洞:研究者利用猜谜游戏诱骗其生成Win10密钥

0
分享至

IT之家 7 月 14 日消息,近日,安全研究员兼 AI 漏洞猎人 Marco Figueroa 披露,他成功利用一种“猜谜游戏”的方式,诱导 OpenAI 的 ChatGPT-4 生成了 Windows 10 的产品密钥。这是继“奶奶去世”诱骗法曝光后,AI 模型防护机制再度被绕过的案例。

IT之家注意到,此前有用户通过编造“奶奶去世”故事,试图让 ChatGPT“心软”,在安抚性摇篮曲中夹带 Windows 7 的激活密钥。尽管这些密钥普遍无效,但暴露了 AI 模型的内容控制漏洞。

此次 Figueroa 的攻击方式更具针对性。他设置了一个猜谜游戏的情境:ChatGPT 需“在心中”记住一串真实存在的 Windows 10 密钥,用户则通过提问猜测。当用户宣布“我放弃”时,ChatGPT 便需直接给出完整的字符串。

在对话过程中,Figueroa 还利用 HTML 标签隐藏关键词,如“Windows 10 序列号”,绕过了模型针对敏感词的审查。

这位研究人员表示,他利用猜谜游戏作为一种逻辑操纵手段,让 ChatGPT 脱离常规模式,生成 Windows 10 密钥。据 Figueroa称,“攻击中最关键的一步是‘我放弃’这句话,它起到了一个触发作用,迫使人工智能透露了之前隐藏的信息。通过将其设定为游戏结束,研究人员诱使人工智能认为自己有义务用这串字符做出回应。”

值得警惕的是,虽然生成的密钥多为网上早已泄露的旧激活码,但其中一组竟包含富国银行(Wells Fargo Bank)的私钥。此外,Figueroa 提醒,曾有 API 密钥误传至 GitHub,这类泄露数据可能被纳入 AI 模型的训练集,带来未知隐患。

研究员指出,AI 模型依然过于依赖关键词识别,对复杂上下文缺乏足够的理解力,成为此次被攻破的核心原因。他呼吁,应在 AI 系统中构建多层次的验证与防护机制,增强模型的情境感知能力,以抵御此类逻辑操控攻击。

与此同时,微软的 Copilot 也被曝曾生成非法激活 Windows 11 的脚本教程,所幸漏洞已被微软封堵。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美国批评乌克兰袭击俄罗斯大桥事件,德国防长尖锐反驳:美国是“相当愚蠢”!

美国批评乌克兰袭击俄罗斯大桥事件,德国防长尖锐反驳:美国是“相当愚蠢”!

忧郁天空
2026-11-18 18:32:55
闻泰科技89.48亿投资损失已确认,收购的安世半导体供应链伤多重

闻泰科技89.48亿投资损失已确认,收购的安世半导体供应链伤多重

说故事的阿袭
2026-11-20 08:11:25
普京:克里米亚大桥遭袭后 俄方不会再讨论海上停火

普京:克里米亚大桥遭袭后 俄方不会再讨论海上停火

财联社
2026-11-20 07:10:05
只有中国能办到!特朗普欣赏深圳夜景,普京同日抵达,两人将私聊

只有中国能办到!特朗普欣赏深圳夜景,普京同日抵达,两人将私聊

国际法大视野
2026-11-19 13:54:06
晚上9点!CCTV5直播“全新”男篮首秀,核心后卫场均19.9分,郭士强拒绝“爆冷”

晚上9点!CCTV5直播“全新”男篮首秀,核心后卫场均19.9分,郭士强拒绝“爆冷”

篮球圈里的那些事
2026-11-19 21:16:25
诺里肯定杨瀚森表现,但明确前提:罗威克林根无法上场才能进轮换

诺里肯定杨瀚森表现,但明确前提:罗威克林根无法上场才能进轮换

篮球资讯达人
2026-11-20 13:05:34
年底最后一波好运:11月底起贵人扎堆、财运翻身的3生肖

年底最后一波好运:11月底起贵人扎堆、财运翻身的3生肖

星缘生肖
2026-11-19 11:47:47
左宗棠收复新疆代价有多大?阵亡6位一级将领,数据名单触目惊心

左宗棠收复新疆代价有多大?阵亡6位一级将领,数据名单触目惊心

文史达观
2025-07-06 06:45:03
工商银行发布贵金属市场波动风险提示

工商银行发布贵金属市场波动风险提示

界面新闻
2026-11-20 14:23:25
俄政府敲定克里米亚大桥修复方案

俄政府敲定克里米亚大桥修复方案

参考消息
2026-11-20 14:27:04
《GTA6》性爱系统详解:教你怎么做爱做的事情!

《GTA6》性爱系统详解:教你怎么做爱做的事情!

游民星空
2026-11-20 10:05:15
太可怕了!网传评论“凭什么给没有血缘关系的男人生孩子”收获9141个赞同,引发大量网友留言

太可怕了!网传评论“凭什么给没有血缘关系的男人生孩子”收获9141个赞同,引发大量网友留言

火山詩话
2026-11-18 11:00:42
抵达深圳后,中国台北代表施振荣喊话大陆,赖清德交代他3项任务

抵达深圳后,中国台北代表施振荣喊话大陆,赖清德交代他3项任务

不似少年游
2026-11-19 07:21:22
崔永熙等多位队友祝福贺希宁:一切都会回来的,别问我为什么知道

崔永熙等多位队友祝福贺希宁:一切都会回来的,别问我为什么知道

懂球帝
2026-11-20 10:54:08
中方:强烈不满,坚决反对!若美方执意妄为,中方将采取反制措施

中方:强烈不满,坚决反对!若美方执意妄为,中方将采取反制措施

经纬戎韬
2026-11-20 00:09:28
直线拉升!600360,2分钟涨停,封单超106万手

直线拉升!600360,2分钟涨停,封单超106万手

证券时报
2026-11-20 10:28:05
马龙的头号迷妹石川佳纯,现被日媒曝:与前日乒一哥“共度良宵”

马龙的头号迷妹石川佳纯,现被日媒曝:与前日乒一哥“共度良宵”

秋姐居
2026-11-20 11:47:44
AZEC峰会落幕,高市发出特别邀约,请11国把自家石油放进日本罐里

AZEC峰会落幕,高市发出特别邀约,请11国把自家石油放进日本罐里

影孖看世界
2026-11-19 23:26:23
GTA6成人相关搜索暴涨5000%!玩家狂搜色图和嫖娼

GTA6成人相关搜索暴涨5000%!玩家狂搜色图和嫖娼

游民星空
2026-11-20 10:05:16
一路走好!不到48小时,已有2位名人被曝去世,个个让人惋惜

一路走好!不到48小时,已有2位名人被曝去世,个个让人惋惜

观察鉴娱
2026-11-20 10:42:01
2026-11-20 14:59:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380428文章数 607745关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

特朗普返美途中发文:这是一次伟大且意义深远的访问

头条要闻

特朗普返美途中发文:这是一次伟大且意义深远的访问

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

袁茵却用事实证明 活得并不差!

财经要闻

Anthropic敲钟 美股跳水:AI狂欢结束?

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

房产
手机
时尚
艺术
军事航空

房产要闻

收益率30%!海南杀出国内最赚钱的“接盘侠”!

手机要闻

能让iPhone跑安卓App的虚拟机Andarium被苹果App Store火速下架

今年冬天不穿大衣了?这件“非凡外套”才是真顶流!

艺术要闻

沙特利雅得第一高楼在导弹袭击中受损!

军事要闻

“华盛顿”号航空母舰离开中东地区

无障碍浏览 进入关怀版