网易首页 > 网易号 > 正文 申请入驻

Grok一周两爆雷:乱码刷屏、加密指令能窃取聊天记录,漏洞6月已知仍可复现!

0
分享至

随手先关注,不错过每日AI热讯速递

①

8 月 20 日,xAI 旗下 AI 助手 Grok 接连爆出两起事件,把大模型安全问题再次推上台面。

其一是产品故障:多名用户反映 Grok 突然输出大段无意义的乱码,

例如在要求生成 PDF 后收到“match it without and your they and two for planets can practical and often cheese……”式的胡言乱语[1]。

受影响用户主要使用 Grok Lite,最早于周三(8 月 19 日)早晨发现问题[1]。

xAI 官方账号周四(8 月 20 日)上午在 X 上回应,称那段纯文字沙拉是罕见的临时生成故障[1]。TechCrunch 无法复现该问题,判断仅影响小部分用户;

问题似乎仅限于 Grok.com 直接查询,X.com 上的 Grok 账号未受影响[1]。



图:Grok 应用图标视觉[1]

②

更严重的是第二件事。安全公司 Adversa 的研究员 Rony Utevsky 发现了一种针对 Grok 的新型攻击——“加密上下文注入”(Cryptographic Context Injection)[3]。

攻击者把恶意指令加密成密文,网页上同时提供解密密钥与解密指令,Grok 被诱导在自身代码执行沙箱内运行 PBKDF2 和 AES-256-GCM 完成解密,随后执行解密出的恶意指令[2]。

解密出的指令,会让 Grok 把用户的姓名、位置和聊天历史拼接成一段“伪解密密钥”,作为 URL 参数发送到攻击者服务器——数据就这样被悄悄带走[2]。

Ars Technica 报道称,截至发稿时该漏洞依然存在,尽管 xAI 早在 6 月就已被告知[2]。Adversa 的披露显示,这一攻击可零点击窃取完整 Grok 聊天记录[3]。



图:Grok 安全漏洞报道[2]

③

为什么护栏挡不住这种攻击?Adversa 的解释很直白:静态安全护栏把输入当作文本分类,不会执行输入[3]。

攻击者把密文、密钥材料和解密指令一起送出,模型在自己代码执行沙箱内运行解密——护栏扫描器需要的所有东西都在页面上,但没有任何内容分类器会在检查时运行 PBKDF2 和 AES-256-GCM 去解密[2]。

也就是说,护栏检查的是明文,而真正的恶意指令藏在密文里,以“工具输出”身份回到模型时,护栏已不再检查[2]。

Adversa 称,加密上下文注入是更广泛攻击趋势的一个实例——攻击不再只操纵提示词,而是操纵 LLM(大型语言模型,聊天机器人的底层大脑)视为自身的更广泛上下文,如工具输出、运行结果与中间状态,

这个攻击面比传统意义上的模型输入大得多[2]。

同周早些时候,微软 365 Copilot for enterprise 也被曝出可被诱导窃取用户收件箱中的密码[2]。

一周之内,两大 AI 产品接连中招,指向同一个行业级难题:LLM 难以根治提示注入(通过精心构造的指令诱导模型执行非预期行为的攻击手法)的根因,开发者能做的只是不断加护栏,而新的绕过方式仍在不断出现[2]。

对普通用户来说,这两件事的启示很直接:别把敏感信息一股脑交给 AI 助手,尤其涉及姓名、位置、聊天记录时多留个心眼;遇到 AI 输出诡异乱码,先别慌着当灵异事件,通常是临时故障,刷新会话即可。

至于 Grok 的数据窃取漏洞何时修复,只能看 xAI 的动作了——毕竟从 6 月被告知到现在,漏洞仍可复现[2]。xAI 官方尚未公开说明安全修复的进展,其官方文档站仍在提供 Grok API 文档[4]。

希望对大家有所帮助。欢迎在评论区分享你遇到的 AI 翻车经历——是乱码、幻觉,还是更吓人的情况?

参考来源:

[1] TechCrunch:Grok keeps sending gibberish responses to usershttps://techcrunch.com/2026/08/20/grok-keeps-sending-gibberish-responses-to-users/

[2] Ars Technica:Grok exfiltrates user data when malicious instructions are encryptedhttps://arstechnica.com/security/2026/08/grok-exfiltrates-user-data-when-malicious-instructions-are-encrypted/

[3] Adversa 官方博客:Grok chat history leak: Cryptographic Context Injectionhttps://adversa.ai/blog/cryptographic-context-injection-grok-data-theft/

[4] xAI 官方文档:Grok API Documentationhttps://docs.x.ai/

欢迎分享、点赞、推荐

一起拥抱AI

声明:取材网络,谨慎辨别

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
医生:希望你的血脂报告里,永远不要出现这2项异常

医生:希望你的血脂报告里,永远不要出现这2项异常

垚垚分享健康
2026-09-17 14:10:16
19岁阿根廷天才新星闪耀意甲,超级多面手,引得3大意甲豪强哄抢

19岁阿根廷天才新星闪耀意甲,超级多面手,引得3大意甲豪强哄抢

零度眼看球
2026-11-17 06:40:13
男子和女子睡后很满意,想长期白嫖假装是富豪,被揭穿后闹大了

男子和女子睡后很满意,想长期白嫖假装是富豪,被揭穿后闹大了

江山挥笔
2026-11-17 08:55:44
马斯克的妹妹从小就坚信,跟着哥哥有肉吃,瞒着妈妈把南非家里的房和车都卖了去加拿大投奔哥哥!妈妈哭笑不得的承认是事实!

马斯克的妹妹从小就坚信,跟着哥哥有肉吃,瞒着妈妈把南非家里的房和车都卖了去加拿大投奔哥哥!妈妈哭笑不得的承认是事实!

大白聊IT
2026-08-14 01:29:05
中国正式改口!以后不叫“日本政府”了,新称呼传递的信号不一般

中国正式改口!以后不叫“日本政府”了,新称呼传递的信号不一般

潘冹旅行浪子
2026-06-23 00:04:49
在劫难逃!乌克兰远程袭击俄罗斯旧鲁萨机场,IL-76运输机一毁三伤!

在劫难逃!乌克兰远程袭击俄罗斯旧鲁萨机场,IL-76运输机一毁三伤!

军迷战情室
2026-11-16 21:37:17
回家倒计时,神舟二十三号女航天员黎家盈还能出舱吗?神二十四将发射

回家倒计时,神舟二十三号女航天员黎家盈还能出舱吗?神二十四将发射

环球科学猫
2026-11-16 11:03:56
威尔逊:成为伟大冠军需要让人有点讨厌,面对赵心童时我只想重创他

威尔逊:成为伟大冠军需要让人有点讨厌,面对赵心童时我只想重创他

世界体坛观察家
2026-11-16 17:08:49
留学生的顶级能力:择偶

留学生的顶级能力:择偶

英国大学申请中心
2026-11-13 21:25:10
终于知道为什么大家都说农学是抑郁率最低的专业了!

终于知道为什么大家都说农学是抑郁率最低的专业了!

另子维爱读史
2026-10-18 11:46:21
中文主场绝不能丢!人民日报定调:在中国,绝不允许英文取代中文

中文主场绝不能丢!人民日报定调:在中国,绝不允许英文取代中文

寻墨阁
2026-11-06 22:54:32
谷歌华人工程师杀妻案再曝怪事!14万美元资金流出存疑,被关期间股票也被卖了

谷歌华人工程师杀妻案再曝怪事!14万美元资金流出存疑,被关期间股票也被卖了

北美省钱快报
2026-11-17 02:30:39
大爷退休后给侄子看厂门,5年只拿了6万,离开时收到侄子短信泪崩

大爷退休后给侄子看厂门,5年只拿了6万,离开时收到侄子短信泪崩

五元讲堂
2025-04-07 12:21:23
大家早做准备!明年开始,六七十岁的老人或面临“三个现实问题”

大家早做准备!明年开始,六七十岁的老人或面临“三个现实问题”

兴趣知识
2026-11-01 09:08:14
“说一堆荤话、拍一堆丑照”,年轻人嫌油腻的「摄影老头」咋让阿姨花上万拍写真?

“说一堆荤话、拍一堆丑照”,年轻人嫌油腻的「摄影老头」咋让阿姨花上万拍写真?

Vista氢商业
2026-11-16 14:48:37
国家级名单公示,内蒙古3处拟入选!

国家级名单公示,内蒙古3处拟入选!

娱乐圈的笔娱君
2026-11-17 06:00:26
港媒曾言:两岸已步入到“准统一”阶段,“西藏模式”更具参考!

港媒曾言:两岸已步入到“准统一”阶段,“西藏模式”更具参考!

起喜电影
2026-11-17 13:10:20
想钱想疯了!记者把燃气灶里的电池换成没电的,然后通过啄木鸟平台下单报修,结果5个师傅只有2个说了实话

想钱想疯了!记者把燃气灶里的电池换成没电的,然后通过啄木鸟平台下单报修,结果5个师傅只有2个说了实话

扶苏聊历史
2026-11-12 16:31:35
基层实情!推行公务零接待后,应酬没了,新负担却慢慢浮出水面?

基层实情!推行公务零接待后,应酬没了,新负担却慢慢浮出水面?

半路友人之他
2026-11-17 01:16:38
根据马云对未来房价预言:200万买来的房子,到2030年能值多少钱

根据马云对未来房价预言:200万买来的房子,到2030年能值多少钱

云景侃记
2026-09-08 11:29:48
2026-11-17 16:35:00
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
214文章数 6关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

美国"火神"火箭发射失败致40颗卫星损失 美军有点慌了

头条要闻

美国"火神"火箭发射失败致40颗卫星损失 美军有点慌了

体育要闻

从上链接到上领奖台 34岁方博绝非等闲之辈

娱乐要闻

后会友期大瓜:3位女演员被迫换车厢

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

艺术
家居
教育
本地
军事航空

艺术要闻

寸境宏光——2026中国小幅油画展 作品选四

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

连乘解方程,不用硬展开,找对诀窍秒算

本地新闻

乌兰察布:以前种土豆,现在种Token

军事要闻

美乌陷入外交僵局 俄乌互攻势头不减

无障碍浏览 进入关怀版