网易首页 > 网易号 > 正文 申请入驻

研究显示 Gemini 易被隐蔽指令操控,谷歌无意修复

0
分享至

IT之家 10 月 9 日消息,谷歌一贯重视用户安全,但该公司似乎并不急于修复一项使旗下 AI 模型 Gemini 面临严重网络威胁的安全漏洞。

据科技媒体 Bleeping Computer 报道,安全研究员维克托・马科波洛斯(Viktor Markopoulos)对当前主流的多个大语言模型(LLM)进行了测试,检验其对“ASCII 走私攻击”(ASCII smuggling)的防御能力。结果显示,谷歌的 Gemini、DeepSeek 以及马斯克旗下的 Grok 均易受此类攻击影响;而 Anthropic 的 Claude、OpenAI 的 ChatGPT 以及微软的 Copilot 则具备相应防护机制,表现出更高的安全性。

据IT之家了解,所谓“ASCII 走私攻击”,是一种通过在文本中隐藏指令来操控 AI 行为的网络攻击手段。例如,攻击者可在电子邮件中以最小字号插入一段肉眼难以察觉的恶意提示词(prompt),普通用户几乎无法察觉。一旦受害者要求 Gemini 等 AI 工具对该邮件内容进行总结或分析,AI 便会同时读取并执行这段隐蔽指令。

此类攻击存在重大安全隐患。例如,隐藏指令可能指示 AI 搜索用户的邮箱内容以窃取敏感信息,或自动发送联系人详情等。尤其值得注意的是,Gemini 现已与 Google Workspace 深度集成,能够访问用户的邮件、日历和文档等核心数据,因此该漏洞带来的潜在风险被进一步放大。

据报道,马科波洛斯在发现该问题后已向谷歌提交了详细报告,并提供了一个演示案例:他向 Gemini 输入一段看似正常的文本,其中嵌入了不可见的指令,结果成功诱导 AI 推荐了一个恶意网站,该网站声称售卖质量好且打折的手机。

然而,谷歌方面回应称,此问题不属于安全漏洞(security bug),而应归类为“社会工程学手段”(social engineering tactic)。换言之,公司认为责任在于终端用户自身,而非系统设计缺陷。

从这一回应来看,谷歌似乎没有计划修复 Gemini 的这一安全问题。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
质疑!1.4亿买19岁天才还是27岁老将?皇马队史标王引爆年龄大瓜

质疑!1.4亿买19岁天才还是27岁老将?皇马队史标王引爆年龄大瓜

体坛老球迷
2026-08-12 10:16:37
男童被巨浪卷走后续,官媒怒批家属,当地不敢救,救了也必死无疑

男童被巨浪卷走后续,官媒怒批家属,当地不敢救,救了也必死无疑

社会日日鲜
2026-08-11 09:21:27
第二批朝鲜兵抵达俄罗斯!兵力5万+新武器,泽连斯基最担心的事情还是发生了

第二批朝鲜兵抵达俄罗斯!兵力5万+新武器,泽连斯基最担心的事情还是发生了

军武次位面
2026-08-10 17:55:01
卫诗雅回应领奖后孤独下台:现场很多人不认识,只认识朱一龙和梁家辉,心情很开心没有孤独感

卫诗雅回应领奖后孤独下台:现场很多人不认识,只认识朱一龙和梁家辉,心情很开心没有孤独感

韩小娱
2026-08-12 12:04:44
一超市老板租借手机号7000余个,从购物平台“薅掉”10余吨大米、鸡蛋,通过自己的超市售卖,已被警方抓获

一超市老板租借手机号7000余个,从购物平台“薅掉”10余吨大米、鸡蛋,通过自己的超市售卖,已被警方抓获

极目新闻
2026-08-12 12:12:54
泪奔!程梦圆遗体腐臭,哥亲手抬棺送老家,哭着说:妹怕黑 咱回家

泪奔!程梦圆遗体腐臭,哥亲手抬棺送老家,哭着说:妹怕黑 咱回家

吃货的分享
2026-08-11 08:54:16
中印谈完不到24小时,印度给中国领土改名,连射两款导弹耀武扬威

中印谈完不到24小时,印度给中国领土改名,连射两款导弹耀武扬威

共工之锚
2026-08-12 00:27:19
脸都不要了?王宝强百花奖0票,这是200亿影帝的“羞辱”之夜

脸都不要了?王宝强百花奖0票,这是200亿影帝的“羞辱”之夜

文刀贰
2026-08-10 22:59:15
被烧了164年的圆明园,地下忽然传出动静,专家:我们被骗惨了

被烧了164年的圆明园,地下忽然传出动静,专家:我们被骗惨了

道远文史
2026-08-12 06:59:17
不查不知道!原来卫诗雅身上这条亮眼的蓝裙子,只是一件27000的成衣,英皇根本没有给她借到高定礼服

不查不知道!原来卫诗雅身上这条亮眼的蓝裙子,只是一件27000的成衣,英皇根本没有给她借到高定礼服

火山詩话
2026-08-12 08:15:28
“结婚八年三女儿均非亲生”离婚案将于8月17日开庭

“结婚八年三女儿均非亲生”离婚案将于8月17日开庭

澎湃新闻
2026-08-12 11:03:10
宁波环城南路高架下起“火瀑布”?交警回应:系面包车自燃,无人员受伤

宁波环城南路高架下起“火瀑布”?交警回应:系面包车自燃,无人员受伤

齐鲁壹点
2026-08-12 12:15:02
货拉拉司机加价不成带着货跑到600多公里外,平台介入交涉仍拒交货

货拉拉司机加价不成带着货跑到600多公里外,平台介入交涉仍拒交货

新闻晨报随申Hi
2026-08-11 18:52:19
好评中国 | “人工智能+”澎湃经济新浪潮

好评中国 | “人工智能+”澎湃经济新浪潮

闪电新闻
2026-08-12 08:48:19
诺奖委,是时候给黄院士颁奖了!本人首次回应来了!

诺奖委,是时候给黄院士颁奖了!本人首次回应来了!

闲侃闲侃
2026-08-12 08:08:33
今日北京铁路计划停运123趟列车,民航计划取消航班57架

今日北京铁路计划停运123趟列车,民航计划取消航班57架

新京报
2026-08-12 10:39:29
离婚半年后,我还是想他,鼓起勇气给他发了条消息:干嘛呢?他秒回:你只要再多问一个字,我明天就坐最早的飞机回来追你

离婚半年后,我还是想他,鼓起勇气给他发了条消息:干嘛呢?他秒回:你只要再多问一个字,我明天就坐最早的飞机回来追你

晓艾故事汇
2026-08-12 10:14:47
如临大敌!网传坊间相互提醒重庆王先生一伙人到西藏旅游,评论区炸锅

如临大敌!网传坊间相互提醒重庆王先生一伙人到西藏旅游,评论区炸锅

火山詩话
2026-08-12 07:31:02
世界杯夺冠英雄 5000万送走!巴萨离队第7人敲定 只差官宣

世界杯夺冠英雄 5000万送走!巴萨离队第7人敲定 只差官宣

叶青足球世界
2026-08-12 09:00:44
“卫诗雅百花奖获最佳女主后孤独下台”引热议,本人回应:现场认识的人不多,也就梁家辉和朱一龙,并不是孤单;原本担心获零票会很尴尬

“卫诗雅百花奖获最佳女主后孤独下台”引热议,本人回应:现场认识的人不多,也就梁家辉和朱一龙,并不是孤单;原本担心获零票会很尴尬

鲁中晨报
2026-08-12 11:06:52
2026-08-12 13:40:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
359943文章数 607438关注度
往期回顾 全部

科技要闻

Claude又出骚操作 改个错字也要留AI水印?

头条要闻

行长套取2100万获刑:3100万的万柳书院月供9万压力大

头条要闻

行长套取2100万获刑:3100万的万柳书院月供9万压力大

体育要闻

乔丹鲨鱼们的合同:1996,史上最伟大夏天

娱乐要闻

陈思诚恋情疑云再起

财经要闻

李嘉诚,再一次大撤退!他嗅到了什么?

汽车要闻

闪充/天神之眼B/云辇-C 2027款海豹06售9.99万元起

态度原创

旅游
手机
房产
游戏
公开课

旅游要闻

烟火巷陌间隐藏着无数创业温床,尽显这座旅游网红城市的包容底色

手机要闻

iOS 27 Beta 5调整液态玻璃滑块,苹果提升最高透明度档位效果

房产要闻

突发,崖州湾又有大动作!

《影之刃零》预售开启 甄子丹参演重要角色

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版