网易首页 > 网易号 > 正文 申请入驻

谷歌Gemini遭遇大规模蒸馏攻击,单次行动提示超10万次

0
分享至

IT之家 2 月 15 日消息,当地时间 2 月 12 日,谷歌称其 AI 聊天机器人 Gemini 正遭遇大量“蒸馏攻击”(distillation attacks)—— 即通过重复提问诱导聊天机器人泄露内部机制。

谷歌表示,这些攻击者试图通过反复提问不断试探其模型输出模式与逻辑,探测其内部机制,从而“克隆”该模型或强化攻击者自己的 AI 系统,其中一场攻击活动对 Gemini 的提示次数超过 10 万次。

谷歌在周四发布的报告中表示,这些攻击主要由“商业动机行为者”发起。公司判断其幕后人员多为希望获得竞争优势的 AI 私企或研究机构。谷歌发言人向 NBC News 表示,此次攻击源来自全球多个地区,但拒绝披露更多关于嫌疑方的信息。

谷歌威胁情报小组(Threat Intelligence Group)首席分析师约翰 · 霍特奎斯特(John Hultquist)指出,“针对 Gemini 的攻击规模表明,此类攻击很可能已开始或即将蔓延至小型企业的定制 AI 工具领域。”他将谷歌的处境形容为“煤矿里的金丝雀”,意味着大型平台的遭遇可能预示更广泛的行业风险。

谷歌强调,此类蒸馏攻击属于知识产权盗窃。科技公司已投入数十亿美元开发 AI 聊天机器人(IT之家注:指大语言模型),其核心模型的内部机制被视为高度重要的专有资产。尽管各大厂商已部署能够识别与阻断蒸馏攻击的机制,但由于主流大模型服务面向所有人开放,所以其本质上仍易受攻击。

谷歌还提到,多数攻击旨试图套取 Gemini 的“推理”算法,即其信息处理决策机制。霍特奎斯特警告,随着越来越多公司开始训练面向内部业务的定制 LLM,且这些模型可能包含敏感数据,蒸馏攻击的潜在危害会更大。他举例称,如果某家公司的 LLM 学习了其“100 年来交易的思维方式”,理论上也可能被蒸馏手段逐步提取出关键知识秘密。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
特朗普公开表示:此次中国之行机场欢迎仪式场面盛大又美丽,展现出了极大的尊重,我对此心怀感激

特朗普公开表示:此次中国之行机场欢迎仪式场面盛大又美丽,展现出了极大的尊重,我对此心怀感激

吉刻新闻
2026-11-19 10:41:59
54岁陶虹久违露面,身形壮硕体态松弛,五官面相完全认不出

54岁陶虹久违露面,身形壮硕体态松弛,五官面相完全认不出

清欢无事
2026-11-17 23:35:34
世界第1的赵心童抽到第122位,世界第16的常冰玉要打德比

世界第1的赵心童抽到第122位,世界第16的常冰玉要打德比

小青年渌渌
2026-11-19 11:49:40
程英生了一个儿子叫什么?此人名气大、武功高,张三丰都没有把握赢他

程英生了一个儿子叫什么?此人名气大、武功高,张三丰都没有把握赢他

金宝哥讲故事
2026-11-13 00:30:11
脚踝骨折,确认报销!开拓者再遭重创,西部夺冠格局再起悬念

脚踝骨折,确认报销!开拓者再遭重创,西部夺冠格局再起悬念

暮色史观
2026-11-19 10:24:15
机动车年检大局已定?2027正式实施,私家车年审或面临3大变化?

机动车年检大局已定?2027正式实施,私家车年审或面临3大变化?

云霄纪史观
2026-11-20 00:56:06
娃哈哈代工厂48小时免职207人,大规模人事变动疑云丛生丨大象财富

娃哈哈代工厂48小时免职207人,大规模人事变动疑云丛生丨大象财富

大象新闻
2026-11-19 18:43:03
从碾压安踏李宁,到月亏过亿:曾经的运动品牌顶流,到底错在哪?

从碾压安踏李宁,到月亏过亿:曾经的运动品牌顶流,到底错在哪?

一些小事
2026-10-01 20:27:33
欢迎晚宴合影期间,普京和特朗普互动握手

欢迎晚宴合影期间,普京和特朗普互动握手

每日经济新闻
2026-11-19 20:43:37
降温后才发现:上海满街不穿羽绒服了,都在穿“奶奶棉服”,轻薄显贵

降温后才发现:上海满街不穿羽绒服了,都在穿“奶奶棉服”,轻薄显贵

全球时尚
2026-11-18 23:49:24
英皇把董事席位交给谢霆锋,看中的是那根卖了 15 亿的烤肠

英皇把董事席位交给谢霆锋,看中的是那根卖了 15 亿的烤肠

子芫伴你成长
2026-11-19 00:05:10
不可思议!异地相亲奔现第一天,男生要求女生同住遭拒后提分手,直言“奔现一次花费近两千,不划算”

不可思议!异地相亲奔现第一天,男生要求女生同住遭拒后提分手,直言“奔现一次花费近两千,不划算”

火山詩话
2026-11-18 07:46:48
11岁的关凌认识了28岁的姬云飞,整整17岁的年龄差,所有人都觉得俩人这辈子不会有交集,没想到,关凌最终还是嫁给了他!

11岁的关凌认识了28岁的姬云飞,整整17岁的年龄差,所有人都觉得俩人这辈子不会有交集,没想到,关凌最终还是嫁给了他!

LULU生活家
2026-11-19 19:30:09
泽连斯基回应特朗普访华

泽连斯基回应特朗普访华

凤凰卫视
2026-11-19 11:02:03
媒体:兰州狱警殴打服刑者致死案再审一审宣判,四狱警分别获刑

媒体:兰州狱警殴打服刑者致死案再审一审宣判,四狱警分别获刑

不惯着
2026-11-19 11:31:54
贾国龙不服输,又要做火锅生意:新店主打“冰煮鲜羊”,人均102元,西贝与天边砂锅焖面门店规模已大幅缩水

贾国龙不服输,又要做火锅生意:新店主打“冰煮鲜羊”,人均102元,西贝与天边砂锅焖面门店规模已大幅缩水

蓝鲸新闻
2026-11-19 16:25:03
招商引资的“杀猪盘”:撤股三年后,外商如何被法院精准“收网”

招商引资的“杀猪盘”:撤股三年后,外商如何被法院精准“收网”

有戏
2026-11-11 08:36:23
当着全世界的面!日本给赖清德“当头一棒”,祖国统一众望所归

当着全世界的面!日本给赖清德“当头一棒”,祖国统一众望所归

林杰论事
2026-10-20 01:09:25
冷知识!全世界最不该统一的国家,居然成了世界第四人口大国!

冷知识!全世界最不该统一的国家,居然成了世界第四人口大国!

墨策史
2026-11-12 01:05:03
英伟达叫停H200对华供货,外交部亮明立场,不再和美国多费口舌

英伟达叫停H200对华供货,外交部亮明立场,不再和美国多费口舌

墨子翟的日记y
2026-11-19 12:11:53
2026-11-20 02:24:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380322文章数 607745关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

手机
旅游
本地
教育
公开课

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

本地新闻

乌兰察布:以前种土豆,现在种Token

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版