网易首页 > 网易号 > 正文 申请入驻

【安全圈】恶意插件警报:ChatGPT用户或面临帐户劫持风险

0
分享至

关键词

ChatGPT

网络安全研究人员发现,可用于 OpenAI ChatGPT 的第三方插件可能会成为希望未经授权访问敏感数据的威胁行为者的新攻击面。

根据 Salt Labs 发表的新研究,直接在 ChatGPT 和生态系统中发现的安全漏洞可能允许攻击者在未经用户同意的情况下安装恶意插件并劫持 GitHub 等第三方网站上的帐户。

顾名思义,ChatGPT 插件是旨在运行在大型语言模型 (LLM) 之上的工具,旨在访问最新信息、运行计算或访问第三方服务。

此后,OpenAI 还推出了 GPT,这是针对特定用例量身定制的 ChatGPT 定制版本,同时减少了对第三方服务的依赖。自 2024 年 3 月 19 日起,ChatGPT 用户将无法再安装新插件或使用现有插件创建新对话。

Salt Labs 发现的漏洞之一是利用 OAuth 工作流程,利用 ChatGPT 不验证用户是否确实开始安装插件这一事实,诱骗用户安装任意插件。

这实际上可以允许威胁行为者拦截和泄露受害者共享的所有数据,这些数据可能包含专有信息。

这家网络安全公司还发现了 PluginLab 的问题,威胁行为者可能会将其武器化,以进行零点击帐户接管攻击,使他们能够控制 GitHub 等第三方网站上的组织帐户并访问其源代码存储库。

“[端点] 'auth.pluginlab[.]ai/oauth/authorized'不会对请求进行身份验证,这意味着攻击者可以插入另一个memberId(又名受害者)并获取代表受害者的代码,“安全研究员Aviad Carmel解释说。“有了这些代码,他就可以使用 ChatGPT 并访问受害者的 GitHub。”

可以通过查询端点“auth.pluginlab[.]ai/members/requestMagicEmailCode。没有证据表明任何用户数据已使用该漏洞受到损害。

在包括 Kesem AI 在内的多个插件中还发现了一个 OAuth 重定向操作错误,该错误可能允许攻击者通过向受害者发送特制链接来窃取与插件本身关联的帐户凭据。

几周前,Imperva 详细介绍了 ChatGPT 中的两个跨站点脚本 (XSS) 漏洞,这些漏洞可以被链接以夺取对任何帐户的控制权。

2023 年 12 月,安全研究员 Johann Rehberger 还演示了恶意行为者如何创建自定义 GPT,这些 GPT 可以对用户凭据进行网络钓鱼并将被盗数据传输到外部服务器。

对 AI 助手的新远程键盘记录攻击#

这些发现也是在本周发表的关于LLM侧信道攻击的新研究之后进行的,该研究使用令牌长度作为隐蔽手段,通过网络从AI助手中提取加密响应。

“LLMs以一系列令牌(类似于单词)的形式生成和发送响应,每个令牌在生成时从服务器传输到用户,”来自本古里安大学和进攻性人工智能研究实验室的一组学者说。

“虽然这个过程是加密的,但顺序令牌传输暴露了一个新的侧信道:令牌长度侧信道。尽管进行了加密,但数据包的大小可以揭示令牌的长度,从而可能允许网络上的攻击者推断出私人AI助手对话中共享的敏感和机密信息。

这是通过令牌推理攻击来实现的,该攻击旨在通过训练能够将令牌长度序列转换为其自然语言对应物(即明文)的 LLM 模型来破译加密流量中的响应。

换句话说,核心思想是拦截与 LLM 提供商的实时聊天响应,使用网络数据包标头推断每个令牌的长度,提取和解析文本段,并利用自定义 LLM 来推断响应。

实施攻击的两个关键先决条件是以流模式运行的 AI 聊天客户端和能够捕获客户端和 AI 聊天机器人之间的网络流量的对手。

为了抵消侧信道攻击的有效性,建议开发 AI 助手的公司应用随机填充来掩盖令牌的实际长度,以更大的组而不是单独传输令牌,并一次性发送完整的响应,而不是以逐个令牌的方式。

“在安全性与可用性和性能之间取得平衡是一项复杂的挑战,需要仔细考虑,”研究人员总结道。

安全圈

网罗圈内热点 专注网络安全

实时资讯一手掌握!

好看你就分享 有用就点个赞

支持「安全圈」就点个三连吧!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
欧洲杯被中文广告包围?破案了:均为虚拟广告牌,与现场不一样!

欧洲杯被中文广告包围?破案了:均为虚拟广告牌,与现场不一样!

风过乡
2024-06-15 16:53:50
100个代表团与会,1000多万美元的开销

100个代表团与会,1000多万美元的开销

寰宇大观察
2024-06-15 15:45:20
“人民”警察网暴人民,丧尽天良!

“人民”警察网暴人民,丧尽天良!

观风者
2024-06-14 10:06:53
大陆不再沉默,给黄仁勋上了一课,选在美收紧对华AI芯片出口之际

大陆不再沉默,给黄仁勋上了一课,选在美收紧对华AI芯片出口之际

陈菲副教授
2024-06-15 18:20:03
瑞士“全球和平峰会”,必将成为文明的新起点

瑞士“全球和平峰会”,必将成为文明的新起点

近距离
2024-06-15 18:09:05
打断妻子多根肋骨,知名上市公司创始人被公诉!被指长期家暴,连咬带打,妻子怀孕7个月时仍被打得满头包,“为了孩子不得不忍”

打断妻子多根肋骨,知名上市公司创始人被公诉!被指长期家暴,连咬带打,妻子怀孕7个月时仍被打得满头包,“为了孩子不得不忍”

每日经济新闻
2024-06-15 18:22:06
何谓“法律面前人人平等”?美国司法界判拜登儿子和特朗普都有罪

何谓“法律面前人人平等”?美国司法界判拜登儿子和特朗普都有罪

爆角追踪
2024-06-15 22:57:15
昆明一电动汽车自燃致人死?印度事、日本车、“台毒”分子造的谣

昆明一电动汽车自燃致人死?印度事、日本车、“台毒”分子造的谣

不掉线电波
2024-06-15 09:13:41
事出反常必有妖,目前广州上海正悄悄出现9大反常现象,让人深思

事出反常必有妖,目前广州上海正悄悄出现9大反常现象,让人深思

华人星光
2024-06-14 16:58:09
俄罗斯央行从6月13日起暂停港币交易

俄罗斯央行从6月13日起暂停港币交易

俄罗斯卫星通讯社
2024-06-15 16:05:34
周鸿祎:嫌360广告弹窗多,可以用极速版,想免费,就要接受广告

周鸿祎:嫌360广告弹窗多,可以用极速版,想免费,就要接受广告

科技Nice
2024-06-15 17:14:28
港媒:美军核潜艇并不是“撞山”,而是被解放军发现后“伏击”!

港媒:美军核潜艇并不是“撞山”,而是被解放军发现后“伏击”!

黑天鹅洞察
2024-06-14 11:51:11
德国队大胜苏格兰,球迷依然揪出最大水货,直言他就不该上场比赛

德国队大胜苏格兰,球迷依然揪出最大水货,直言他就不该上场比赛

罗掌柜体育
2024-06-15 14:48:38
网友质疑:阿里巴巴数学竞赛的含金量太低了?原来是开卷考试!

网友质疑:阿里巴巴数学竞赛的含金量太低了?原来是开卷考试!

火山诗话
2024-06-15 05:43:37
俄空军遭遇滑铁卢,单日8架战机被毁伤,乌克兰粮食出口创新高

俄空军遭遇滑铁卢,单日8架战机被毁伤,乌克兰粮食出口创新高

史政先锋
2024-06-15 21:05:23
土地卖不动以后,城投又找到了一条新财路,利润比房地产还高

土地卖不动以后,城投又找到了一条新财路,利润比房地产还高

庞明说财经
2024-06-13 08:45:38
茅台批发价罕见连跌后能不能止跌?公司会不会出手稳价?

茅台批发价罕见连跌后能不能止跌?公司会不会出手稳价?

每日经济新闻
2024-06-15 01:13:07
中国女排3-2逆转世界第一:获8.24分稳固亚洲之王 锁定曼谷总决赛

中国女排3-2逆转世界第一:获8.24分稳固亚洲之王 锁定曼谷总决赛

颜小白的篮球梦
2024-06-15 22:41:33
是什么让发展中国家毫无翻身希望?

是什么让发展中国家毫无翻身希望?

智先生
2024-06-15 21:04:01
一针69.7万,医保谈判到3万!可澳洲184块,为何却说中国价最低?

一针69.7万,医保谈判到3万!可澳洲184块,为何却说中国价最低?

风起云间
2024-06-14 21:44:22
2024-06-16 02:34:44
安全圈
安全圈
国内首家大安全概念新媒体
4451文章数 4680关注度
往期回顾 全部

科技要闻

TikTok开始找退路了?

头条要闻

563支AI队伍和姜萍考同一份试卷:最高34分 都没进决赛

头条要闻

563支AI队伍和姜萍考同一份试卷:最高34分 都没进决赛

体育要闻

莱夫利,让困难为我让路

娱乐要闻

江宏杰秀儿女刺青,不怕刺激福原爱?

财经要闻

新情况!高层对人民币的态度180°转弯

汽车要闻

东风奕派eπ008售21.66万元 冰箱彩电都配齐

态度原创

艺术
亲子
本地
教育
公开课

艺术要闻

穿越时空的艺术:《马可·波罗》AI沉浸影片探索人类文明

亲子要闻

儿童“婚礼”寓教于乐,不必过度解读

本地新闻

粽情一夏|海河龙舟赛,竟然成了外国人的大party!

教育要闻

厉害!长沙15岁初三少年闯进2024年阿里巴巴全球数学竞赛决赛

公开课

近视只是视力差?小心并发症

无障碍浏览 进入关怀版