网易首页 > 网易科技 > 网易科技 > 正文

ChatGPT封锁模式上线:防恶意指令偷数据,但联网能力受限

0
分享至

6月7日,OpenAI近日上线一项新的可选安全设置“封锁模式”(Lockdown Mode),用户开启后,ChatGPT会限制实时联网、深度研究和智能体模式等能力,以降低敏感数据被提示注入攻击(prompt injection)带走的风险。

OpenAI帮助中心显示,Lockdown Mode现已面向所有已登录用户开放,覆盖不同账户类型和工作区。个人用户可在“设置-安全”中开启,工作区管理员也可通过工作区设置和角色权限进行配置。

它防的是哪类风险

提示注入攻击指的是攻击者把恶意指令藏在网页、文档或其他外部内容里。当ChatGPT读取这些内容时,模型可能被诱导忽略原本规则,执行不该执行的动作,严重时可能把用户输入的敏感信息通过联网能力传到外部。

封锁模式的思路不是让模型识别所有恶意指令,而是限制最危险的一步:向外部发起网络请求。开启后,ChatGPT的实时网页浏览会被限制,只能访问缓存内容;搜索结果可能不完整、不可用或已经过时。ChatGPT也不会在普通回复中检索和展示来自网络的图片,但用户仍可自行上传图片文件,图片生成功能也不受影响。

同时,深度研究(Deep Research)和智能体模式(Agent Mode)会被关闭;ChatGPT不能从网络下载文件用于数据分析,只能处理用户手动上传的文件;Canvas生成的代码也不能被批准联网访问。

对多数用户影响有限,对企业是取舍开关

对大多数普通用户来说,封锁模式未必会长期打开。很多人使用ChatGPT,正是为了联网搜索、整理资料、做深度研究或调用外部工具。开启封锁模式后,这些能力会明显受限,得到的信息也可能更旧。

但对企业、公共服务机构、法律和合规团队来说,这个开关的意义更直接:当对话里可能出现客户隐私、合同条款、内部数据或未公开材料时,管理者可以选择牺牲一部分联网能力,换取更低的数据外泄风险。

OpenAI还说明,封锁模式不会改变对话记忆、文件上传、分享对话等功能,也不会改变对话是否被用于改进模型。相关设置仍需通过数据控制或企业管理员权限单独管理。换句话说,它不是一个总隐私开关,只负责减少提示注入导致的数据外传风险。

这不是万能安全锁

OpenAI在帮助文档中明确承认,封锁模式不能保证提示注入攻击完全失效。恶意指令仍可能出现在缓存网页内容里,也可能藏在用户上传的文件中,并影响ChatGPT的回答行为或准确性。

这说明AI产品正在面对一个更现实的问题:模型越能联网、调用工具、代表用户执行任务,攻击面就越大。智能体模式强调让AI主动访问网页、操作外部服务、完成多步骤任务,而这些能力也正是提示注入攻击最容易利用的入口。

封锁模式为这类能力设置了一道可见边界。它没有承诺让ChatGPT绝对安全,而是把“更强能力”和“更低外泄风险”之间的取舍交给用户和管理员。(易句)

(本文由AI翻译,网易编辑负责校对)

相关推荐
热点推荐
中美关系彻底重构,五国主动宣战中方,日本想参战反而是好消息

中美关系彻底重构,五国主动宣战中方,日本想参战反而是好消息

咣当地球
2026-06-07 14:57:40
若中日再次爆发战争,结局会如何?俄罗斯和美国的看法竟然一致?

若中日再次爆发战争,结局会如何?俄罗斯和美国的看法竟然一致?

梦的微尘
2026-01-27 14:16:39
央视首次官宣,红旗-16F完成实弹射击,性能实现全面飞跃

央视首次官宣,红旗-16F完成实弹射击,性能实现全面飞跃

轩逸阿II
2026-06-08 04:04:12
中国车主挂壁公路实测特斯拉智驾海外走红!马斯克转发后车主回应

中国车主挂壁公路实测特斯拉智驾海外走红!马斯克转发后车主回应

快科技
2026-06-07 14:01:06
利物浦惊现头号内鬼!自己要跑路还劝队友叛逃!昔日王牌逼宫离队

利物浦惊现头号内鬼!自己要跑路还劝队友叛逃!昔日王牌逼宫离队

奶盖熊本熊
2026-06-07 04:32:14
自带“青霉素”的菜,越吃越健康,鲜香美味,中老年常吃,眼睛好

自带“青霉素”的菜,越吃越健康,鲜香美味,中老年常吃,眼睛好

思思夜话
2026-06-05 17:56:15
辽宁将撤并28家省级经济开发区

辽宁将撤并28家省级经济开发区

上观新闻
2026-06-07 11:29:08
东北一男子养鹿破产,赌气放生了30头鹿,8年后上山,眼前一幕却让他泪崩了...

东北一男子养鹿破产,赌气放生了30头鹿,8年后上山,眼前一幕却让他泪崩了...

背包旅行
2026-05-11 14:51:09
国家队加速加码抄底黄金

国家队加速加码抄底黄金

贩财局
2026-06-07 14:00:09
四名出国打球的女排姑娘已经齐刷刷归队了!

四名出国打球的女排姑娘已经齐刷刷归队了!

眼界纵横
2026-04-23 12:10:28
忆秦娥,你早干什么去了?

忆秦娥,你早干什么去了?

我来我看见
2026-06-05 14:25:07
28岁凯莉海岛度假,镂空长裙侧乳隐现

28岁凯莉海岛度假,镂空长裙侧乳隐现

时光慢旅人
2026-06-07 00:40:36
美国、以色列、黎巴嫩,达成联合声明!黎以同意停火,前提是真主党停止攻击,以防长:以军现阶段将继续在黎地面行动

美国、以色列、黎巴嫩,达成联合声明!黎以同意停火,前提是真主党停止攻击,以防长:以军现阶段将继续在黎地面行动

每日经济新闻
2026-06-05 10:22:08
老蒋对美国记者谈及学生陈赓,骄傲地说:他刚在朝鲜打败过你们!

老蒋对美国记者谈及学生陈赓,骄傲地说:他刚在朝鲜打败过你们!

史之铭
2026-06-08 01:55:43
佛罗里达校车司机被捕:6岁男童被遗忘车内,醒来独自游荡街头

佛罗里达校车司机被捕:6岁男童被遗忘车内,醒来独自游荡街头

自愈小日子
2026-06-07 00:30:20
Coco彻底摊牌了!公开张柏芝三胎生父+谢霆锋结婚内幕,信息量炸裂

Coco彻底摊牌了!公开张柏芝三胎生父+谢霆锋结婚内幕,信息量炸裂

青橘罐头
2026-06-07 14:35:28
今年高考五大反常现象已浮现!除人数下降外,还有一点非常重要!

今年高考五大反常现象已浮现!除人数下降外,还有一点非常重要!

北纬的咖啡豆
2026-06-05 14:32:49
大陆的果断出击,终于让岛内爱国力量觉醒了!台当局终于发声抗日

大陆的果断出击,终于让岛内爱国力量觉醒了!台当局终于发声抗日

兵鉴史
2026-06-07 06:05:09
乌克兰袭击通往克里米亚的大桥,这是有大动作?

乌克兰袭击通往克里米亚的大桥,这是有大动作?

山河路口
2026-06-07 18:06:11
即将封顶?中国超级核航母震撼美媒:进度实在太快,彻底超越美军

即将封顶?中国超级核航母震撼美媒:进度实在太快,彻底超越美军

别吵吵
2026-06-06 08:34:45
2026-06-08 05:08:49

科技要闻

黄仁勋访韩:首尔网吧会晤游戏巨头负责人

头条要闻

白人遭致命刺伤仍被带手铐终身亡 马斯克发声斯塔默怒斥

头条要闻

白人遭致命刺伤仍被带手铐终身亡 马斯克发声斯塔默怒斥

体育要闻

劳塔罗传射 梅西伤缺 阿根廷2-0洪都拉斯

娱乐要闻

戚薇坦言:陪睡只是低级潜规则

财经要闻

SpaceX上市前夕,忙着干三件大事

汽车要闻

奥迪全新超跑Nuvolari登场 千匹混动性能拉满

态度原创

健康
数码
教育
时尚
军事航空

新规能促进干细胞治疗乱象规范吗?

数码要闻

AMD AIB合作伙伴预测:下代独立显卡至少要等一年

教育要闻

语文作文出炉 挺意外!看看考生们都怎么说?(编辑:zx jjj)

聊点实用的:38°高温天出门,全靠它们保持体面美丽

军事要闻

美以伊战争100天 美或用冻结的伊朗资产赔偿海湾盟友

无障碍浏览 进入关怀版
×