网易首页 > 网易号 > 正文 申请入驻

ChatGPT封锁模式上线:防恶意指令偷数据,但联网能力受限

0
分享至

来源:市场资讯

(来源:网易智能)

6月7日,OpenAI近日上线一项新的可选安全设置“封锁模式”(Lockdown Mode),用户开启后,ChatGPT会限制实时联网、深度研究和智能体模式等能力,以降低敏感数据被提示注入攻击(prompt injection)带走的风险。

OpenAI帮助中心显示,Lockdown Mode现已面向所有已登录用户开放,覆盖不同账户类型和工作区。个人用户可在“设置-安全”中开启,工作区管理员也可通过工作区设置和角色权限进行配置。

它防的是哪类风险

提示注入攻击指的是攻击者把恶意指令藏在网页、文档或其他外部内容里。当ChatGPT读取这些内容时,模型可能被诱导忽略原本规则,执行不该执行的动作,严重时可能把用户输入的敏感信息通过联网能力传到外部。

封锁模式的思路不是让模型识别所有恶意指令,而是限制最危险的一步:向外部发起网络请求。开启后,ChatGPT的实时网页浏览会被限制,只能访问缓存内容;搜索结果可能不完整、不可用或已经过时。ChatGPT也不会在普通回复中检索和展示来自网络的图片,但用户仍可自行上传图片文件,图片生成功能也不受影响。

同时,深度研究(Deep Research)和智能体模式(Agent Mode)会被关闭;ChatGPT不能从网络下载文件用于数据分析,只能处理用户手动上传的文件;Canvas生成的代码也不能被批准联网访问。

对多数用户影响有限,对企业是取舍开关

对大多数普通用户来说,封锁模式未必会长期打开。很多人使用ChatGPT,正是为了联网搜索、整理资料、做深度研究或调用外部工具。开启封锁模式后,这些能力会明显受限,得到的信息也可能更旧。

但对企业、公共服务机构、法律和合规团队来说,这个开关的意义更直接:当对话里可能出现客户隐私、合同条款、内部数据或未公开材料时,管理者可以选择牺牲一部分联网能力,换取更低的数据外泄风险。

OpenAI还说明,封锁模式不会改变对话记忆、文件上传、分享对话等功能,也不会改变对话是否被用于改进模型。相关设置仍需通过数据控制或企业管理员权限单独管理。换句话说,它不是一个总隐私开关,只负责减少提示注入导致的数据外传风险。

这不是万能安全锁

OpenAI在帮助文档中明确承认,封锁模式不能保证提示注入攻击完全失效。恶意指令仍可能出现在缓存网页内容里,也可能藏在用户上传的文件中,并影响ChatGPT的回答行为或准确性。

这说明AI产品正在面对一个更现实的问题:模型越能联网、调用工具、代表用户执行任务,攻击面就越大。智能体模式强调让AI主动访问网页、操作外部服务、完成多步骤任务,而这些能力也正是提示注入攻击最容易利用的入口。

封锁模式为这类能力设置了一道可见边界。它没有承诺让ChatGPT绝对安全,而是把“更强能力”和“更低外泄风险”之间的取舍交给用户和管理员。(易句)

(本文由AI翻译,网易编辑负责校对)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
坐标上海!被裁失业后的生活,引炸评论区,大家同为天涯沦落人…

坐标上海!被裁失业后的生活,引炸评论区,大家同为天涯沦落人…

慧翔百科
2026-05-13 11:30:11
《大表哥2》全员转生《GTA6》?R星偷懒还是另有深意

《大表哥2》全员转生《GTA6》?R星偷懒还是另有深意

游民星空
2026-06-25 16:30:25
祸从口出!默茨提议中方签署广场协议,欧洲央行行长紧急出面降温

祸从口出!默茨提议中方签署广场协议,欧洲央行行长紧急出面降温

面包夹知识
2026-06-24 18:15:04
iPhone 20全面曝光: 苹果憋了十年的"iPhone X时刻",赌注大得多

iPhone 20全面曝光: 苹果憋了十年的"iPhone X时刻",赌注大得多

明美无限
2026-06-23 15:48:07
委内瑞拉突发7.5级大地震,伤亡恐破万,美国会见死不救么?

委内瑞拉突发7.5级大地震,伤亡恐破万,美国会见死不救么?

罗富强说
2026-06-25 16:43:24
顶级阴阳!韩国记者提问:你们食物中毒了吗

顶级阴阳!韩国记者提问:你们食物中毒了吗

观察者网
2026-06-25 15:25:40
中国网友的造梗能力能拿世界杯冠军

中国网友的造梗能力能拿世界杯冠军

雷斯林
2026-06-25 14:27:51
央视将播!谍战大剧《千里江山图》来了!我敢说:陈道明又赌对了

央视将播!谍战大剧《千里江山图》来了!我敢说:陈道明又赌对了

草本纪年
2026-06-25 16:57:46
包养10位情妇,睡觉靠翻牌,生下11个私生子,75岁仍在拼命生娃!

包养10位情妇,睡觉靠翻牌,生下11个私生子,75岁仍在拼命生娃!

云舟史策
2026-03-15 17:04:48
确认了,台风+冷空气影响杭州!明天记得开窗!大反转马上就到

确认了,台风+冷空气影响杭州!明天记得开窗!大反转马上就到

19楼
2026-06-25 15:22:00
霍启山被曝11月将举办婚礼仅1天,女方被扒底朝天,郭晶晶没说错

霍启山被曝11月将举办婚礼仅1天,女方被扒底朝天,郭晶晶没说错

娱瓜酱
2026-06-23 14:41:23
离婚又爆挪用上亿公款!「戏剧女王」黄正音面露憔悴暴瘦一圈

离婚又爆挪用上亿公款!「戏剧女王」黄正音面露憔悴暴瘦一圈

ETtoday星光云
2026-06-25 17:11:41
官方出手!涉事者下场大快人心,张桂梅终于能松口气,宋佳没说错

官方出手!涉事者下场大快人心,张桂梅终于能松口气,宋佳没说错

好贤观史记
2026-06-25 14:32:58
我隐瞒拳击金牌身份入伍,低调了4年,直到那天6个老兵群殴我班长

我隐瞒拳击金牌身份入伍,低调了4年,直到那天6个老兵群殴我班长

荔枝人物记
2026-03-13 21:30:07
两岸已签约成功,大陆重大让步?蒋万安开始行动,台当局公开道歉

两岸已签约成功,大陆重大让步?蒋万安开始行动,台当局公开道歉

丁丁鲤史纪
2026-06-24 15:48:50
全网热议的“弟弟要钱买800多的鼠标”事件,炸出多少精神贵族!

全网热议的“弟弟要钱买800多的鼠标”事件,炸出多少精神贵族!

北纬的咖啡豆
2026-06-09 09:35:13
一场65-60!验出中国男篮最大水货,郭士强弃用“拖油瓶”成定局

一场65-60!验出中国男篮最大水货,郭士强弃用“拖油瓶”成定局

刘哥谈体育
2026-06-25 16:42:29
二战士兵怎么解决生理需求的?德国最好笑,美国最实用

二战士兵怎么解决生理需求的?德国最好笑,美国最实用

月光作笺a
2026-06-02 00:10:43
俄乌战争如果继续下去,普京可能被斩首,那将是俄罗斯解体的结局

俄乌战争如果继续下去,普京可能被斩首,那将是俄罗斯解体的结局

荷兰豆爱健康
2026-06-24 17:43:19
指数狂欢,4200股陪跑 A股极致分化行情何时休?

指数狂欢,4200股陪跑 A股极致分化行情何时休?

金融投资报
2026-06-25 16:36:22
2026-06-25 18:00:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
3785535文章数 8361关注度
往期回顾 全部

科技要闻

宇树机器人大降价

头条要闻

重卡司机称换不起85万的纯电重卡:追平45万差价要5年

头条要闻

重卡司机称换不起85万的纯电重卡:追平45万差价要5年

体育要闻

世界杯最动人一吻:我若离世 你就改嫁吧

娱乐要闻

这国产剧太装了,居然还热播第一?

财经要闻

净利润涨近15倍!美光再次引爆行情

汽车要闻

2027款星途ES 天马1:11:36背后的实力

态度原创

时尚
教育
亲子
旅游
手机

最高级的夏季配色,来了!

教育要闻

多少分可以上湖南工程学院?

亲子要闻

广东发放托育券最高2000元,深圳有56家托育机构可用

旅游要闻

免门票!看大戏!2026河南戏超·渑池站开录在即!

手机要闻

曝苹果iPhone Ultra 2第二代阔折叠立项确定,Air 3还没开模

无障碍浏览 进入关怀版