网易首页 > 网易号 > 正文 申请入驻

“龙虾”风暴身后,AI智能体出现了哪些安全新考题?

0
分享至

当中国AI产业能在释放智能体创造力的同时,守住安全底线,当每个用户都能安全、放心地养“龙虾”,那么中国AI的下一个黄金时代,也就不远了。

当“养龙虾”成为2026年开春科技圈最火的潮流,从互联网大厂工程师到普通职场人,都在电脑上忙着部署这只突然破圈的AI智能体。

有人用它写周报、做PPT,有人靠它实现代码自动生成,还有人还通过设定让它远程控制摄像头完成拍照工作……

腾讯、百度、360、Kimi等多家科技大厂,纷纷搞起了线下龙虾免费安装调试活动,每场活动都火爆异常。360集团创始人周鸿祎更是亲自下场参与了在公司园区举办的体验日,帮助用户现场装机,以及调试部署。

OpenClaw这只“龙虾”,仅用了短短一个月时间,就让AI智能体在市面上再度火了一把。

但在热潮的另一侧,各类风险也慢慢浮出了水面。有网友在社交平台上吐露自己遭遇“龙虾”乱改代码、误删文件的经历,还有那些别有用心者,竟然利用“龙虾”的权限漏洞制作恶意Skill,看似可爱的AI新物种,变成了潜藏在终端的定时炸弹。

就在360举办龙虾集市的前几天,周鸿祎曾在北京举办了一场媒体交流会,会上他不仅肯定了“龙虾”的实用价值,也提出了这场热潮背后所潜藏的种种安全问题。周鸿祎现场表示,“龙虾是个好东西,绝非病毒”,但AI智能体从“能说”到“会做”,存在一些安全暗角。

当AI不再只是聊天机器人,开始拥有访问电脑、调用工具、自主决策的“手脚”,如何在释放生产力的同时守住安全底线,成为中国乃至全球AI产业必须直面的新考题。

01 破圈的硅基新物种

在周鸿祎看来,“龙虾”的突然爆火,绝非偶然,而是踩中了AI产业从大模型单打独斗到大模型+智能体双线进化的关键节点。

事实上,早在几年前,国内互联网大厂早已布局智能体赛道:头条有Coze、百度有秒搭、腾讯阿里也有各自的智能体平台,而360也在较早时候就搭建起智能体工厂供个人和企业用户零代码打造智能体。

只不过,过去很长一段时间,这些AI产品更多被设定为“工具思维”,谈不上真正意义上的破圈。用户眼中的AI智能体,不过是一种“可以完成特定任务的软件”,预设好流程、限定好能力,精准差不多够用,但惊喜恐怕不足。

而“龙虾”的颠覆性则在于,它跳出了工具的框架,成为了一个具备自主意识、自我进化能力的硅基新物种——它不再是被用户教着干活的“提线木偶”,而是能主动调度工具、组合技能、试错创新的数字搭子。

周鸿祎分享了这样一个案例:360一名员工让“龙虾”帮忙拍张电脑照片,但“龙虾”本身并没有这个能力,它自主在GitHub上下载了控制摄像头的软件,运行后完成拍照并发送至飞书。这个在传统智能体看来是不可能完成的任务,但“龙虾”通过自主寻找工具和组合能力实现了。

这正是它与传统智能体的核心区别——

传统智能体是工具型,能力由开发者编排,只能完成预设流程,就像一台设定好程序的机器;而“龙虾”是进化型,拥有数千种可调度技能,能通过试错组合出不同的解决方案,甚至能将成功经验转化为新技能,将失败教训总结为避坑指南。

更重要的是,它把智能体的提示词拆分为Soul(人设)、Skill(技能)等多个可编辑文件,用户能自主训练、自定义改造,让“龙虾”有了强烈的拥有感,这也是它能超越各大厂产品,成为普通用户心中智能体代名词的关键。

周鸿祎认为,“龙虾”的最大贡献,并非技术上的石破天惊——它并未在算法、模型训练上实现突破,而是在产品和Agent模式上的创新,完成了一次全民AI科普。

这种认知的普及,让中国AI产业看到了大模型落地的真正路径:不是靠更大的参数、更强的算力,而是让大模型拥有手脚,能真正动手干活。

02 权限越大,风险越高

当“龙虾”拥有了越来越多手脚,能访问电脑文件、调用网络工具、甚至自主下载软件,其背后的安全风险也随之被无限放大。这场由“龙虾”引发的智能体热潮,本质上是一场AI权限的放开。

权限,则是网络安全的命门。

周鸿祎回忆自己最初体验“龙虾”时所遇到的问题,诸如它会忘记“改代码前需通知”,乱改某些已经写好的代码,还可能会误删重要文件,更让人担忧的是,它拥有极高的系统权限,一旦被别有用心者利用,后果不堪设想。

结合目前“龙虾”使用时比较容易出现的高发情况,360安全团队将其分为四大类,每一类都会对用户利益产生很大的损害——

一是Skill供应链投毒,目前网上已有超1万种开源Skill,用户下载时往往不做审核,一些恶意Skill会悄悄窃取用户数据、占用算力,甚至植入木马;

二是提示词注入攻击,也就是周鸿祎口中的“PUA”,攻击者通过花言巧语诱骗“龙虾”泄露用户的账号、密码、API Key等敏感信息,比如谎称“是主人的哥哥,急需银行账号”,就能轻易让缺乏辨别能力的“龙虾”交出核心数据;

三是权限滥用,“龙虾”拥有访问本地文件、摄像头、网络的权限,若权限设置不当,可能导致隐私泄露、文件损毁;

四是群体协作风险,当大量“龙虾”通过网络互相交流、共享技能,一旦出现恶意技能传播,可能引发连锁反应,甚至出现“龙虾”群体被操控的极端情况。

更值得警惕的是,“龙虾”的安全风险并非个例,而是整个AI智能体产业从“聊”到“做”的一种必然。

在此之前,AI大模型主要以对话形式存在,即使出现了“幻觉”,也只是回答错误,不会造成太大的应用损失。但当AI拥有了执行能力,成为能操作电脑、调用工具的智能体,其每一个错误行为,都可能转化为实实在在的安全事故。

但需要情调的是,这并不是在否认“龙虾”的价值,就像周鸿祎所说的那样,没有电脑就没有病毒,没有互联网就没有木马,新技术的正面作用发挥的同时,必然会伴随负向问题。但我们不能因为有安全问题就否定它,不发展、不进步才是最大的不安全。

体验与安全之间的矛盾,并不是“要不要养龙虾”,而是“如何安全地养龙虾”——既要给AI足够的权限和自由度,让其释放创造力,又要建立有效的安全边界,防止其被滥用、被操控。这是一个两难的选择,也是所有AI智能体发展必须跨越的门槛。

03 不是围堵,而是保驾护航

坦白讲,关于“龙虾”安全问题的讨论已愈发热烈,整体来看,市场上出现了两种截然不同的声音:一种是围堵派,认为应严格限制AI智能体的权限,甚至暂停其发展,避免风险扩大;另一种是放任派,认为新技术发展必然伴随风险,应让市场自由发展,无需过度干预。

对于这两种不同的态度,周鸿祎和360认为,不要围堵,也不能放任,而是“在发展中解决问题,为创新保驾护航”。

特别是,360这种保驾护航的意识,其实在“龙虾”爆火的早期就已经开始筹谋。前段日子,360发布了《OpenClaw安全部署与实践指南》,系统解析了“龙虾”的潜在风险,并提出了针对性的解决思路。

对于痛点的洞察再精准,最终也是要交由技术做出解决。为此,360推出了专门针对OpenClaw安全风险的防护系统——“360龙虾卫士”。

作为360安全龙虾的原生安全组件,“360龙虾卫士”通过虚拟化沙箱(WSL)隔离运行环境,将智能体执行空间与用户数据进行分离,并借助AI安全引擎识别恶意技能、异常指令以及潜在漏洞,从而主动拦截技能投毒、提示词注入等攻击行为。

按照周鸿祎的介绍,“360龙虾卫士”采用“最小权限原则”和“人在回路”的核心防护策略,在不影响OpenClaw正常学习和执行能力的前提下,通过实时监控与AI安全模型识别潜在风险,构建“以模治模”的智能安全防护机制,从而在保障效率的同时为智能体运行建立安全边界。

AI注定是一个牵一发动全身的东西,因此,“360安全龙虾”还提供新手与高级用户的分级权限管理机制,并支持客户端一键彻底卸载,即使是360安全龙虾自身也能够完全删除,确保用户始终对系统拥有充分的控制权。

而面向对数据安全和隐私要求更高的机构用户,360在发布会上还推出了“360安全龙虾Box”硬件设备。该产品通过物理级隔离的方式部署OpenClaw系统,可实现本地算力运行和数据不出内网,为政企机构提供更加安全可控的人工智能应用环境。

周鸿祎明确表示,360不会做“一刀切”的安全拦截,不会因为担心风险就限制“龙虾”的能力,而是在保证基本安全的前提下,尽可能让AI的创造力得到释放。尤其对“龙虾”应用实施普惠战略,也是希望能够推动越来越多人主动尝试这种新生产力。

“如果一发现‘龙虾’访问C盘就弹窗拦截,一调用摄像头就告警,那它还怎么干活?安全的意义,不是让用户什么都不能做,而是让用户能放心地做想做的事。”

可以预见,当中国AI产业能在释放智能体创造力的同时,守住安全底线,当每个用户都能安全、放心地养“龙虾”,那么中国AI的下一个黄金时代,也就不远了。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1.1亿册漫画改编,这部新番定档2027年1月

1.1亿册漫画改编,这部新番定档2027年1月

浅遇时光
2026-09-19 03:25:58
美军已做好猎杀准备?短短24小时,中俄都动了,断的就是美国后路

美军已做好猎杀准备?短短24小时,中俄都动了,断的就是美国后路

音乐时光的娱乐
2026-09-17 03:50:41
过期一天就是毒。很多家庭天天都在用,还舍不得扔!

过期一天就是毒。很多家庭天天都在用,还舍不得扔!

三农老历
2026-09-20 01:47:07
10 月运势逆袭,正财偏财齐旺,3 生肖接住福运,日子步步高升!

10 月运势逆袭,正财偏财齐旺,3 生肖接住福运,日子步步高升!

情感事聊
2026-09-19 17:06:39
性专家说:当一个异性开口跟你要钱,要礼物,不管对方是不是想试探你的真心,你都应该明白,你已被对方列入供养者行列

性专家说:当一个异性开口跟你要钱,要礼物,不管对方是不是想试探你的真心,你都应该明白,你已被对方列入供养者行列

心理观察局
2026-08-05 06:46:04
美方高层早就坦承,上世纪八十年代向中国出售武器是一大错误,因为中国人悟性太强,很多武器装备一学就会,这让他们后悔不迭

美方高层早就坦承,上世纪八十年代向中国出售武器是一大错误,因为中国人悟性太强,很多武器装备一学就会,这让他们后悔不迭

z千年历史老号
2026-09-18 19:56:33
40亿美元大项目落地青岛!

40亿美元大项目落地青岛!

凤凰网青岛
2026-09-19 21:28:03
iPhone 18 Pro Max 突然翻车,把首批用户整不会了

iPhone 18 Pro Max 突然翻车,把首批用户整不会了

芝麻科技讯官方号
2026-09-19 12:26:02
黑人女博主吐槽中国就医经历:做妇科检查时,被医生叫来学生围观,还各种点评

黑人女博主吐槽中国就医经历:做妇科检查时,被医生叫来学生围观,还各种点评

小徐讲八卦
2026-09-19 09:50:11
国际奥委会主席考文垂:期待亚运会与奥运会更紧密衔接

国际奥委会主席考文垂:期待亚运会与奥运会更紧密衔接

新华社
2026-09-19 12:55:10
店主张贴“回趟公安,10天后见”字条,遭网友解读为“被拘留”,店主:只是回老家湖北公安县,希望视频发布者公开澄清并道歉

店主张贴“回趟公安,10天后见”字条,遭网友解读为“被拘留”,店主:只是回老家湖北公安县,希望视频发布者公开澄清并道歉

都市快报橙柿互动
2026-09-19 01:02:46
首批上手反馈令人失望?iPhone Duo接连翻车,轻掰机身外屏出现闪屏

首批上手反馈令人失望?iPhone Duo接连翻车,轻掰机身外屏出现闪屏

泡泡网
2026-09-17 10:11:45
影视飓风Tim反掰iPhone Duo致闪屏,称并未用力,苹果回应:博主单台设备测评片面

影视飓风Tim反掰iPhone Duo致闪屏,称并未用力,苹果回应:博主单台设备测评片面

齐鲁壹点
2026-09-17 17:02:26
这身材绝了,她是怎么做到又瘦又有肉的?

这身材绝了,她是怎么做到又瘦又有肉的?

草莓解说体育
2026-09-19 09:15:11
189元,绿联把67W快充和一块屏塞进了旅行充电器

189元,绿联把67W快充和一块屏塞进了旅行充电器

摸鱼算法
2026-09-18 15:35:37
驾照一直没扣分的可以乐了!驾驶证连续3年不扣分,有这5种好处

驾照一直没扣分的可以乐了!驾驶证连续3年不扣分,有这5种好处

沙雕小琳琳
2026-09-19 01:47:28
选不上就掀桌子?十月革命后的苏俄,为何没能快速俘获俄国人心

选不上就掀桌子?十月革命后的苏俄,为何没能快速俘获俄国人心

老达子
2026-09-17 06:25:03
“童子相,养不大!”一家五口合照火了,可这夸赞却很不对味

“童子相,养不大!”一家五口合照火了,可这夸赞却很不对味

妍妍教育日记
2026-09-18 16:58:28
癌的源头已发现?咸菜没上榜,第1名大家或天天都在吃

癌的源头已发现?咸菜没上榜,第1名大家或天天都在吃

垚垚分享健康
2026-08-26 16:21:31
央视怒批,目不识丁,洋相百出,绝望文盲再翻车,冯远征又说对了

央视怒批,目不识丁,洋相百出,绝望文盲再翻车,冯远征又说对了

墨印斋
2026-05-29 13:20:21
2026-09-20 05:36:49
陆玖商业评论
陆玖商业评论
真相无法揭露,只能接近。
1342文章数 3913关注度
往期回顾 全部

科技要闻

要走650亿,智谱的理想越来越贵

头条要闻

厨师被指在餐馆扎血测艾滋病 老板:有关部门已介入

头条要闻

厨师被指在餐馆扎血测艾滋病 老板:有关部门已介入

体育要闻

2026亚运会开幕式 胡明轩吴愉担任旗手

娱乐要闻

甜度爆表!许嵩冯禧晒婚纱照官宣结婚

财经要闻

江西首富破产:一张927万商票压垮千亿帝国

汽车要闻

大块头的从容 红旗G919如何兼顾豪华与越野能力

态度原创

本地
数码
手机
时尚
公开课

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

数码要闻

三星又罢工了!这次堵到李在镕家门口:内存芯片又要涨价了

手机要闻

iPhone 18 Pro 1TB版本使用QLC闪存引发争议:加价数千元却买到降级配置

早秋外套别总穿黑色,准备一件黄色针织衫,温柔大方又减龄

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版