网易首页 > 网易号 > 正文 申请入驻

上交大团队发布可信版OpenClaw

0
分享至

澎湃科技(www.thepaper.cn)日前获悉,针对OpenClaw 的系统性安全风险,上海交通大学计算机学院(网络空间安全学院)副教授王烁带领 的LoCCS 实验室团队推出了一套面向企业场景的可信化改造方案。该方案通过能力按需激活、权限前置治理、风险分级执行、结构化记忆和证据链审计等机制,将安全与可信从模型层的软约束,升级为系统层的硬能力。

上海交通大学计算机学院(网络空间安全学院)副教授王烁带领的LoCCS 实验室团队推出了面向B端企业安心版本的OpenClaw

企业装“虾”,最怕的是安全问题

在王烁看来,过去几年,大模型驱动的内容智能已经深刻改变了内容创作、搜索推荐、文档分析等工作方式,但整体上仍停留在“反应式 AI”阶段——模型可以写出一份几乎完美的脚本,却无法真正自主按下回车键。

“这就像一个坐在副驾驶上的顾问,只能提出建议,却碰不到方向盘。”王烁说,“而现在,AI 代理正在向‘主动式 AI’演进。它直接坐在工位上,握着鼠标和键盘,拥有系统级权限,能够接管绝大多数数字化操作。”

但OpenClaw 目前还被不少企业视为“高能力与高风险并存”的工具。王烁表示,当前企业使用 OpenClaw 的最大的顾虑就是安全问题。“它开放了较多接口和调用通道,这意味着外部工具、插件乃至本地文件系统都可能被接入;它又具备较高权限,能够删除、转发文件,甚至触达更敏感的数字资产。”

在他看来,OpenClaw 当前面临的核心风险主要包括三类:其一,间接提示词注入。攻击者无需直接攻击用户,只需在网页、插件或外部内容中植入肉眼不可见的恶意指令,就可能诱导 AI 窃取私钥文件、敏感文档等信息;其二,模型幻觉。原本用于“清理临时文件”的正常指令,可能在误判之下演变为破坏性操作;其三,默认端口暴露与安全配置缺失。尤其在云端部署场景下,如果接口和权限边界管理不当,就相当于“把保险柜搬到大街上,还插着钥匙”。

不做“花瓶式”防护 把 OpenClaw 变成“省油版”落地

针对 OpenClaw 的系统性安全风险,王烁团队认为,不能用简单粗暴的“一刀切”方式禁用权限,也不能把安全完全寄托于模型“自觉”。如果防护机制只停留在表面,最终只会变成“花瓶式”安全:看起来合规,实际上既挡不住风险,也拖慢执行效率。

对此,团队提出的改造思路是:第一,尽量把安全边界前置,避免把关键判断全部交给模型;第二,让复杂能力默认不常驻,减少上下文膨胀带来的误判;第三,关键结论必须具备证据链,避免产品“看起来会做”,但结果无法复核。

基于这一思路,王烁团队为 OpenClaw 设计了多层加固方案。

首先,是建立更清晰的“自我认知”机制,使系统能够区分用户真实指令与外部环境中的潜在恶意指令,从而提升对提示词注入攻击的抵御能力,避免盲目执行被污染的命令。

其次,是对可调用的 API 与功能模块进行认证和分级,明确哪些指令属于可信调用,哪些操作属于高风险范围;对于高风险任务,则要求前置审批、隔离执行,或在受控环境中完成。

最后,是引入全流程复盘与审计机制,安排“审计员”持续跟踪每一个敏感操作。从处理的数据、执行的动作,到生成的结果、可能带来的风险,系统都会形成完整审计链条;一旦审计不通过,任务流程将被立即中止。

在王烁看来,这套方案的核心,不是简单“减少能力”,而是把复杂度留在系统内部,把最小必要信息留给模型,在提升安全覆盖面的同时,提高执行确定性和结果可信度。

除了安全加固,团队还推进“大小模型协同”的调度机制,根据任务复杂度动态分配模型资源:简单任务由轻量级模型处理,复杂任务再调用大模型;同时,针对具体任务对大模型进行“瘦身”,裁剪掉冗余能力,只保留完成任务所必需的功能。

“我们现在用 OpenClaw 去完成一个很简单的任务,可能一个月就要花掉几千块。对初创团队和中小企业来说,这样的成本并不轻。”王烁表示,团队希望通过按需调用、模型裁剪和任务定制,把它做成一个更适合落地的“省油版 OpenClaw”。

在他看来,真正阻碍 OpenClaw 企业落地的,不只是“能不能用”,而是“能不能安全地用、低成本地用、持续地用”。

从“最后一公里”到“最后100米”

王烁认为,如果 OpenClaw 的出现,打通了 Agent 创业和落地的“最后一公里”,那么当下行业要解决的,实际上是更现实的“最后100米问题”:它到底能不能把工作干好,能不能在真实业务中稳定交付结果。

围绕这一点,王烁表示,团队接下来将重点攻克三个方向。

一是测评驱动。先对 OpenClaw 进行全面测评,明确其能力边界、风险边界和可优化空间;

二是能力提升。针对 OpenClaw 做不好的任务,分析问题究竟出在理解、规划、执行还是工具调用环节,并通过定向构建高质量数据进行补强;

三是持续优化。让 OpenClaw 在使用中不断学习、反思、迭代,实现边用边改、边跑边进化。“以前互联网时代创业,要找开发、烧钱、烧人、烧时间。”王烁说,借助 OpenClaw 这类工具,一个想法加上一轮验证,短时间内就可能搭出一个相当完整的前端,后端流程也能快速对接,创业门槛正在被大幅压低。

在他看来,企业利润的来源也可能随之发生变化。过去,软件公司的收入更多来自订阅费;未来,部分产品的商业模式可能转向“API 调用费 × 调用次数”。这意味着,软件业的底层逻辑正在被重新改写。

不过,王烁也强调,OpenClaw 所代表的生产力变革并不意味着“单兵作战”。对于今天的创业者来说,首先仍需要供应链支撑,包括开源平台、硬件基础设施、垂直领域模型和算力资源;其次,还需要找到明确的场景匹配,用 OpenClaw 去解决具体问题,形成可复制的微生态;再往后,则是不同 AI 代理企业之间的协同,共同完成更复杂的工作流。

“这本质上是一场生产力组织方式的变化。”王烁表示,当越来越多共性需求可以被拆分、共享和协作完成,算力可以共享,数据可以合作,订单也可以分包与众包,行业就会从过去的供应链协同,逐步迈向更大的生态协同。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
雷佳音近况公开,留及肩长卷发,网友:与早年“陈俊生”形象判若两人

雷佳音近况公开,留及肩长卷发,网友:与早年“陈俊生”形象判若两人

韩小娱
2026-10-17 16:11:30
梅西25球领跑金靴,15助并列第一,跟队记者改口看好其拿MVP

梅西25球领跑金靴,15助并列第一,跟队记者改口看好其拿MVP

追踪不停歇
2026-10-18 13:37:51
商家称囤50台iPhone Duo面临亏本 近百万元订单遭压价

商家称囤50台iPhone Duo面临亏本 近百万元订单遭压价

快科技
2026-10-19 08:29:08
失眠专家黄燕:肝最爱的一朵花,蔬菜中的“逍遥丸”!今天开始要多吃,越吃肝气越顺、睡得越香甜

失眠专家黄燕:肝最爱的一朵花,蔬菜中的“逍遥丸”!今天开始要多吃,越吃肝气越顺、睡得越香甜

大明爱养生
2026-10-18 11:19:57
父亲在孩子叛逆期能发挥啥大用?网友:我就服笫一个爸爸

父亲在孩子叛逆期能发挥啥大用?网友:我就服笫一个爸爸

解读热点事件
2026-10-18 22:22:32
澳洲知名保健品暴雷, 紧急召回! 中国官方发布警告, 大批华人家中都有, 千万别吃了!

澳洲知名保健品暴雷, 紧急召回! 中国官方发布警告, 大批华人家中都有, 千万别吃了!

澳微Daily
2026-10-18 15:01:34
刘嘉玲问何赛飞:除了你老公,有没有哪个男人让你突然心动过?

刘嘉玲问何赛飞:除了你老公,有没有哪个男人让你突然心动过?

老吴教育课堂
2026-10-18 10:08:20
黄克诚晚年吐真言:朱老总带上井冈山的,何止一支军队?

黄克诚晚年吐真言:朱老总带上井冈山的,何止一支军队?

纪史行者
2026-10-18 10:45:20
荷兰突然下场,不限制ASML光刻机对华出口,但对另一国家痛下狠手

荷兰突然下场,不限制ASML光刻机对华出口,但对另一国家痛下狠手

疯狂小菠萝
2026-10-18 14:16:11
穆帅一石二鸟,妙手解决皇马中场顽疾!巴尔韦德移镇右后卫,皇马4:1大胜,穆帅称赞巴尔韦德全能!

穆帅一石二鸟,妙手解决皇马中场顽疾!巴尔韦德移镇右后卫,皇马4:1大胜,穆帅称赞巴尔韦德全能!

福酱的小时光
2026-10-19 08:14:16
演都不演了!电影节上,周迅获奖她撇嘴满脸不屑,对着镜头翻白眼

演都不演了!电影节上,周迅获奖她撇嘴满脸不屑,对着镜头翻白眼

历史的烟火
2026-10-18 13:03:43
西安事变,大家只关注张学良、杨虎城扣蒋,却忽略了洛阳关键作用

西安事变,大家只关注张学良、杨虎城扣蒋,却忽略了洛阳关键作用

纪史行者
2026-10-17 03:00:03
本西蒙斯跟腱撕裂!预计赛季报销,刚回归就结束了!

本西蒙斯跟腱撕裂!预计赛季报销,刚回归就结束了!

德译洋洋
2026-10-19 10:36:56
赛前致敬突变噩梦:美空军队员从体育馆顶棚绳降失控坠亡,数万观众惊恐尖叫!

赛前致敬突变噩梦:美空军队员从体育馆顶棚绳降失控坠亡,数万观众惊恐尖叫!

华人生活网
2026-10-19 03:54:37
演员张佳宁连续两月被拍到挺孕肚现身,本人及工作室均未正面回应;此前表示结婚会公开,受父母婚姻影响称坚决不会离婚,未来生两个孩子

演员张佳宁连续两月被拍到挺孕肚现身,本人及工作室均未正面回应;此前表示结婚会公开,受父母婚姻影响称坚决不会离婚,未来生两个孩子

台州交通广播
2026-10-17 12:49:57
太逗了!马斯克回复蔚来李斌:你们有的我也没有,特斯拉没桌子!

太逗了!马斯克回复蔚来李斌:你们有的我也没有,特斯拉没桌子!

侃故事的阿庆
2026-10-19 05:08:31
红利曼大败反倒还“赢”上了!格拉西莫夫的汇报,有多离谱?

红利曼大败反倒还“赢”上了!格拉西莫夫的汇报,有多离谱?

战风
2026-10-18 10:21:37
72岁上海老太终身未嫁,重病住院时一中年男子赶来:妈,我们到了

72岁上海老太终身未嫁,重病住院时一中年男子赶来:妈,我们到了

笔墨V
2026-10-19 03:44:25
缺谁谁尴尬!维尼修斯现身伯纳乌看台观战,目睹皇马主场大胜

缺谁谁尴尬!维尼修斯现身伯纳乌看台观战,目睹皇马主场大胜

懂球帝
2026-10-19 08:08:08
太稳了!双色球26119期:开出两注一等奖,奖池来到10.25亿

太稳了!双色球26119期:开出两注一等奖,奖池来到10.25亿

会飞的小小鱼654
2026-10-19 09:14:19
2026-10-19 11:20:49
澎湃新闻 incentive-icons
澎湃新闻
专注时政与思想的新闻平台。
939798文章数 5097774关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

上海阿姨心疼保险业务员离异带娃 结果5年被转走200万

头条要闻

上海阿姨心疼保险业务员离异带娃 结果5年被转走200万

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

演员许君聪近况曝光 婚恋成谜让人唏嘘

财经要闻

三季度GDP,同比增长4.5%

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

游戏
手机
亲子
公开课
军事航空

《生化危机》电影被改造成PS1风格生存恐怖游戏

手机要闻

一加Ace 7系列手机官宣本月发布

亲子要闻

让孩子学搏击,不是教会孩子暴力,而是让孩子更加勇敢有担当

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

乌克兰全国超15处重要能源设施遭俄袭击 泽连斯基发声

无障碍浏览 进入关怀版