网易首页 > 网易科技 > 互联网 > 正文

安全是AI健康发展的保障 OpenClaw智能体应用前景与风险分析研讨会成功举办

0
分享至

3月21日下午,由中国国家创新与发展战略研究会数字经济工作委员会与网易科技联合主办的"OpenClaw类AI智能体应用前景与风险分析"研讨会在京举行。研讨会由中国国家创新与发展战略研究会副会长吕本富主持,全国政协委员、工业和信息化部原副部长王江平出席会议并做了主题演讲。工信部国家工业信息安全发展研究中心安全检查所所长于盟,中国科学院大学经济与管理学院教授、博导、院长助理刘颖,安恒信息副总裁杨绍波,枫清科技联合创始人兼CPO仲光庆等业界专家分别作主题发言,深入探讨了AI Agent技术的发展现状、应用前景与安全治理路径。与会专家认为,“龙虾热潮”照射出AI时代的高效和风险,既不能因奢废食,抑制创新活动,也不能放任自流,陷入无序竞争。

AI Agent:从"能说会道"到"能说会做"的第四次跃迁

刘颖教授在发言中回顾了AI技术的四次跃迁历程:从2023年ChatGPT开启"能说会道"时代,到2024年多模态感知突破,2025年深度推理能力提升,直至2026年OpenClaw等AI代理框架爆发,大模型终于获得了"执行力"。刘颖指出,OpenClaw的核心价值在于让AI从"顾问型"进化为"执行型"——它不仅能回答问题,更能操控电脑、管理文件、运行脚本、接入各类通讯工具,真正成为7×24小时工作的"数字员工"。

仲光庆分享了枫清科技在企业级AI Agent落地方面的实践经验。他指出,OpenClaw代表着从AI助手到数字员工的转变,企业级Agent不是单点工具,而是"执行+知识+推理"的组合,需要构建端(员工日常使用)、边(企业私有知识沉淀)、云(大模型算力支撑)三位一体的体系架构。

垂直领域应用爆发,效能提升显著

与会专家一致认为,OpenClaw类AI智能体正在金融、医疗、通信、制造等垂直领域加速落地。刘颖介绍,北京移动已推出首位"龙虾网管",在物理隔离环境中模拟真实用户进行端到端网络测试,实现故障处理效率大幅提升,人力成本下降60%;方正、广发、中信等至少八家券商已内部部署OpenClaw,视其为"下一代投研基建"。

仲光庆则聚焦企业大模型落地的"三步走"路径:第一阶段构建产品底座与多源知识库,实现智能问答与DeepResearch报告生成;第二阶段接入MCP工具与业务场景,实现本地数据与外部系统交互;第三阶段形成自定义Agent能力,实现泛化应用。他强调,企业落地应坚持"业务驱动、多方共创、小步快跑、从外围到核心"的原则。

安全风险凸显,六大维度需警惕

与会专家高度关注AI Agent带来的新型安全风险。于盟所长系统剖析了六大安全风险维度:权限维度风险(默认获取管理员级权限)、指令注入风险(提示词劫持可导致误操作)、数据泄露风险(AI可自主扫描并上传敏感数据)、生态与供应链风险(第三方Skill无审核机制)、网络与边界风险(设备可被作为跳板攻击内网)、合规与审计风险(缺少完整操作日志)。

于盟披露了令人警醒的案例:2026年1-3月共采集OpenClaw漏洞82个,其中超危12个、高危21个;"ClawHavoc"投毒事件中发现1184个恶意技能包,导致1100余名用户设备沦为"肉鸡";Meta安全总监的200多封重要邮件被失控AI删除,DataTalks.Club的194万行生产数据被误删。

杨绍波以Meta AI安全总监的经历为例,强调当AI从"能说会道"走向"能说会做",我们面对的不只是效率提升问题,更是关于信任、安全与全新生产关系的深刻变革。他提出"三维安全体系"——在传统的网络安全、数据安全之外,新增"决策执行安全"维度,确保AI的决策符合预设意图、执行过程可控、结果可审计。

构建生态级安全防护体系

针对安全治理路径,专家们提出了系统性建议。于盟给出六项安全使用建议:使用官方最新版本、严格控制互联网暴露面、坚持最小权限原则、谨慎使用ClawHub技能市场、防范社会工程学攻击、建立长效防护机制。杨绍波则判断未来将出现"独立守护代理(Guardian Agents)",在毫秒级时间内判断AI行为是否安全,Gartner预测到2029年超70%组织将采用此类方案。

刘颖介绍了当前监管政策动态:工信部已明确三大风险(信任边界模糊、越权操作风险、公网暴露风险)并提出五项整改建议;深圳龙岗、无锡高新区、常熟市、合肥高新区等地已出台专项政策,对OpenClaw及"一人公司(OPC)"项目提供最高达1000万元的资金支持,推动产业高质量发展。

安全是AI健康发展的保障

与会专家一致认为,AI Agent正在成为继大语言模型之后的下一波重大技术浪潮,将重新定义"工作"的含义。Gartner数据显示,17%的企业已部署AI Agent,42%计划在一年内落地。面对这一历史机遇,安全不是AI发展的制约,而是AI健康发展的保障。唯有前瞻布局,方能行稳致远。

本次研讨会为AI Agent技术的安全、可控、高质量发展提供了重要的交流平台,政府部门、学术机构、安全厂商与技术企业的深入对话,将为构建完善的AI Agent安全治理体系贡献智慧力量。

相关推荐
热点推荐
汪小菲与两个截然不同女人结婚,各自抱着孩子合照,看着有点感慨

汪小菲与两个截然不同女人结婚,各自抱着孩子合照,看着有点感慨

大眼妹妹
2026-10-16 17:01:49
大病最危险信号,不是消瘦,是排尿频繁出现5个表现,别不当回事

大病最危险信号,不是消瘦,是排尿频繁出现5个表现,别不当回事

芹姐说生活
2026-09-08 23:21:41
为何红军到了陕北,蒋介石的几十万大军就不死追了,这是为什么?

为何红军到了陕北,蒋介石的几十万大军就不死追了,这是为什么?

千秋文化
2026-01-15 22:38:14
绿城中国原董事会主席受贿细节曝光

绿城中国原董事会主席受贿细节曝光

地产微资讯
2026-10-16 11:40:38
随着斯瓦泰克2-0,萨巴伦卡终结者晋级,武网8强全出炉,对阵如下

随着斯瓦泰克2-0,萨巴伦卡终结者晋级,武网8强全出炉,对阵如下

大秦壁虎白话体育
2026-10-15 23:03:24
比医科大一附院还牛的医院,在广西悄悄出现了

比医科大一附院还牛的医院,在广西悄悄出现了

王二哥老搞笑
2026-10-16 09:35:06
高市获惊天谏言:日本不装了,中俄若不同意,93年前的噩梦重现?

高市获惊天谏言:日本不装了,中俄若不同意,93年前的噩梦重现?

夏目历史君
2026-10-15 10:25:42
欧气爆炸!澳女独中$1亿澳币彩票头奖!跟着亲戚购彩一夜暴富,“冥冥中自有天意”

欧气爆炸!澳女独中$1亿澳币彩票头奖!跟着亲戚购彩一夜暴富,“冥冥中自有天意”

澳洲红领巾
2026-10-16 14:12:36
被球队放弃?王曼昱遗憾退出,深层次原因公布,三姐妹解散

被球队放弃?王曼昱遗憾退出,深层次原因公布,三姐妹解散

体育见习官
2026-10-09 07:13:16
对上海CBA揭幕战今晚开打!没想到深圳主帅赛前这样说:很有打算

对上海CBA揭幕战今晚开打!没想到深圳主帅赛前这样说:很有打算

独坐山巅前
2026-10-16 17:33:44
闹大了!日本带头硬刚亚足联,沙特亚洲杯怕是要黄

闹大了!日本带头硬刚亚足联,沙特亚洲杯怕是要黄

吴蒂旅行ing
2026-10-15 14:59:48
米体:吕迪格绝杀罗马后向南看台道歉,他没有忘记这座城市

米体:吕迪格绝杀罗马后向南看台道歉,他没有忘记这座城市

懂球帝
2026-10-15 21:25:09
认得3个算我输!50年前的6样老物件,第1个就难倒我,最后一个村长也认不出

认得3个算我输!50年前的6样老物件,第1个就难倒我,最后一个村长也认不出

白浅娱乐聊
2026-09-17 02:34:21
这就是赤裸裸的现实!工商银行已经到了最危险的时候?

这就是赤裸裸的现实!工商银行已经到了最危险的时候?

财经保探长
2026-08-23 21:43:55
郁亮,出事了!

郁亮,出事了!

大佬灼见
2026-09-17 09:18:35
张智霖回应儿子休学仅一周,55岁袁咏仪近况曝光,母子相处引争议

张智霖回应儿子休学仅一周,55岁袁咏仪近况曝光,母子相处引争议

世界有奇事
2026-10-15 17:06:32
陈久喜任龙湾区代理区长

陈久喜任龙湾区代理区长

温州草根
2026-10-16 17:23:29
马来西亚留学到底有没有用?一个马来毕业的人告诉你实话

马来西亚留学到底有没有用?一个马来毕业的人告诉你实话

金哥说新能源车
2026-10-16 02:42:36
曝胡先煦李宛妲买房!同居感情时间线被扒,年龄差冲上热搜第一

曝胡先煦李宛妲买房!同居感情时间线被扒,年龄差冲上热搜第一

陈意小可爱
2026-10-15 10:46:58
钓鱼岛又交锋!高市没想到,还没等日本登岛,中国海警先带炮守疆

钓鱼岛又交锋!高市没想到,还没等日本登岛,中国海警先带炮守疆

徐網老表哥
2026-10-15 15:36:44
2026-10-16 18:32:49

科技要闻

杨天若院士:AI是中国弯道超车的机会

头条要闻

涉案5.6亿"云养牛"骗局崩盘:12万人养了8年"空气牛"

头条要闻

涉案5.6亿"云养牛"骗局崩盘:12万人养了8年"空气牛"

体育要闻

工资一分不要,曼联名将想把母队带回西甲

娱乐要闻

郭富城现身香港大学,袁咏仪夫妇全程冷漠不搭话

财经要闻

一半AI算力,去拍爽剧了

汽车要闻

特斯拉会飞?全新Roadster亮相

态度原创

亲子
艺术
时尚
教育
本地

亲子要闻

4岁女儿太会说了,媳妇说一顿彩虹屁给爸爸忽悠懵了,真是小棉袄

艺术要闻

让人心醉的风景,德米特里·西索耶夫油画!

Gameday Makeup:今天为谁上场?

教育要闻

独家汇总2027年度四大世界大学排名不适用美国留学?“金晨事件”引发留学安全预警

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

无障碍浏览 进入关怀版
×