网易首页 > 网易号 > 正文 申请入驻

智联四海,共创未来!海外高层次人才共议AI安全“边界与规则”

0
分享至

2026年10月30日,“智联四海,共创未来”海外高层次人才学术交流分享会在深圳福田举行。来自中国香港、新加坡及海外的华人高层次人才代表与深圳市科学技术协会代表齐聚云端,围绕“从OpenAI智能体入侵Hugging Face事件与Gemini 4 Carbon发布看AI安全的方向与机会”这一议题展开主旨发言与自由研讨,让两个看似矛盾的信号——AI跑出了笼子,与AI在守系统上跑出高分——碰撞为一场关于能力边界与规则配置的思想交锋。



现场,人才代表们结合各自研究领域与实践经验逐一发言。围绕规模与风险的关系,人才代表指出,规模效应会将风险从“单点故障”放大为“系统性风险”。多个智能体共享信号源、工具与记忆时,可能自发形成分工与协同。多家主流模型均出现过类似隔离失效,表明相关风险属当前能力阶段的共性问题。

关于防御范式转变,部分人才指出,人工智能带来的新型风险,关键在于身份合法性而非访问请求本身。智能体可持合法身份执行操作、调用接口、流转数据,相关行为在既有系统中难以识别为异常,这已不是网络安全问题而是内控问题,应守住三条底线:权限最小化、行为留全量、熔断独立且确能熔断。

关于激励机制与基础设施安全,部分人才认为,若评测任务不可完成而评分机制可被规避,智能体行为就容易从完成任务转向迎合标准,应将激励函数纳入合规审查,同时,相关事件起因往往不在模型而在基础设施,包仓库、日志服务与训练任务若共用网络平面和身份体系,“隔离”仅具逻辑意义。

围绕应急取证与可信人工智能,人才代表提出,真实应急场景中部分闭源前沿模型因护栏无法区分使用者身份而一律拒绝处理,反而造成响应阻塞;可本地部署、策略可调整的开源模型则能较好完成取证,表明智能体可控性具有不低于通用性能的价值。应推动执行证据可验证,将可信执行环境、链式哈希日志等作为智能体基础设施的必选项。

关于可信人工智能的技术路径,人才代表建议:提升评测抗干扰能力,安全已从研发成本转变为研发节奏的硬约束;加固开源供应链信任,模型签名与来源溯源等成熟做法关键在提升采纳率;推进算力集群租户隔离、机密计算等硬件层能力。





本次分享会聚焦人工智能安全治理前沿议题,汇聚深圳、香港、新加坡三地学者智慧,为推进相关领域的规则研究与实践探索提供了有益参考,是深圳市科协深化学术交流、服务人才工作大局的具体行动。

以学术为桥,以共识为帆,“智联四海,共创未来”海外高层次人才学术交流分享会圆满落幕。海外学者在云端相遇相知、互学互鉴,让开放成为共同态度,也让AI安全成为共同语言。下一步,深圳市科学技术协会将立足“四服务”职责定位,持续发挥桥梁纽带作用,搭建更高水平的国际学术交流平台,广泛链接海外高层次人才与创新资源,推动学术共识转化为务实合作,团结引领广大科技工作者为粤港澳大湾区国际科技创新中心建设贡献力量。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
巴萨苦!巴黎客场狂胜六球刷新队史 但含金量远不如拜仁8:2灭巴萨

巴萨苦!巴黎客场狂胜六球刷新队史 但含金量远不如拜仁8:2灭巴萨

体坛八点半的那些事儿
2026-11-16 19:22:10
政策,为何迟迟不发力?

政策,为何迟迟不发力?

成方街哨兵
2026-11-16 17:23:45
《天下足球》7分钟致敬C罗!令人动容,球迷:为何无梅西的专题?

《天下足球》7分钟致敬C罗!令人动容,球迷:为何无梅西的专题?

汪星人哟
2026-11-16 20:38:45
山姆、盒马、永辉都在降!价格跌到近10年最低 | 早安 珠海

山姆、盒马、永辉都在降!价格跌到近10年最低 | 早安 珠海

珠海发布
2026-11-16 07:39:07
家里兔子怀孕,一口气生了27只!!妹子天塌了:别再生了我害怕

家里兔子怀孕,一口气生了27只!!妹子天塌了:别再生了我害怕

铲屎官阿伟
2026-11-10 18:40:10
当每天四五千家个股下跌成为常态,这样的市场关门才是最好的选择

当每天四五千家个股下跌成为常态,这样的市场关门才是最好的选择

说得说不得
2026-10-30 09:37:40
4000亿债务!珠海最大国企欠钱还不上,钱全砸在中国最贵城市上?

4000亿债务!珠海最大国企欠钱还不上,钱全砸在中国最贵城市上?

童童聊娱乐啊
2026-11-07 10:18:24
3-2绝杀巴西!森保一喊出口号:未来的世界杯,日本是世界第一!

3-2绝杀巴西!森保一喊出口号:未来的世界杯,日本是世界第一!

何氽简史
2026-11-16 21:10:35
欧文缺阵弗拉格迷失波士顿,塔图姆32+6+6乔治打铁,绿军大胜独行侠

欧文缺阵弗拉格迷失波士顿,塔图姆32+6+6乔治打铁,绿军大胜独行侠

钉钉陌上花开
2026-11-16 09:09:37
明知迈阿密是陷阱,普京想把和特朗普会面的机会,定在中国主场?

明知迈阿密是陷阱,普京想把和特朗普会面的机会,定在中国主场?

听风看局
2026-11-16 21:24:02
白准备了!成都蓉城夺冠领奖台被拆了扔掉,山东球迷捡回家装饰狗窝

白准备了!成都蓉城夺冠领奖台被拆了扔掉,山东球迷捡回家装饰狗窝

念洲
2026-11-16 09:35:31
为什么老百姓的怨气越来越重?最核心的根源在哪

为什么老百姓的怨气越来越重?最核心的根源在哪

笔墨V
2026-11-16 14:14:21
标普500指数期货、纳指期货延续跌势,触及盘中低点

标普500指数期货、纳指期货延续跌势,触及盘中低点

每日经济新闻
2026-11-16 20:54:03
作家陈岚点评大S之死,如果汪小菲带大S去旅游,估计连灰都没有了

作家陈岚点评大S之死,如果汪小菲带大S去旅游,估计连灰都没有了

小人物看尽人间百态
2025-02-09 09:12:11
1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

唠叨说历史
2026-11-11 13:38:14
又一个张雪峰猝死!这名字有毒?

又一个张雪峰猝死!这名字有毒?

山间听雨
2026-11-15 20:33:05
楼市开始离谱了!福建的房价,可能会迎来新一轮洗牌,很现实

楼市开始离谱了!福建的房价,可能会迎来新一轮洗牌,很现实

坠入二次元的海洋
2026-11-16 16:29:44
《谷雨》大结局:强礼彪站错队,方知周海洋对谭宝仪的处置多残忍

《谷雨》大结局:强礼彪站错队,方知周海洋对谭宝仪的处置多残忍

东方不败然多多
2026-11-16 20:09:22
NPC“房玄龄”王泽回应离开大唐不夜城:面对大量游客,觉得离角色越来越远

NPC“房玄龄”王泽回应离开大唐不夜城:面对大量游客,觉得离角色越来越远

娱乐嗑学家.
2026-11-08 11:37:18
反间谍集体倒戈?伊最高领袖穆杰塔巴遇二次暗杀!高层权力遭渗透

反间谍集体倒戈?伊最高领袖穆杰塔巴遇二次暗杀!高层权力遭渗透

鹤羽说个事
2026-09-29 11:40:23
2026-11-16 22:04:49
深圳市人工智能行业协会
深圳市人工智能行业协会
人工智能
170文章数 4关注度
往期回顾 全部

科技要闻

历史头一回!马斯克用"筷子"夹住太空飞船

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

房产
旅游
数码
本地
公开课

房产要闻

从林屿间到林屿熙岸,招商蛇口在崖州湾为何总出爆款?

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

数码要闻

满电开躁!11月16日,航嘉满电青年计划约你西南交大见!

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版