网易首页 > 网易号 > 正文 申请入驻

让大湾区成为数据安全使用典范

0
分享至

香港科技大学(广州)信息枢纽院长、数据科学与分析学域讲座教授、联合实验室专家陈雷

“在大模型训练过程中,数据质量是最重要的一环”……香港科技大学(广州)信息枢纽院长、数据科学与分析学域讲座教授、联合实验室专家陈雷接受南都访谈时表示,人工智能发展到现在,最重要的是数据问题,期待粤港澳大湾区生成式人工智能安全发展联合实验室(简称“联合实验室”)把各高校研究力量整合起来,从政策、制度层面引导正确使用数据。

数据质量

  要通过联合实验室整合数据

南方都市报(以下简称“南都”):您是世界数据科学与分析领域的领军学者,能否结合数据领域深入研究,谈谈对粤港澳大湾区生成式人工智能安全发展联合实验室发挥自身优势,更好服务人工智能安全发展的期望?

陈雷:粤港澳大湾区制造业很强,要把人工智能运用到传统行业,数据非常重要。通过实验室联合大湾区各类高校,汇聚所有数据,做成大数据平台,供大家使用,做相应大模型测试。或者由联合实验室推出数据测试平台,让各类大模型通过平台测试性能,找出不足,加以改进。

南都:如何确保数据质量,联合实验室能做些什么?

陈雷:数据质量是全世界都想解决的问题,首要的问题是获取到的数据是不是有用?而且数据量要大,量不大就没有所谓数据质量。

数据质量包括无监督、有监督。无监督的数据质量就是通过无监督的机器学习,发现一些质量偏差较大的数据,或者叫异常数据分析。有监督的数据质量一般需要找专家或专业人士对数据打标签,然后用机器学习的方法找出那些较差的数据。我觉得联合实验室可以尝试新的方法,特别是从工业界获取合作项目,整合大湾区人工智能人才以及研究团队,做一些能落地产品或者服务累积高质量数据。期待联合实验室发挥纽带作用,把各高校研究力量整合起来。单打独斗已是过去式,一个人强没用,一定通过联合实验室整合数据。

数据关联

  智能体要落地首先得涉及数据关联

南都:在粤港澳三地制度差异背景下,在推动数据跨境流动过程中,您对建立大湾区数据安全、人工智能安全协同治理体系有哪些建议?

陈雷:数据安全是一个非常难的问题,既要把数据整合起来、用起来,又要保证数据安全,里面有很多技术方法手段,例如同态加密、隐私计算等,使用加密数据做相应AI训练。

举例而言,大湾区有很多好医院,要做数据共享,才能做更好病理诊断医疗诊断。如果把病人名字、年龄、性别隐藏,数据是不是就没问题了,可以安全使用?这是误区,很多时候通过病人其他信息还是可以转换映射病人是谁。但是,假如隐去年龄、性别这些信息,可能对根据年龄和性别对病情诊断又失去价值。这是有意思的问题,建议联合实验室可以研究怎么建立数据安全的保护机制,不仅是通过技术手段解决,还需要从政策、制度层面,引导正确使用数据,签订相应数据共享、保密协议。

南都:在数据驱动跨学科研究方面,您曾带领团队为港科大(广州)实现许多第一的突破。如何通过数据驱动大模型,赋能产业,构建良性循环协同?

陈雷:大模型赋能产业,最重要的是真正用起来。大模型的文字处理能力特别高,以保险业为例,假如出了一个理赔案,原来保险员要查所有文件、规章,通过匹配才知道要赔多少、谁的责任,其实这些可以使用大模型,通过大模型文件处理能力来操作。

大模型重要应用就是智能体,垂直运用到各行各业。但怎么让人接受、让人用起来,这是最大的问题。假如你休假,会让智能体帮忙订酒店、订机票,预订所有活动吗?我发现主要还是手动抢便宜机票、便宜酒店,以及符合家人出行习惯的活动。为什么智能体做不到这点,技术难题就是智能体之间没有协同,数据没有串通起来。要智能体垂直应用落地,首先要设计好数据直接的互联,同时不要贪大贪多,要让大家体会到具体使用的好处。

  数据安全

  让大湾区成数据安全使用典范

南都:联合实验室确实可以在AI人才培养发挥资源整合作用。展望未来,您对实验室建设运行又有哪些期待?

陈雷:希望联合实验室成立更多联盟,通过签订协议,助力数据安全使用。让参与者获取实实在在的好处,达到共赢,他们自然而然就会把数据安全使用起来,更加注重数据安全、隐私保护。积累安全的数据越来越多,通过开放共享,让更多企业使用,实现良性循环,让粤港澳大湾区成为数据安全使用的典范。

南都:刚才您谈的主要是数据安全,在人工智能安全发展方面,实验室能发挥什么作用?

陈雷:大模型训练的时候,需要很多数据,肯定会涉及很多商业或者个人隐私信息。这样,我们就要设计模型的保护机制,对于一些敏感问题,我们怎么保证大模型回答的正确性。实际上,大模型面临很多网络攻击新风险,数据投毒危害值得警惕。我们需要想办法保证大模型安全的输出,而不是输出内容失当或者不可控的东西,这也是我们经常讨论研究的模型安全问题,希望联合实验室联合大湾区众多高校,在这方面多做研究,起到枢纽作用,在赋予AI更多能力同时,将更多精力投入在AI安全之上,确保大模型可信、可靠、可控。

  聚焦

  联合实验室能发挥哪些独特作用

香港科技大学(广州)信息枢纽院长、数据科学与分析学域讲座教授陈雷,主要研究数据驱动的人工智能、知识图谱、区块链、数据隐私、众包、空间和时间数据库,以及对大型图形和概率数据库的查询优化。

“人工智能发展到现在,最重要的不是算力、算法问题,而是数据问题,期待粤港澳大湾区生成式人工智能安全发展联合实验室与大湾区众多高校合作,在数据方面发力,建设大数据平台、数据测试平台,让各类大模型通过平台测试性能,找出不足,加以改进。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
就在今天!灰熊3号秀创造了80年NBA纪录

就在今天!灰熊3号秀创造了80年NBA纪录

篮球大视野
2026-11-20 16:13:42
那些年,APEC峰会领导人们穿过的“花衣裳”

那些年,APEC峰会领导人们穿过的“花衣裳”

黄娜老师
2026-11-20 09:17:10
乌克兰再袭克里米亚大桥后,布鲁塞尔北约总部会议上出现戏剧性一幕

乌克兰再袭克里米亚大桥后,布鲁塞尔北约总部会议上出现戏剧性一幕

枫叶君评
2026-11-19 22:07:03
普京:克里米亚大桥遭袭后 不再讨论海上停火

普京:克里米亚大桥遭袭后 不再讨论海上停火

新华社
2026-11-20 03:13:04
中方:强烈不满,坚决反对!若美方执意妄为,中方将采取反制措施

中方:强烈不满,坚决反对!若美方执意妄为,中方将采取反制措施

巷北楠猫本尊
2026-11-19 12:30:32
港姐季军吴文忻去世,终年51岁,生前已办追思会,被骗走毕生积蓄

港姐季军吴文忻去世,终年51岁,生前已办追思会,被骗走毕生积蓄

乡野小珥
2026-11-20 11:20:26
叶檀婚姻终于迎来好消息!立完遗嘱选临终病房,丈夫将在明年露面

叶檀婚姻终于迎来好消息!立完遗嘱选临终病房,丈夫将在明年露面

暖心萌阿菇凉
2026-11-20 02:31:12
特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

极目新闻
2026-11-20 18:45:32
布莱顿老板:我认为莱斯特城奇迹有可能再次发生

布莱顿老板:我认为莱斯特城奇迹有可能再次发生

懂球帝
2026-11-20 07:54:39
比雷霆还惨!四大核心全伤,夺冠热门变鱼腩,换来超巨就是不打球

比雷霆还惨!四大核心全伤,夺冠热门变鱼腩,换来超巨就是不打球

你的篮球频道
2026-11-20 07:48:58
白宫发布特朗普访华视频,中国仪仗队再次出圈,特朗普曾多次大赞“叹为观止”

白宫发布特朗普访华视频,中国仪仗队再次出圈,特朗普曾多次大赞“叹为观止”

极目新闻
2026-11-19 09:25:11
荷尔蒙炸弹级新人老师|生田澪

荷尔蒙炸弹级新人老师|生田澪

吃瓜党二号头目
2026-11-20 18:54:10
间隔一天吃他汀,降脂效果更好?医生建议:服用他汀,谨记这4点

间隔一天吃他汀,降脂效果更好?医生建议:服用他汀,谨记这4点

今日养生之道
2026-11-20 11:13:14
扫地出门!曼联“标王”或火速转投尤文!2亿镑强援有望空降红魔

扫地出门!曼联“标王”或火速转投尤文!2亿镑强援有望空降红魔

头狼追球
2026-11-20 13:01:14
高市早苗在深圳就台湾问题表态,外交部最新回应:日方在台湾问题上尽快纠正错误言行

高市早苗在深圳就台湾问题表态,外交部最新回应:日方在台湾问题上尽快纠正错误言行

每日经济新闻
2026-11-20 17:08:48
财政部:10月份全国共销售彩票559.82亿元,同比增长19.4%

财政部:10月份全国共销售彩票559.82亿元,同比增长19.4%

界面新闻
2026-11-20 15:26:50
深圳APEC峰会,美国到场了,俄罗斯到场了,东道主还是中国,可唯独以亚洲大国自居的印度未获正式成员资格!

深圳APEC峰会,美国到场了,俄罗斯到场了,东道主还是中国,可唯独以亚洲大国自居的印度未获正式成员资格!

扶苏聊历史
2026-11-20 14:47:33
1-10月车企年度目标完成率:最高已达78.2%,垫底的才刚过一半

1-10月车企年度目标完成率:最高已达78.2%,垫底的才刚过一半

AGUI艺车
2026-11-20 19:00:04
内讧升级!舍甫琴科回击穆德里克:有种就把证据拿出来 否则就道歉

内讧升级!舍甫琴科回击穆德里克:有种就把证据拿出来 否则就道歉

风过乡
2026-11-20 07:31:47
杨瀚森出战12分钟!开拓者124-114击败雄鹿!利拉德爆发创纪录

杨瀚森出战12分钟!开拓者124-114击败雄鹿!利拉德爆发创纪录

篮球大视野
2026-11-20 12:25:35
2026-11-20 19:43:00
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
644509文章数 3591448关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

父亲看望在外读书女儿住招待所 遭同屋两男子半夜劫杀

头条要闻

父亲看望在外读书女儿住招待所 遭同屋两男子半夜劫杀

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

亲子
家居
本地
游戏
数码

亲子要闻

奶奶给大孙买的草莓真甜,姥姥给的高粱米做一锅,焦黏喷香都爱吃

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

想要《GTA6》主角吃成大胃袋?恐怕要让你失望了

数码要闻

七彩虹推出iGame B850I MINI W OC:白色ITX主板

无障碍浏览 进入关怀版