联合实验室可成AI安全治理“桥头堡”

澳门城市大学教授、数据科学学院副院长、联合实验室专家朱天清

“大湾区在发展人工智能方向上有得天独厚的条件！”在澳门城市大学教授、数据科学学院副院长、联合实验室专家朱天清教授看来，粤港澳大湾区生成式人工智能安全发展联合实验室致力于服务大湾区AI生态产业的落地，为AI产业保驾护航。

　　产业布局

　　是大湾区产业布局中重要一环

南方都市报（以下简称“南都”）：您如何看待当前大湾区生成式人工智能安全领域的技术创新与产业布局？

朱天清：大湾区拥有众多的高新企业、丰富的高校与研究机构、充足的算力，形成了从基础模型、垂直应用到安全检测工具的完整产业链。港澳则在金融合规、跨境法务、隐私保护和应用试点上有独特优势。

同时，生成式AI的快速发展带来了诸多新的安全风险。当前粤港澳大湾区应对生成式AI安全最紧迫的问题是，跨地域的数据流通治理与合规协调，以及本地化且可信的安全评测体系。

南都：联合实验室在解决这些问题上有哪些独特的资源和优势可以发挥？

朱天清：粤港澳大湾区生成式人工智能安全发展联合实验室的成立是非常及时且必要的，属于大湾区产业布局中非常重要的一环。其推出的本地化安全评测系统，可以为企业提供一个可信的第三方评测，以及帮助AI企业进行AI的标准化建设。从长远来看对产业规范化有着极其重要的意义。

联合实验室可以聚合高校技术研究、企业工程化能力与监管试点资源，构建属地化评测与认证框架。这一次实验室推出的框架就是为解决这个问题而来。跨地域的数据流通治理还需要联合港澳地区来共同完成。

南都：发展与安全需要动态平衡，您对联合实验室未来在AI伦理治理、可信AI技术创新融合等方面有何建议？

朱天清：在伦理治理方面构建跨学科治理委员会与常态化监管沙盒，把伦理原则和合规流程写入数据收集、模型训练与上线流程。在可信AI技术创新方面优先扶持可解释性、鲁棒性、隐私保护、模型溯源等方向，并推动这些方向进入到工程实践。期待联合实验室设立示范性安全伦理项目，确保大湾区在AI经济高质量发展的同时实现安全与伦理的平衡。

国际发展

　　为跨国公司跨境落地提供合规通道

南都：您刚才提到与港澳合作，在您看来，香港、澳门在AI领域有哪些独特优势可以挖掘？您认为应如何利用这些优势实现共赢发展？

朱天清：港澳在AI跨境数据合规、金融合规、跨境法务、隐私保护和应用试点上有着独特优势。例如澳门和横琴有大量的数据跨境的需求，以此衍生出了各种数据跨境的安全技术、安全法规等等。另外，港澳可以吸引海外AI人才，目前澳门高校的飞速发展也吸引了全球高水平人才。

南都：从大湾区继续向外看全球，您觉得联合实验室能够发挥什么作用？

朱天清：联合实验室可以通过澳门和香港，成为连接国际AI安全治理的“桥头堡”：通过加入并主动参与国际标准组织、承办国际研讨与互测试点的方式推动标准在海外落地。例如澳门和葡语国家的交流有独特优势，可以通过澳门对葡语国家推行AI安全产业标准，同时与海外研究机构和监管机构签署技术合作与互认备忘录，开展能力建设与双向人才交流等。

另外，可将联合实验室的评测数据与方法透明共享以促进信任，从而在技术互通、认证互认、跨境合规上推动标准协同互认，并为跨国公司的跨境落地提供合规通道。

南都：您有丰富的跨文化科研经历，在您看来，联合实验室可以借鉴哪些国际经验，推动大湾区AI创新与成果转化？

朱天清：以澳大利亚的国家基金为例，它分成两大类，面向产业的基金和面向基础科学的基金。其中，面向产业的基金鼓励和企业合作，由企业和国家各出一部分基金来支持研究，最后产出的知识产权共享。我觉得联合实验室可以借鉴这种面向产业的基金的方式，和大湾区各大高新企业合作，解决企业的共享的难题从而造福多个企业。

南都：您觉得AI在大湾区各行业的赋能，未来将达到怎样的新高度？

朱天清：展望未来，AI将在大湾区推动产业智能化进入可信可控的新阶段。在有安全能力的保驾护航下，生成式AI将实现更深度的领域适配、实时决策与人机协同。

同时希望联合实验室成为一个国际一流水平的多方协同枢纽，提供标准制定、人才培养与政产学研联动的长期机制，不仅为大湾区AI安全发展，还能为国际AI安全的发展贡献力量。

聚焦

　　联合实验室能发挥哪些独特作用

澳门城市大学教授、数据科学学院副院长朱天清，致力于人工智能安全领域的研究，专注于智能模型安全攻防、数据隐私以及安全和公平性关系等关键科学问题。

“人工智能是目前国家发展的重点方向，国务院在上个月提出了深入实施“人工智能+”行动，期待能加快培育发展新质生产力，更好服务中国式现代化建设。但为了让人工智能落地具体产业，其安全问题尤为重要。我们需要让人工智能不仅能落地，还要用得安全、放心、不出错。

大湾区在发展人工智能方向上有得天独厚的条件：大量的高新科技企业在这里扎根，形成产业链。粤港澳大湾区生成式人工智能安全发展联合实验室的根本目标就是要服务大湾区AI生态产业的落地，为AI产业保驾护航。”