AIGC将带来新的数字风险 天际友盟针对推出专项服务

ChatGPT的横空出世，推动了AIGC（AI Generated Content，生成式人工智能）大赛道进入全民视野，与过去几年人们谈论AI、元宇宙不同的是，如今这一技术正在多级产业生根发芽。AIGC带给多级行业空前机遇，有人将其形式为追浪，只有做追浪宠儿才不会被时代所淘汰。

如今，我们能够看到各级商业组织都在积极地结合AIGC强化自身产品或服务，以创新抢占市场。有智库团队预测，尽管AIGC在业务场景变现还处于探索验证阶段，但2023年我国AIGC市场规模仍可达170亿元人民币，在市场成熟后，其市场规模将超万亿人民币。

但我们也应该关注到，技术应用永远都存在双面性，比如此前人们讨论人工智能应用于网络安全会关注攻防两端的平衡性，AIGC作为非终极形态的人工智能，其社会面广泛应用与数字经济蓬勃发展同步是关键因素，因此，AIGC应用所产生的自身安全风险问题理应是商业组织考虑的避验范围。

• 企业为何需要关注AIGC数字风险

据IDC此前预测，到2023年数字经济将成为全球经济的主要支柱，占比将超过50%，这一数字在我国已经得到验证，据《数字中国发展报告（2022年）》显示，2022年我国数字经济规模已占国内生产总值的41.5%，需要注意的是，数字经济也是我国疫情时期的主要增长点，疫情退去，《“十四五”数字经济发展规划》持续推进，数字经济仍将高速增长。

世界经济论坛发布的《2023年全球网络安全展望》报告就指出，许多组织正在进行大型数字化转型项目，在这一场景中，将新兴技术添加到传统IT中会增加组织数字环境的复杂性，比如云计算、人工智能等，其强调了数字化转型过程的所有阶段嵌入网络风险管理的必要性。随后，生成式人工智能被世界经济论坛定为2023年十大新兴技术之一。

数字安全厂商天际友盟分析AIGC技术应用带来风险时指出，AIGC的安全性问题复杂且涉及多个方面，其突出表现为数据隐私、内容监管、个人信息安全等。其强调企业当前阶段无法对AIGC应用进行有效性管控，主要在于技术的快速发展和多样性场景应用强关联，其技术需要规范化、法律化沉淀。

调研机构认为尽管生成式人工智能给各行业带来了机会，但担忧其使用的伴生风险是合理的。天际友盟对应指出，应用AIGC无论是企业用户还是个人用户，都可能需要注意以下五大风险：

一、歧视和排斥性言论：由语言模型产生的歧视性或排斥性言论所带来的社会危害；

二、错误信息：因语言模型提供虚假或误导性信息而产生的危害；

三、数据泄露：因语言模型泄露或推断出真正敏感信息而产生的危害；

四、恶意使用：用户通过语言模型构建钓鱼邮件等行为而产生的危害；

五、人机交互危害：因用户过度信任语言模型，直接将其结果作为可信参考，并执行而产生的危害。

从以上五大风险向技术使用场景过渡，对于企业用户而言，利用生成式人工智能服务，则主要表现为以下三大数字风险场景问题：

1、 知识产权保护

天际友盟指出，AIGC生成内容的基础是庞大的互联网知识库，其中包括受到著作权法保护的作品。因此，对于一些受著作权保护的文本、视频、图像等，如果没有经过权利主体的授权，直接获取复制到自己的数据库中，并在此基础上修改、拼凑，极可能侵害他人的著作权。

2、 数据泄露

天际友盟强调，AIGC的核心是对海量数据的收集、加工、处理和运算结果的输出，因此不仅企业或组织数据在模型训练素材收集的环节就面临着泄露和被滥用的风险，倘若用户为了完成工作任务，输入了敏感个人信息、商业秘密等信息，这些信息有可能被AI服务提供者留存，用于优化训练的新素材，最后再次输出面向更多的用户。

3、 侵权欺诈

天际友盟表示，自ChatGPT问世以来，攻击者滥用AI和机器学习来进行侵权欺诈活动的现象愈发严重。他们生成令人信服的钓鱼网站、钓鱼邮件或社交媒体帖子，用来诱骗人们点击恶意链接或泄露敏感信息。此外，不法分子还使用AIGC技术来创建与组织和企业相关的虚假合成媒体，如音频或视频，诋毁品牌形象。

如今，各国正在加速推进数字化发展进程，AIGC作为数字技术的又一大创新，AIGC相关产业也在加速多极化落地技术，一方面满足C端应用扩大规模效应，也同步加深孵化B端深层应用。安全企业强调的是，AIGC大规模安全应用的前提是建立完善的法律法规体系，加强对AIGC技术的研发和监管，提高企业对AIGC技术的认知和管理水平。此外，内容安全和数据隐私安全已经成为AIGC发展的前提和关键。

• 安全企业已经推出AIGC数字风险防护

天际友盟数字风险防护报告指出，风险总是与发展并存，随着数字技术的蓬勃发展，数字风险伴随而生。

数字风险防护服务（简称DRP,Digital Risk Protection）是对应解决数字风险的一项企业级服务，天际友盟告诉安全419，其DRP产品已经推出了针对AIGC应用的风险防护框架模型，天际友盟DRP-AIGC服务当前已经可以为企业用户解决AIGC应用带来的诸多外部数字风险。

据了解，天际友盟可以为企业客户提供一站式数字风险防护服务，全面洞察企业的数字风险，天际友盟最新推出的AIGC风险防护服务则可以理解为其DRP整体服务中的一部分，主要解决的是AIGC中遇到的数据泄露、知识产权保护和侵权欺诈等风险场景的监测与防护问题。

天际友盟表示，其推出的DRP-AIGC服务可以理解为是对于企业外部风险监控和评估的手段之一。在其服务过程中，主要分为准备、监控和反馈三个阶段。

在准备阶段，天际友盟DRP-AIGC服务将根据关键词和AIGC平台范围清单，确定监控范围，并取得用户的授权，为后续协助处置做好准备；在监控阶段，服务将会按照关键词及关联信息根据AI算法生成各类关联问题，并将其在各AIGC平台进行问答，再对答案进行分析研判，从而实现风险监控与风险评估，这将是一个持续性的工作；在反馈阶段，服务将根据监控和评估结果形成定制服务报告以周、月形式提供给客户，如有需要，天际友盟还可协助用户进行定向AIGC平台的处置工作。

Gartner曾指出，安全领导者必须制定战略，以保护不断扩大的数字足迹免受新威胁。Gartner对数字风险防护服务的定义是通过技术和服务的组合，提供对关键数字资产和数据免受外部威胁，并减少攻击面。其方案主要提供对开放网络、社交媒体、暗网和深网资源的可见性，以识别威胁，并提供恶意活动的上下文信息。

DRP服务通常是一种外包服务，源于企业没有必要储备这方面的技能，根据安全419此前对天际友盟DRP服务的了解，其整体服务包含识别、监测、响应、恢复等一系列闭环流程，自动发现企业外部数字安全风险，并基于事前授权，以托管服务的方式进行一站式处置，防范企业数字风险进一步扩散。

根据天际友盟的理解，AIGC今后将成为一个新的数字风险聚集地，因此，DRP服务急需扩展服务外延，以持续保护企业扩大的数字足迹，这也是出于Gartner对于DRP产品功能和特性上的理解，那就是服务需与用户的安全计划或业务风险相匹配。这项服务（能力）在未来将是企业必备的一项数字风险防护服务，以理解新技术背后的隐患。

天际友盟DRP服务以SaaS平台化交付，其DRP-AIGC服务既可以独立交付，也可以作为DRP服务的一部分必要能力，企业客户拥有灵活的选择，从而解决未来新技术带来的新数字风险问题。