AIGC发展背景下的数据合规“新”思路

7月12日-14日，由FAHFA数据合规平台主办的2023全球数据合规年度论坛在上海举办。汇纳科技数据合规官史倩君受邀参加，并在会上发表“生成式人工智能发展背景下的数据合规新思路”为主题的演讲。

7月13日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局七部门发布全球首个针对AIGC的行政法规——《生成式人工智能服务管理暂行办法》以下简称为“《暂行办法》”。

汇纳科技作为面向多个行业提供人工智能和大数据应用解决方案的A股上市公司，始终长期保持对行业内新法新规的动态跟踪，《暂行办法》发布后，我们在第一时间就行业普遍关注的合规问题结合企业内部实践情况，在本次论坛上提供了汇纳视角下的解读与分析。

史倩君分享了语言大模型在过去自然语言处理技术上的突破和商业价值，就大模型的广泛和深度应用分析了可能给个人、企业、社会和国家带来的“近忧”和“远虑”， 并以风险管控为落脚点，分别 从中国、美国和欧盟对人工智能伦理和算法治理（特别是算法问责、算法透明和算法解释）两个维度分享了境内外对生成式人工智能服务的合规治理路径。

此外，史倩君还就大家关心的新《暂行办法》中责任主体的认定、算法侵权责任的构成要件、AIGC服务提供者的义务进行了进一步解读和分享。

史倩君认为语言大模型技术正引领新一轮人工智能创新浪潮，但也带来新的挑战。比如因训练数据（语料库）瑕疵、算法瑕疵、目标偏离、诱导提问等因素导致输出不正确、不当、有害的内容。因算法的自学习性及黑盒性导致的用户个人信息在不透明、不可控的情况下被模型滥用，以及据此产生的不能保障访问和更正个人数据的权利的风险。

在史倩君看来，生成式人工智能并不止“生成内容”这么简单。AGI的目标是实现一种能够像人类一样理解、学习、推理和适应各种环境和任务的人工智能系统。但这也意味着随着大模型在智慧基建、车联网、教育、智慧医疗、基因制药等领域的广泛应用，一旦AIGC模型对输入信息理解存在偏差，致使发出的指令错误，将导致严重后果。从更长远的角度来看，这样的应用也将给国家安全、个人和企业权益带来新的风险，并在社会发展中引发潜在危机。

不过，从2018年到2023年陆续发布的《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》、《网络信息内容生态治理规定》、《互联网信息服务管理办法》、《关于加强互联网信息服务算法综合治理的指导意见》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》等办法和规定可以看到我国在算法治理方面的法律法规等治理依据正在不断完善。

特别是近日七部门联合发布的《暂行办法》，从生成式人工智能服务的训练数据、算法、内容监测等方面要求采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。此外《暂行办法》还对算法侵权责任的构成要件、《暂行办法》下的责任主体、服务提供者的义务等进行了进一步明确。《暂行办法》的出台也将促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

生成式人工智能在高速发展的同时其相关的伦理治理问题也备受关注。2023年4月4日,科学技术部发布《科技伦理审查办法(试行)(征求意见稿)》(以下简称“《征求意见稿》”)，《征求意见稿》中明确了科技伦理审查的适用范围、科技伦理审查委员会的设立及职责、相关审查的程序以及监督管理等方面内容。

在此背景下，科技伦理审查制度和合规要求将在企业的合规实践中占据重要位置，企业合规团队可依此加强在训练数据来源、算法合规上的合规管理和实践。在训练数据来源方面，专注对训练数据源合法合规性的管控，着力于制定组织内部数据清洗和标注的相关标准，防范数据垄断风险，提高算法透明度。在算法合规方面，做好算法的备案、公示，推动算法服务公正公平、规范透明，促进算法服务向上向善。

演讲中，史倩君对AIGC发展背景下的数据安全合规的深入思考和对《暂行办法》的透彻解读引起了与会嘉宾的热烈反响和积极关注。

大数据时代，数据合规已经逐渐成为企业长远发展的基石和竞争力。作为行业内数据安全合规的先行者，汇纳科技多年来坚持推进数据安全合规的深入实践和发展，积极构建数据安全体系。把数据安全放在发展的首要位置，密切关注政府对数据合规管理的要求，紧跟用户对数据安全合规需求，不断完善自身产品、技术、方案与服务能力，在为各行业数据价值实现提供专业安全解决方案的同时推动行业的健康良性发展。