首提算法分级分类、要求透明可释，算法治理又有新文件

国家网信办再次牵头，针对算法专门发文。9月29日，国家网信办、中宣部、教育部、科技部等九部委印发《关于加强互联网信息服务算法综合治理的指导意见》（以下简称《指导意见》），提出要利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。

就在不久前，国家网信部发布《互联网信息服务算法推荐管理规定（征求意见稿）》，开始探索对算法进行规制。此次印发的《指导意见》中，也有颇多创新之处，比如首提算法分级分类，强调加强算法公开透明，要求树立算法正确导向等。

国家网信办发文。

清华大学公共管理学院教授梁正认为，从技术层面来讲很难对算法制定标准，因此首先要明确制定标准的对象，实际上是指应用应该合乎怎样的标准。中国互联网协会研究中心副主任、北京师范大学网络法治国际中心执行主任吴沈括表示，国内首次提出“算法分级分类”这一治理思路，与国际算法治理潮流相呼应，具体可以针对算法应用场景或针对其所引发的风险等级来区别判断。浙江垦丁律师事务所创始合伙人麻策坦言，需要把握算法公开透明与商业秘密保护之间的“度”，否则会对企业造成不利影响。

1

防止算法干扰舆论，树立算法正确导向

如何建立“算法安全综合治理格局”？《指导意见》提出的解决办法，有颇多创新之处。

健全算法安全治理机制方面，《指导意见》要求明确算法管理主体、管理范围、管理要求和法律责任等，进一步明确政府、企业、行业组织和网民在算法安全治理中的权利、义务和责任，完善算法安全治理措施，制定标准、指南等配套文件。并要求强化企业主体责任，建立算法安全责任制度和科技伦理审查制度；互联网信息服务行业应当加强行业自律，逐步组建算法安全治理力量；鼓励广大网民积极参与算法安全治理工作。

构建算法安全监管体系方面，《指导意见》提出要对算法的数据使用、应用场景、影响效果等开展日常监测工作，感知算法应用带来的网络传播趋势、市场规则变化、网民行为等信息，预警算法应用可能产生的不规范、不公平、不公正等隐患。此外，要组织建立专业技术评估队伍，深入分析算法机制机理，建立算法备案制度，健全算法分级分类体系。

促进算法生态规范发展方面，《指导意见》提出要树立算法正确导向，在算法应用中坚持正确政治方向、舆论导向、价值取向，提高正能量传播的精准性和有效性。规范企业算法应用行为，做好算法结果解释，畅通投诉通道，消除社会疑虑；防止利用算法干扰社会舆论、打压竞争对手、侵害网民权益等行为，防范算法滥用带来意识形态、经济发展和社会管理等方面的风险隐患。

2

国家介入划定责任红线，建立顶层设计

从原则性的政策文件，到可供执行的规范细则，中间还有许多工作要做。不过，《指导意见》的出台，意味着从国家层面对算法进行规制，已经被纳入议程。

“首先我们要明确制定标准的对象，从技术层面来讲是无法对算法制定标准的，这里指的实际上是应用应该合乎怎样的标准。”梁正解释，以电梯为例，所谓安全性要求是对电梯的载人数量、故障率、使用年限制定标准，而不是规定电梯的轿厢大小、螺丝粗细，这其实是两回事。为算法制定标准也是这个道理。

麻策认为，算法已经如今用户群体集聚及流量“见底”，需要通过对存量用户的深度运营开发激活用户活跃力，算法被普遍运用后已不只是影响部分特殊用户群体，不只是一个商业问题，它还涉及到舆论动员及国家安全等领域。“国家有必要制定算法治理措施进行相应管制。”

“目前，算法所影响的范围不仅包括用户主体的个人层面，还涉及整个经济社会秩序、公共利益以及国家安全问题，呈现出多层次的特点。”吴沈括分析，算法治理不会纯粹只限于自治范畴，它需要由国家介入来划定基本的行为准则、责任红线，通过这样的方式建立基本的顶层设计，从而促进社会生态良性、可持续发展。

3

首提算法分级，为精准治理、算法备案打基础

值得注意的是，《指导意见》首次提出了“算法分级分类安全管理”的概念。吴沈括表示，我国曾对域外的部分治理经验开展调研，其中欧盟就在其算法治理法案中提出过分类分级要求。这次国内首次提出这一治理思路也与国际算法治理潮流相呼应。

按照《指导意见》的设计，算法分级分类，是实施精准治理、推进算法备案工作的基础。其中提到，要有效识别高风险类算法；明确算法备案范围，有序开展备案工作，主动公布备案情况，接受社会监督。“低风险场景没有必要进行挨个审查，事后如果出现问题再追责；如果是高风险场景就需要进行安全性审查，判断是否符合符合技术标准规范。”梁正说。

那么，该如何对算法进行分级分类呢？“这一规定的前提在于算法本身已有一定的分类方法和分级逻辑，这和数据安全领域的分类分级有异曲同工之处。”麻策认为，算法的基础在于数据，其运作要通过数据利用来实现。不久前国家网信办发布的《互联网信息服务算法推荐管理规定（征求意见稿）》，已经列举了算法推荐技术的各种类别。不同算法推荐技术的影响程度不同，故其级别亦不同，较为简单的算法只对个人及小范围群体产生影响，复杂算法可能形成信息茧房。

吴沈括认为，算法分级分类可以分为两种情况，一种是从算法所能够引发的风险等级角度来考虑，另一种是从算法在如内容分发、商业广告推送等不同领域中可能体现出的技术特性和生态特性来考虑。因此，算法的分级分类思路一是针对场景，二是针对它所引发的风险等级的区别判断。

4

强调公开透明，应与商业秘密保护做平衡

《指导意见》针对社会公众对于算法透明的关切也做出回应，将“算法公平公正、公开透明”设立为三年主要目标，并将算法“透明可释”纳入基本原则。

吴沈括认为，算法的公开透明主要意味着两方面要求：一方面是强化公众的认知权利、提高认知水平，另一方面是通过这样的方式形成一种由外而内地监督、强化算法研发者、算法使用者的业务规则。

从实施层面，麻策认为可以从两个维度来监督算法公开透明：其一是所有App前端应告知用户进行算法决策的方式、目的及基本原理，其二即使企业基于商业机密或社会利益的考虑，无法保证向用户完全公开透明，但至少应该对监管机构做到公开透明。“这两个维度既确保了用户的知情权，又确保了算法的可溯及性及被评估审查。”

不过，梁正强调，这里的“算法公开”不是指公开算法模型或者参数，而是公开算法设计的基本逻辑，如运用算法可能产生的影响、风险等，相当于一个“产品说明书”。以汽车为例，开汽车之前需要看汽车说明书，它会将可能的风险以及如何操作汽车等信息告知用户，然而，用户并没有必要知道汽车背后内燃机或发动机的原理。

算法公开透明，是否会迫使企业泄露自己的商业机密？

麻策坦言，该要求的确会对企业造成不利影响，因此需要找到两者间的平衡点，即把握算法公开透明与商业秘密保护之间的“度”。事实上，企业研发算法机制花费了大量人力物力，经历了多次数据演练与模型建构才“发明”出来，如果将其全部公开透明化可能导致产品竞争力的丧失。然而，关于要把握怎样的平衡状态，他直言目前还没有明确的法律依据。

梁正分析，《指导意见》中显示企业应“公开算法基本原理、优化目标、决策标准等信息”，实际上，需要揭示的内容是企业依据什么做出的判断，而具体用了怎样的原理去实现，这不必要也不可能去公开。

吴沈括也表示，推动算法公开透明与保护商业秘密之间并不矛盾，它是在商业秘密保护基础上的、或者与其并行的一种要求。在后续规则制定及落地层面中，推动算法公开透明也不会与知识产权保护、商业秘密保护等原则相违背。“这既是一个需要进行精准把握的利益平衡过程，也是后续值得期待的发展方向。”

采写：实习生樊文扬 南都记者马嘉璐