四部门联合发布《互联网信息服务算法推荐管理规定》律师：用户对算法机制的接受从被动变为主动

近日，国家互联网信息办公室、工业和信息化部、公安部和国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》（以下简称《规定》），该《规定》将于2022年3月1日起施行。

《规定》明确要求算法推荐服务提供者：不得利用算法屏蔽信息、过度推荐、操纵榜单等干预信息呈现；不得设置诱导用户沉迷、过度消费等算法模型；不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。

国家互联网信息办公室有关负责人表示，出台《规定》主要基于两个方面的考虑，一是深入推进互联网信息服务算法综合治理的需要；二是积极促进算法推荐服务规范健康发展的需要。

上海汉盛律师事务所高级合伙人李旻律师向财经网科技表示，《规定》的出台，使得用户对算法推荐机制的接受从被动变为主动。

诱导用户沉迷、过度消费等算法模型被禁止

据了解，目前国内的内容资讯平台、短视频平台都在使用算法推荐技术，即利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术，为用户匹配和推送个性化信息服务。但这项技术在助力用户在海量信息中获取到感兴趣的内容外，也使得用户以及内容生产者陷入“沼泽”。

有业内人士表示，算法推荐机制的出现让公众更快捷、准确地获得想要的信息，但也存在强化公众固有认知、减少多元化信息获取的弊端；给部分标题党、营销号发布的劣质内容带来获取流量的机会。此外，过度推荐、大数据杀熟、造成致瘾性诱导、误导消费者、操控舆论等负面影响也在“越滚越大”。

腾讯新闻报道称，有从业者表示，算法机制逼着创作者迭代，而所谓的“短视频思维”，就是“怎么拍出一个让机器算法认为好的内容”，更准确说是“怎样通过内容激发用户行为，进而让算法识别到数据，给内容匹配更多流量”。

人民网也曾在评论中指出，很多标榜“只做内容搬运工”的门户网站，一味追求流量，内容猎奇、低俗、色情甚至无耻，毫无社会责任可言。

中国政法大学网络法学研究所副所长商希雪在接受媒体采访时表示，一方面，淫秽色情、赌博诈骗以及负能量内容充斥网络空间；另一方面，在“流量为王”的畸形观念下，平台利用算法模型通过热搜、超话、炒作、聚集等信息推送方式投放给用户“刺激”的话题和“热点”的信息，大众在被动“吃瓜”时会感到精神不适。

不过，本次《规定》对上述情况作出了明确规定，不仅要求要求算法推荐服务提供者不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。还要求算法推荐服务提供者坚持主流价值导向，采取措施防范和抵制传播不良信息；加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制。

平台不得操纵榜单、控制热搜

《规定》明确，算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。同时，《规定》还要求算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为。

而在《规定》明确上述内容之前，常与榜单、热搜等强关联的新浪微博在社会热点、垂直领域热点上已极具影响力，且平台存在的热搜被操纵被买卖的现象，也已被讨论久矣。

新浪微博发布《2021上半年·微博热搜榜趋势报告》显示，2021上半年，热搜中的社会热点占从31%提升到36%，垂直热点占从35%提升到38%，用户对社会热点和垂直领域热点的关注度在不断提高；在登上热搜的热点中，社会时事热点数量上升42%，占从31%提升36%。此外，在引发全网关注的爆词方面，2021上半年，热搜泛社会爆词达到27个，数量提升至9倍。

在新浪微博对用户和社会的影响力愈发强大的同时，其潜伏在灰色地带的“微博热搜生意”及背后的买卖“产业链”也多次被报道。

《南方都市报》曾报道称，在营销推广的需求和利益推动之下，出现了通过“刷热搜”盈利的第三方机构，通过人工干预的手段有偿增加互动量、浏览量、内容发布量，以达到对特定内容的曝光。甚至在2021年8月，新浪微博表示热搜排序中不存在任何商业售卖位置，且“花钱买热搜”“花钱压热搜”等均为不实传言后，上述媒体发现，各种热搜相关的卖家群依旧活跃，多位提供“上热搜”服务的商家还表示，“热搜报价与此前一致，按榜上排名收费。”

《财经》也报道称，有业内人士表示，微博热搜是肯定可以“刷”的，主要渠道有两种：一是直接找微博官方谈商业合作（热搜榜的第三和第六是固定广告位），二是找熟稔微博算法的第三方刷榜公司把热度“刷”上去。

不得向消费者实施不合理的差别待遇

北京市消费者协会此前的一项调查显示，近9成被调查者认为"大数据杀熟"现象普遍存在，还有56%的人表示有过被"杀熟"的经历，发生场景以网购、在线旅游、酒店住宿、网约车、外卖、影视等为主。

据了解，所谓“大数据杀熟”，指的是同样的商品或服务，老客户看到的价格反而比新客户要贵出许多的现象。复旦大学管理学院应用经济学系讲师伏啸表示，以前提到“大数据杀熟”，一般联想到的是“宰熟客”，但近期发布的《北京市平台经济领域反垄断合规指引》等文件更明确地指出，被“杀熟”的对象最有可能是“熟人”，而不一定是“熟客”。也就是说，通过大数据和机器学习，哪怕是“生客”，平台也可能基于相似人群的需求偏好特征、支付意愿或支付能力等信息，给予差别待遇。

去年2月，复旦大学管理学院孙金云副教授团队发布的《2020打车软件出行现状调研报告》显示，通过打车软件实测，发现打车软件平台会利用已有的用户特征大数据提供差异化服务、定价并进行价格歧视。不过该报告也强调，实测结果可能和其真实的算法及策略存在一定的偏差。

此外，今年7月，因涉嫌“大数据杀熟”上海某旅行商务有限公司一审被判退一赔三。据了解，一年前，胡女士以其采集个人非必要信息，进行“大数据杀熟”等为由诉至法院，要求后者退一赔三并为其增加不同意“服务协议”和“隐私政策”时仍可继续使用的选项，避免被告采集其个人信息，掌握原告数据。

据了解，关于“大数据杀熟”，《网络交易监督管理办法》、《电子商务法》、《国务院反垄断委员会关于平台经济领域的反垄断指南》以及《个人信息保护法》等多部法律法规明确规定，不得在交易中对个人实施“差别待遇”。

值得注意的是，在此次新颁布的《规定》中同样明确提出，算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

对此，李旻律师向财经网科技分析称，此前有关算法根据用户的偏好和消费习惯，进行不合理的差别待遇的“大数据杀熟”问题屡次发生，《规定》出台后，从官方层面上否定了该种行为，能够有效的保护用户平等享受服务的权利。

用户接受算法推荐：从“被动”变为“主动”

据了解，具体到用户权益保护方面，《规定》主要从两方面保障了用户权利。一方面，《规定》要求算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等；另一方面，《规定》还要求算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务后，算法推荐服务提供者应当立即停止提供相关服务。

有分析认为，该《规定》给予用户更多知情权和自主选择权。也就是说，除了有权知晓企业收集了什么类型的数据、用于何种用途，以及平台方基于何种原理、逻辑为用户提供算法推荐服务外，用户还有权随时开启和关闭平台方提供的算法推荐服务，以及让企业销毁已经收集的个人数据，

但他也表示，用户的大数据相当于一座矿，算法推荐就相当于24小时自动运转的挖矿机器，不停地给运营商带来利润。企业必然会根据《规定》设置算法关闭按钮，但是关闭意味着利润的减少，企业在未来可能会通过其他模式引导用户继续开启算法推荐，具体方式仍待考究。

“内容平台与搜索平台不同，使用搜索平台的用户有明确的搜索目标和搜索目的，但是针对内容平台，用户在浏览前往往是没有特定目的，故需要通过平台推荐来选择自己喜好的内容。对用户来说，使用推荐算法，节约时间成本；关闭推荐算法，保护个人隐私。本质是时间成本和个人隐私之间的权衡。算法推荐一旦关闭，内容推荐只能通过‘社交推荐’的模式，（用户）很难拓展新的内容，《规定》出台后到底有多少用户会坚持关闭算法推荐也仍有待论证。”李旻律师最后补充道。