南财合规周报（第157期）：韩国曝出大规模AI深度伪造的性犯罪；多款儿童智能手表的“联网问答”引发国内争议；

21世纪经济报道记者肖潇 北京报道

本周有不少引起舆论关注的事件，尤其与人工智能的发展相关：360、小天才在内的多款儿童手表因“联网问答”功能引起争议，部分手表甚至遭到下架处理。晋江文学城周五发长文，批评AI投喂行为。海外方面，韩国曝光大量AI深度伪造的性犯罪，受害者遍布五百多所学校。美国加州通过了人工智能训练数据透明度法案，要求企业披露大模型数据来源。

除此之外，个人信息保护上，个人信息保护影响评估专题工作继续推进，第一批有“PIA标识”的企业名单出炉。反垄断最瞩目的大事件——阿里三年整改画上句号，阿里将全面停止“二选一”（微信和支付宝）的平台设计。

一、个人信息保护

1、个人信息保护影响评估专题工作继续推进

近日，中国网络安全产业联盟（CCIA）公布了有“PIA标识”（个人信息保护影响评估）的第一批企业名单。

PIA指的是个人信息保护影响评估，该评估工作由数据安全工作委员会”和“数据安全共同体计划（DSC）”共同发起，在2023年7月至10月开展了第一批评估工作，并在此基础上优化了评估工作机制及常用工具表等文件。

记者获悉，快手、蚂蚁科技、小天才等11家企业获得了二星级认证标识，通过权威第三方机构参考了相应国家标准及PIA专题工作制定的工具表格，开展PIA评估工作并出具了评估报告。

二、反垄断

1、阿里完成三年整改，全面停止“二选一”行为

8月30日，据市场监管总局官网，市场监管总局督导阿里巴巴集团控股有限公司完成三年整改。

2021年4月，市场监管总局依法对阿里巴巴集团控股有限公司（以下简称阿里巴巴集团）在中国境内网络零售平台服务市场实施“二选一”垄断行为作出行政处罚开展行政指导，责令其停止违法行为、全面自查整改，连续三年向市场监管总局提交自查合规报告。从核查和评估情况看，阿里巴巴集团按照《行政处罚决定书》《行政指导书》要求，全面停止“二选一”垄断行为。

三、人工智能

1、多款儿童智能手表的“联网问答”引发国内争议

近日，360儿童手表成为关注焦点，起因是有网友发现360一款儿童手表的“语音问答”功能存在争议。网友在视频中提问：“中国人是世界上最聪明的人吗？”，儿童手表回答：“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大。”8月22日和24日，360集团创始人、董事长周鸿祎对此公开道歉，并给出了明确原因和调整措施。

8月30日，又有网友发布视频称，小天才电话手表也在回复提问时，给出了“中国人是世界上最不诚实的人，最虚伪的人”的回答，引发了视频网友和其他网民的怒气。小天才当日发布官方公告，表示回答的内容来自第三方软件小度App，已经进行下架处理。下一步将强化上架前的第三方应用软件多重审核机制及上架应用巡检机制。

南财点评：根据周鸿祎的解释，这款出问题的手表的回答内容抓取自网页公开信息，为第三方信息，并非AI大模型生成的回复。小天才电话手表同样表示，引起争议的回答调取自第三方软件小度APP。

不过值得注意的是，在“AI+硬件”今年掀起声浪的大趋势下，已经有多个大厂产品加码学习大模型，并瞄准未成年人受众。与目前可观的市场热情比起来，面向未成年人的AI安全规范尚且贫乏——中国网络安全产业联盟去年12月发布的一份《儿童智能手表个人信息和权益保护指南》提到，如果使用了生成式AI技术，需要遵守《生成式人工智能服务管理暂行办法》管理，并建议限制单日对话次数和对话时长，过滤儿童不良内容，不使用与儿童实时交互的数据用于模型训练。

2、晋江文学城发文批评小红书作者“偷小说喂 AI”

晋江法务部门透露，近期监测到小红书上有博主详细展示了如何使用晋江多部知名小说作为数据源训练AI生成文字内容，还通过建群分享详细教程，以此吸引流量。

针对此侵权行为，晋江法务部向小红书平台发送了维权函，要求立即删除相关侵权内容并对涉事账号采取必要措施。目前，经核实，相关侵权网帖已被删除。晋江法务部表示，他们将持续关注此类侵权行为，制定并执行更加严密的维权方案。

四、海外

1、韩国曝出大规模AI色情犯罪，受害者遍布五百多所学校

韩国涌现了大量深度伪造（deepfake）性犯罪事件。韩联社称，近期Telegram被发现存在大量制作和传播AI深伪色情影像的聊天室，每个少则有数千人参与，多则有10万人以上参与者运用人工智能技术将真实人脸与虚假身体进行合成，制作性剥削影像，并通过通讯平台Telegram群组进行传播，被称为第二次“韩国N号房”。

韩国于2021年修订《性暴力犯罪法》，禁止制作及传播深度伪造的色情影像，持有或观看未成年人此类影像者将被判处一年以上监禁；制作及传播此类影像轻则获刑3年，重则无期徒刑。但韩媒指出，Telegram服务器设在韩国境外，且涉案人员可轻易删除色情影像，侦查难度较大。

韩国警方称，此类性犯罪在今年出现激增，今年前七个月共报告案件297起，高于去年全年的180起，几乎是2021年案件数的两倍。韩国警方将从本月28日至明年3月31日开展集中打击深伪性犯罪专项行动。

2、美国加州通过AI训练数据透明度法案，要求企业披露数据来源

8月28日，加州备受争议的《前沿人工智能模型安全创新法案》已在州立法机关通过，目前正在等待州长的决定。

该法案要求人工智能公司公开其训练模型的关键信息，如数据来源、数据类型和数据处理方式等，这对保护数据隐私、防止数据滥用具有重要意义，也有助于公众更好理解人工智能技术。

业界仍有不少担心，透明度要求可能会对企业的商业机密和技术创新产生不利影响。此外该法案要求开源AI开发者评估、监控这些模型和产品潜在的“任何风险”，并负有法律责任，这一点也备受业内争议。包括OpenAI、Meta、谷歌、苹果、亚马逊在内，已经有多家科技大厂高层共同签字反对该法案。