诈骗、歧视、隐私泄露！欧美《人工智能法》已出台，中国何时跟进

声明：本文内容均引用权威资料结合个人观点进行撰写，文末已标注文献来源，请知悉。

现在的AI已经发展到能编写代码、撰写文章、进行对话交互的大语言模型了，它的每一次进步都让人眼前一亮。

然而，随之而来的一系列问题，也逐渐浮出水面——隐私泄露、深度伪造诈骗等，对人们的人身和精神安全带来了巨大的威胁。

回顾互联网兴起之初，隐私保护并未得到足够重视，直到社交媒体平台发生大规模用户数据泄露事件后，立法者才如梦初醒，开始着手加强隐私保护法规的建设。

如今仍然是一片空白的AI领域是否能及时补上这个漏洞呢？欧美这回的动静很快！

AI狂飙突进，法律“堵漏”迫在眉睫？

AI对个人隐私的影响尤为深远，人脸识别的滥用更是触目惊心，一旦失控，后果不堪设想。

Clearview AI事件就是一个活生生的例子！2019年该公司未经用户同意，大肆收集人脸照片，建立庞大数据库，并出售给执法机构和企业，引发了全球范围内的隐私保护危机，甚至有多国政府要求对Clearview AI进行调查。

在中国，南京一位大学教授因动物园未经同意，强制收集人脸信息而对其提起诉讼，并最终胜诉。这起案件成为国内首例人脸识别滥用诉讼。此外，智能客服、社交媒体推荐算法等AI应用，也在不断收集和分析用户数据，增加了信息泄露的风险。

去年，国内有某知名电商平台，因AI系统漏洞，泄露数百万用户的个人信息。在广告推荐、金融审核、司法决策等诸多场合，AI算法歧视也日益泛滥。这种歧视不仅损害了个人权益，也阻碍了社会公平和正义的实现。

另外美国一项研究发现，大型银行在使用AI进行贷款审核时，往往存在明显的种族歧视现象。

在中国，一些求职网站采用AI筛选简历，也发现存在性别歧视问题。2023年，中国江苏曾出现过一起企业高管被AI换脸视频诈骗，诱使其误判为熟人并紧急转账，损失高达430万元人民币的重大AI犯罪。

诈骗分子运用AI技术，从社交媒体获取受害人与朋友的视频、音频素材，经深度学习训练后，生成以假乱真的动态人脸和语音模型，以此实施诈骗。在视频通话中，受害者看到的“朋友”，几乎与真人无异，连微小的面部表情、语音停顿都极具真实感。

由于视频通话的高信任度，让受害者深信不疑，随即按指示完成了转账。直到事后联系真正的朋友时，事主才意识到自己被骗。这些问题如烈火燎原，越烧越旺；如果任由AI技术野蛮生长，很可能会重蹈互联网野蛮成长的覆辙。

值得庆幸的是，去年五月欧盟率先迈出了重要一步，颁布了全球首部系统性的AI监管法案——《人工智能法》。这是欧盟首次就人工智能应用制定跨国立法（AI Act），部分法规于今年2月正式开跑，整部法律将于2027年8月全面生效。

欧盟如何应对AI监管空白，实现有效“堵漏”？

欧盟AI法案，按照风险等级对AI系统进行分类，主要分为：不可接受风险、高风险、有限风险、最低风险四大类。

不可接受风险是不可触碰的红线。在社会信用评分方面，政府或企业应避免使用AI对个人进行评分，以防止算法可能带来的歧视性问题，确保决策的公平性。针对人脸识别技术，除非涉及国家安全等特殊情况，否则在公共场所不应使用AI驱动的人脸识别系统，以保护公民的隐私权。

在行为操纵方面，《人工智能法》坚决禁止利用AI在未经同意的情况下，影响人类行为，如进行心理操控以实施欺诈、干预选举或影响消费决策。

高风险AI领域是指使用者需要谨慎使用，包括生活中的方方面面。在医疗诊断领域，AI系统的准确性和数据安全至关重要，且必须经过严格的认证流程。当AI涉及关键基础设施，包括电网、交通系统等关键设施时，必须确保系统的稳定性和抗风险能力。

在自动驾驶应用上，AI需具备高度可靠的决策能力，并符合交通安全法规。如果有公司应用AI招聘系统，则需防止算法偏见，确保公平筛选候选人。用于评估个人或企业信用时，AI需确保数据的透明性和可解释性，避免歧视性决策的发生。

欧盟《人工智能法》规定，这些高风险AI系统在进入市场前，都必须经过欧盟相关机构的严格认证，确保其符合透明度、可解释性、数据质量和安全性标准。

AI法案，还带来哪些影响与挑战？

有限风险的AI系统则可以适当宽松！比如聊天机器人、智能客服，应向用户明确其AI身份，并提供透明度机制。AI推荐系统，如新闻推送、购物推荐，需提供用户可以调整的偏好选项，并透明化推荐逻辑。

最低风险AI，无需提供严格监管，包括AI驱动的电子游戏，例如AI优化的游戏NPC（非玩家角色）。智能助手，如Siri、Google Assistant，由于其用途较低风险，不需过多监管，但开发者仍需遵守基本道德准则。

欧盟AI法案还放了个大招，要求所有AI生成的内容，无论是图片、视频还是音频，都必须标注为AI产物。这一举措是为了遏制深度伪造技术（如Deepfake）带来的虚假信息，确保公众免受误导。

对于违规企业，欧盟毫不手软，设立了高达3500万欧元或企业年收入7%的罚款上限，以此作为强有力的威慑，促使企业合规操作。不过，这法案一出，争议也跟着来了。不少AI企业抱怨说，法规太严了，合规成本直线上升，创新速度都要被拖慢了。

特别是在“合法获取数据”这一问题上，企业普遍感到执行起来困难重重。面对AI技术让人眼花缭乱的发展速度，欧盟也力求在有效监管的同时，避免抑制创新活力。因此，欧盟未来会根据AI技术的实际发展情况，对法案进行适时的调整和优化。

中国AI何时会立法？

那么，中国的AI立法又该如何走呢？相较于欧盟，中国的AI立法尚处于起步阶段。虽然已经有了一些针对特定应用的法规，但全面的监管框架还没建立起来。但目前一个方向肯定是加强数据安全和隐私保护，确保AI数据的来源合法、透明。

再一个就是细化AI生成的内容管理，比如要求AI视频，添加可溯源的数字水印等，以防止虚假信息的泛滥。同时，重视AI伦理和公平性，制定严格的公平性评估标准，确保AI系统不会加剧社会不公；最后，像医疗、金融、教育、交通这些高风险的行业，AI应用也会有更严格的准入门槛。

相对欧盟制定的《人工智能法》，中国科学界普遍持有更为务实的态度。他们认为，中国的AI立法应该结合本国的实际情况，不能简单复制欧盟的模式。欧盟更注重保护个人权益，强调安全第一；而中国会更注重平衡产业发展和社会安全。

科技企业们对此也各有看法。大型科技公司像百度、腾讯，都比较支持政府制定明确的法规来稳定市场；但一些AI初创企业，就担心严格的监管会抑制他们的创新活力。

在中国，普通民众也对AI法规有不同期待。许多人希望AI法规能保护个人隐私，同时不要过度干预，让AI仍能为普通人提供便利。而网络上也有不同的声音在回响，部分网民担忧AI监管一旦过紧，我们的科技竞争力是不是会被限制？

放眼全球，AI监管的浪潮正席卷而来。欧盟已经一马当先，推出了AI法案，但这只是万里长征的第一步，成效还有待时间的考验。而中国，则可能以更加灵巧的手法，平衡技术发展与监管力度，确保创新活力不被扼杀。

可以预见未来全球AI的治理蓝图中，数据合规性将成为重中之重，数据的来源与使用，都将受到前所未有的严格审视。另一方面，透明度和伦理规范将深入人心，企业将被要求揭开AI模型的神秘面纱，让公众对其运作有所了解。

此外，国际合作与博弈也将成为常态，各国在AI治理上可能各执一词，但需通过国际对话，形成共识。毋庸置疑，AI监管已成为全球科技竞技场上的关键一环，未来的立法动向将对技术创新、企业发展以及社会治理模式产生颠覆性的影响。

人工智能正以燎原之势席卷我们的生活，从职场到社会治理，无处不在。无规矩不成方圆，AI的狂飙突进，同样需要法律的指引与约束。这不仅关系到科技发展的命运，更与我们每个人的未来紧密相连！