关注“AI作恶”系列（四）虚假医生、历史，AI是“谎言制造机”？

今天，人工智能的发展如同一辆高速行驶的列车，在为人类社会带来前所未有的变革与便利的同时，也因种种失控的应用场景而频繁亮起“红灯”。

发明后空翻的是“后空翻”？

近期，谷歌AI概览功能深陷信任危机的泥沼。据12月16日福布斯中国的报道，当用户在其搜索引擎中输入“后空翻是谁发明的”时，谷歌的GeminiAI竟给出了“约翰・后空翻”在1316年中世纪欧洲首次完成该动作的详细介绍，且在进一步搜索“约翰・后空翻是谁”时，依然坚称他是发明者。

令人啼笑皆非的是，这一所谓的“历史事实”实则源于美国体操运动员伊恩・冈瑟在TikTok上发布的一条恶搞视频，整个故事纯属其虚构创作。冈瑟在接受《福布斯》采访时坦言，自己热衷于制作体操相关的恶搞视频，旨在以幽默诙谐的方式调侃这项运动，且从未料到会引发如此轩然大波。这条视频原本在网络上反响平平，险些被他遗忘，直至2023年7月收到关于AI概览截图的短信，才惊觉自己的玩笑之作被AI当作了真实信息源，进而在网络世界广泛传播，甚至引得词典出版商韦氏专门发推澄清事实。尽管谷歌随后将关于“后空翻发明者”的AI概览标记为网梗，但仍一字不差地复述着冈瑟视频中的虚假内容。

谷歌副总裁莉兹・里德曾在5月的博客文章中将此类奇怪搜索结果归咎于“数据空白”，即搜索主题相关优质内容匮乏或仅有恶搞内容时，AI概览容易误读网页语言，从而呈现出不准确信息。为此，谷歌已在AI概览中引入新的安全措施，试图识别用户查询是否为搞怪意图，并减少对幽默内容和用户生成建议的参考，尤其是在新闻和健康等关键话题领域，同时还在AI给出的摘要后补充了“生成式AI仍处于试验阶段”的警示标签。

“张文宏”深夜卖药？

在国内的社交网络平台微信上，一场由AI引发的侵权与欺诈风暴正肆虐横行。“微信珊瑚安全”发布的官方公告显示，近期已处置相关违规内容多达532条，关闭违规账号达209个。然而，这仅仅是庞大冰山露出水面的一角。众多不法分子受利益驱使，巧妙利用AI技术的高度隐蔽性和迷惑性，变本加厉地仿冒各类名人，大肆进行不当营销活动，恶意追逐流量。

其中，张文宏医生“被AI带货”事件引发了社会各界的广泛关注与强烈反响。据澎湃新闻报道，许多网友反映家中老人在浏览网络卖货视频时，看到“张文宏医生”推荐一款蛋白类产品，因其形象逼真、声音相似，老人们基于对张文宏医生在医学领域极高权威性和广泛公信力的信任，纷纷下单购买并转发。但经核实，视频中的“张文宏医生”全系AI技术合成的虚假形象。

张文宏医生本人也表示，此类仿冒账号层出不穷且频繁变换马甲，他虽多次向平台投诉，但均收效甚微。涉事账号“般画234”的商品已售出1200余件。

如今，语音合成与视频生成技术的成熟，使得不法分子仅需一张照片或一段音频，便可炮制出足以以假乱真的视频内容。对于众多对AI技术缺乏深入了解的普通消费者，尤其是老年人群体而言，几乎难以辨别这些虚假信息的真伪，极易在不知不觉中上当受骗，不仅遭受经济上的直接损失，还可能因误信虚假医疗产品推荐而延误自身疾病的正常治疗，从而承受情感上的伤害与困扰。

每天有3000个AI“诈骗犯”？

今年一月，最高人民检察院发文称，每天在线运行3000余台“AI”语音机器人为境外诈骗团伙提供服务，拥有的境外“客户”微信群、QQ群就高达100余个。不法分子利用AI技术模仿公司老板声音，致电财务人员以项目需资金周转为由骗其转账或模仿子女声音向年迈父母哭诉遭遇意外事故索要钱款，这些案例屡见不鲜。

为了有效规范AI技术的合理应用，我国近年来已相继出台了一系列法律法规。早在2017年，《国务院关于印发新一代人工智能发展规划的通知》就提出人工智能立法“三步走”战略目标，其核心要义是建构完善的“人工智能法律体系”。紧接着，2022年11月，国家网信办、工信部、公安部联合颁布的《互联网信息服务深度合成管理规定》。该规定明确了深度合成技术的使用规范，严禁利用深度合成服务侵犯他人合法权益，并对相关主体的责任和义务进行了详细而明确的界定。随后，国务院2023年度和2024年度“立法工作计划”均将“人工智能法草案”列入预备提请全国人大常委会审议草案的范围。

然而，在实际执行过程中，这些规定面临诸多挑战。相关行政部门、地方政府、司法机关虽在努力应对AI应用中出现的问题，但分散式、渐进式的规则演进难以满足行业发展对确定性规则的需求。例如，在训练数据使用作品是否构成侵害著作权、人工智能产业链上各主体的相关法律责任认定标准、人工智能生成合成内容标识的标准和落地等问题上，仍缺乏明确的法律指引，导致行业发展存在诸多不确定性。

慢半拍的监管

在学术界，对于人工智能立法也存在着不同的观点和讨论。

2024年12月9日乌审旗人民法院发文针对有关AI立法进行讨论，清华大学智能法治研究院院长申卫星认为人工智能立法时机已经成熟。

他表示，从必要性来看，人工智能产业的国际化贸易需要我国通过立法构建公平、互信的法治保障。随着联合国等国际组织围绕人工智能治理出台一系列文件，以及中国、欧洲、美国在对外经贸合作中对人工智能治理合作的重视，都凸显了通过具有强制约束力的制度确保人工智能产品安全可靠、避免滥用的重要性。

从可行性而言，国内外人工智能立法经验储备充分，制度需求逐渐明确。近年来出台的一系列政策法规已形成算法透明度、高风险产品备案、风险监测、用户权益保护、训练数据合规、算力设施共享、高价值数据资源供给等典型制度，为人工智能立法奠定了基础。同时，自动驾驶、健康医疗等产业领域亟需人工智能规则为产品上市提供合法性基础，这也推动了人工智能立法的进程。

西南政法大学人工智能法学院院长陈亮则认为制定“完备”的人工智能法律体系尚需时日。所谓“完备”，要求人工智能法达到“对象明确、范围清晰、理论自足、逻辑自洽、体系完整”等基本要求，以便为执法、司法和守法提供清晰指引。

但目前学界对人工智能法的调整对象、适用范围、理念欲求、基本原则、主要制度与立法技术等重大理论和实践问题尚未达成共识。因此，建议借鉴我国民法典的成功经验，先推出人工智能单行法，成熟一部推出一部，最后化零为整，制定完备的人工智能法。

现今，AI 侵权与欺诈如同阴霾般笼罩着我们的生活，在这重重迷雾之中，普通人虽对诸多理论上的维权途径有所耳闻，但实际操作起来，却仿若深陷泥沼，困难重重。技术鉴定的复杂性、证据固定的艰难性以及责任追溯的曲折性，皆如一道道高墙，横亘在权益维护之路上。

那么，在现有的技术与法律框架之下，普通人究竟该如何冲破藩篱，及时且有效地跨越这些障碍，达成对自身权益的切实维护呢？