美国联邦通信委员会(FCC)禁止使用人工智能克隆语音的诈骗机器人电话

郑友德 华中科技大学知识产权与竞争法中心

美国联邦通信委员会（FCC）2024 年2月9日一致投票扩大了制止机器人电话的规则。根据1991年美国《电话消费者保护法》（Telephone Consumer Protection Act，TCPA），FCC将机器人语音中人工智能生成的语音归类为“人工的或预录语音(artificial or prerecorded voice[s])。该裁决已经生效，禁止在针对消费者的常见自动语音诈骗中使用语音克隆技术。它将立即取缔以虚假的人工智能生成的声音为特色的诈骗机器人电话，打击所谓的“深度伪造技术（Deep Fake Technology）”。

FCC表示，在过去几年中，这类电话的兴起已经升级，它们被用来通过模仿处于危难中的亲人的声音来向家人勒索钱财。去年，美国联邦贸易委员会（Federal Trade Commission，FTC）警告消费者，这些骗局正在增加。机器人电话的其他邪恶用途还包括克隆孩子和孙子的声音，以向父母和祖父母勒索钱财——甚至用这些人工智能生成的声音捏造人质情况。机器人电话者还寻求可用于进行身份盗窃的个人信息。FTC数据显示，仅在2023年，消费者就因冒名顶替骗局损失了27亿美元。此外，不法者还利用人工智能克隆语音的电话干扰美国选举，破坏美国的民主制度。几周前，一个冒充乔·拜登总统语音的人工智能机器人瞄准了数千名新罕布什尔州选民，敦促他们不要参加该州的初选。

FCC主席Jessica Rosenworcel在一份声明中说：“不良行为者正在不请自来的机器人电话中使用人工智能生成的声音来勒索脆弱的家庭成员，模仿名人并误导选民。

TCPA禁止使用“未经被叫方事先明确同意使用人工或预先录制的声音来传递消息”的电话，但尚有例外（例如出于紧急目的）。然而，在这项裁决之前，“人工”的含义仍然模棱两可，因此该法存在漏洞，让人工智能的声音被用于邪恶的目的。

FCC的这项裁决通过澄清当前复制或创建人类语音的人工智能技术属于TCPA对“人工”声音的定义，从而填补了这一漏洞，FCC在这项裁决中表示，那些希望发送机器人电话的人“必须事先获得被叫方的明确同意，才能使用人工智能技术模拟或生成的人工或预先录制的语音进行通话。”

违反TCPA的行为可能会受到严厉的民事处罚。2021年，FCC宣布对两名保守派恶作剧者Jacob Wohl 和 Jack Burkman处以500万美元的拟议罚款，他们涉嫌在2020年大选中使用非法自动语音阻止2020 年大选的投票，他俩误导地警告以黑人为主的地区的人们，邮寄投票可能会增加他们被捕、追债和强制接种疫苗的风险。

根据机器人电话拦截服务YouMail 的估计，2019 年在美国放置的机器人电话数量达到约 585 亿次的峰值。

随着FCC更新其对联邦法律的解释，一些美国立法者提议直接修改法律，以进一步阻止非法机器人电话者。众议院民主党人今年公布了一项立法，当机器人违规使用人工智能时，TCPA的最高处罚将增加一倍。

FCC裁决的重要意义

作为州和联邦官员对非法机器人电话进行更广泛打击的一部分，持续为非法机器人电话提供便利的电话提供商可以并且已经被FCC命令强行与美国电话网络断开连接。FCC的裁决在四个重要方面改善了政府对人工智能驱动的机器人电话的执法工作。

首先，它增强了FCC的民事执法权力，授权该机构对使用人工智能生成的声音的机器人电话者每次处以最高23,000美元的罚款。

其次，它允许FCC采取措施阻止运营商为非法机器人电话提供便利的电话，例如使用以前仅用于记录机器人电话的执法权力。

第三，TCPA 允许个人消费者或组织对人工智能生成的机器人电话者提起诉讼，以就每个不需要的电话追回高达1,500美元的损害赔偿。

最后，州总检察长有额外的执法工具，用以对付人工智能生成的机器人电话，例如根据TCPA创建的联邦诉讼理由提起诉讼。

对FCC裁决的反应

虽然许多评论者对FCC的裁决表示赞赏，但其他人声称，在打击人工智能生成的通信欺骗技术方面，还任重道远。

无党派政治改革组织Issue One的创始人兼首席执行官Nick Penniman认为，FCC的裁决不足以保护选民免受人工智能产生欺诈的其他来源的影响。由人工智能生成的图像和视频驱动的政治广告是欺诈的主要来源，是“对民主生存的。威胁”。然而，新裁决并没有扩大FCC监管这种潜在通信范围的权力范围，因为该裁决仅限于机器人电话，而不是图像或视频。这种有限的范围使人工智能生成的图像和视频不受监管，而政治竞选活动及其支持者在选举前越来越多地使用此类材料。

一些评论者认为，该判决在打击政治广告中的人工智能欺诈方面做得不够。Hall Estill律师事务所Aaron Tifft律师说，这一裁决过于宽泛。Tifft认为，该裁决的含糊不清增加了无辜电话推销员的负担，要求他们在与潜在客户、股东或员工进行每次人工智能生成的通信之前获得同意。例如，该裁决围绕短信是否也属于TCPA制裁范围留下了灰色地带。像Tifft这样的评论者担心，这种不确定性可能会导致企业陷入无聊且代价高昂的诉讼。

弗吉尼亚理工大学英联邦网络倡议研究主任、2017年至2019年担任FCC前首席技术官的Eric Burger质疑该裁决的可执行性。根据Burger的说法，目前所谓涉及识别机器人的来源的“一步回溯”法已有成效，它通过复杂的电信基础设施网络追踪电话，并确定电话的始发点。然而，一步回溯很麻烦，并且花费了大量的执法资源，因此FCC传统上只起诉最大的机器人工作。现在，人工智能降低了机器人电话者的准入门槛，使他们能够每天部署数千个机器人电话。即使有了新的裁决，FCC目前的协议尚未适应人工智能驱动的机器人电话的快速发展，使用现有协议做出回应将给州调查工作带来负担，而不会实现FCC在这项裁决中设想的抑制作用。

消费者权益倡导组织“公共市民（Public Citizen）”赞扬了这一裁决，但表示这还不够。Public Citizen总裁Robert Weissman在一份声明中表示：“感谢FCC，今天这项迫切需要的规则将人工智能语音生成的机器人语音定为非法。这项规则将有效地保护消费者免受快速传播的人工智能骗局和欺骗。每个机构都应该效仿，并应用其掌握的工具和法律来监管人工智能”。

韦斯曼还表示，现行法规的条款有一定的局限性。与选举相关的非营利组织仍然会用座机拨打人工智能电话。

联邦通信委员会主席Rosenworcel办公室战略通信主管Jonathan S.Uriarte表示，如果人工智能生成的电话符合某些标准，它们仍将被允许接入固定电话。但FCC的新规定适用于任何使用自动拨号器、预录语音或人工语音拨打的非紧急电话，无论是商用电话还是非商用电话。他说，那些拨打急救电话或医院/医疗机构电话的电话也将被禁止。

Uriarte说，FCC的规定还为非商业电话或非营利组织使用人工或预先录制的语音拨打居民电话提供了保护措施，将其限制在连续30天内不超过三次。来电者还必须满足受话者对于再次来电选择退出的请求。

纽约州民主党众议员Yvette Clarke表示，联邦通信委员会的禁令是第一步，但国会需要加大力度打击人工智能造假。

Clarke在一份声明中说：“我们都知道机器人语音的破坏性有多大，这一裁决虽然令人惊讶，但并不能阻止不良行为者试图欺骗普通美国人，也不能消除他们破坏我们选举的企图。所以，下一步是国会迅速采取行动。我相信民主党和共和党人都同意，人工智能生成的用于欺骗人们的内容是一件坏事，我们需要共同努力，帮助人们掌握必要的工具，帮助他们辨别真伪”。

美国国会于2023年提出了两项法案，旨在规范人工智能生成内容在政治竞选中的使用，但一直停滞不前。Clarke于5月推出的一项法案将扩大竞选广告的披露要求，包括人工智能是否用于生成视频或图像。另一项由明尼苏达州民主党参议员Amy Klobuchar于2023年9月提出，将禁止在政治广告中使用人工智能。

尽管美国国会在如何驯服人工智能生成的内容方面的行动明显滞后，但白宫人工智能委员会于2024年1月29日召开会议，三个月前，拜登签署了一项行政令，以降低人工智能危害国家安全和消费者权利的风险。

人工智能造假不仅仅是通过电话。本周早些时候，一个审查Meta内容审核裁决的独立机构敦促这家科技巨头彻底改革其对被操纵视频的政策，被操纵视频可能包括误导选民和篡改选举的虚假或扭曲片段。

监督委员会维持了Meta去年5月关于将一段经过篡改的拜登视频在网上保留的裁决，但要求Meta在未来打击所有篡改的内容。

FCC的裁决代表了解决人工智能驱动的机器人电话的重要一步，但它并不标志着这个故事的结束。技术的不断发展需要一种具有高度协调性和适应性的方法，以确保在不阻碍创新的情况下保护消费者。正在进行的讨论、明确的法规和有效的执法对于通讯渠道免受不需要的和可能有害的人工智能驱动的机器人电话至关重要。

本公众号定期推送知识产权及竞争政策相关的法律政策与政府文件、最新全球行业信息、原创文章与专家观点、业内高端活动消息、《电子知识产权》（月刊）&《竞争政策研究》（双月刊）文章节选及重磅全文、专利态势发布、中心最新成果发布及相关新闻报道等诸多内容，欢迎各界人士关注！