亲爱的读者,你是否也收到过突然打来的自动拨号电话?一个陌生的机械音,劈头就向你兜售一堆莫名其妙的商品。实在恼人!
然而更恼人的,是那些充斥谎言的自动电话。
就在2024年美国大选前夕,一则怪异的新闻闹得沸沸扬扬,有人利用人工智能技术,制作了大量冒充拜登总统本人的自动拨号电话!
这些“拜登”以极其逼真的声音,向新罕布什尔州的民主党选民灌输误导信息,敦促他们不要在初选中投票。
消息一出,轰动全美。
民主党人大为光火,指责这是共和党对手的阴谋诡计。而当事人乔·拜登本人也表现出极大惊愕,抗议自己从未主动拨打这样的电话。
那么,这其中的内情是什么?利用人工智能技术伪造他人声音、传播谎言,又会对社会带来怎样危险的影响?我们有必要深入探讨。
人工智能的反面武器
很遗憾,在这个科技飞速发展的时代,每一项创新都会被一些人恶意利用。人工智能也不例外。
记得几年前横空出世的“深度伪造”技术吗?它可以将任何人的脸部替换到真人影像中,制造出栩栩如生的假视频。一时间,明星的“面具视频”传播甚广,引发公众担忧。
类似地,人工智能也可以克隆他人的声音。通过收集和分析某人的语音数据,算法可以模拟出极为逼真的音色和语调。这为制造假信息提供了极大便利。
木已成舟:监管的失职
遗憾的是,在这起事件中我们看到,相关监管部门的反应迟缓,几乎于事无补。
联邦选举委员会本应制定明确的人工智能使用规范,但它完全没有意识到问题的严重性和紧迫性。一些倡导机构已向其请愿,要求加速行动,但似乎毫无作用。
同样,人工智能企业如OpenAI也有责任落实内部规章制度,杜绝产品被滥用。但业内守门员似乎仍在睡梦中。
你准备好迎接“深度冒充”年代了吗
或许你会问,这和我又有什么关系?但请思考,如果连总统的声音都能轻易伪造,你我又还能相信什么是真实的?
我们必须正视人工智能可能带来的负面影响,并敦促有关部门尽快出台监管措施。与此同时,每一个公民也应提高判断能力,不因为一通电话或视频就随波逐流。
就像我们需要学习辨别照片里的“美颜”,也需要重视声音和影像的“深度冒充”。只有公民意识同步提高,法律监管才能发挥真正作用。
亲爱的读者,这个时代或将充满前所未有的真假难辨。让我们保持敏锐和清醒,用理性抵御被动洗脑的威胁。
就像北极星引导水手归家,唯有辨明真伪这根试金石之笔,方能让我们在复杂纷乱的航线上不致迷失方向。
补充备注:本文由Seerbolder团队训练的story weaver模仿凯文·罗斯(Kevin Roose)写作风格,他是《纽约时报》知名的科技评论员,长期关注科技对社会的影响。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.