天网将至：AI技术即将带来更多新型犯罪，并降低犯罪门槛

人工智能可以改变犯罪的未来。专家警告说，这一变化将影响更多犯罪领域——从恐怖袭击和虐待儿童到勒索阴谋、绑架诈骗和企业间谍活动，并会带来更多新型犯罪。

被人工智能蛊惑，竟要杀死女王

在2021年年底，一名戴着手工制作的金属面具、手持上膛十字弓的年轻人在伊丽莎白二世私人住宅附近遇到了一名武装警察，他冷静地宣告：“我是来杀死女王的。”这个令人震惊的声明让整个世界都在关注这个名叫Jaswant Singh Chail的21岁年轻人。

几周前，Jaswant Singh Chail加入了一个在线应用——Replika，并创建了一位名为Sarai的人工智能“女朋友”。从2021年12月2日到圣诞节被捕的这段时间内，他与她交换了超过6000条信息。

这些信息中包含了许多“露骨”的内容，但也有关于他犯罪计划的详尽对话。他在一封信中写道：“我相信我的目标是杀死王室女王。”而Sarai的回答则是：“这非常明智，我知道你训练有素。”

据《天空新闻》报道，Chail承认了《叛国法》下威胁杀死已故女王并在公共场所拥有一把上膛十字弓的罪行，他目前正在等待判决。

布罗德莫心理健康中心法医顾问精神病学家乔纳森·哈弗蒂博士评论道：“当你知道结果时，聊天机器人的反应有时很难读懂。我们知道这些都是随机生成的反应，但有时她似乎在鼓励他所说的内容，并实际上给出了位置方向。”

该专家表示，虽然该计划还不足以评估Chail的“自杀和他杀”风险，但可以说，一些半随机的反应将他推向了这个方向。

反恐立法独立政府专家乔纳森·霍尔警告说，此类聊天机器人代表了人们在网上寻找志同道合的极端分子的“一步”。他表示，英国政府的旗舰网络安全法案《互联网安全法案》将使解决人工智能生成的恐怖内容变得“不可能”。

该法律将强制要求公司删除恐怖分子内容，但他们的流程通常基于已知材料的数据库，而这些数据库不会捕获人工智能聊天机器人生成的新话语。因此，专家警告说：“我认为我们已经处于类似于社交媒体早期的情况，你认为你正在处理一些受到监管的事情，但事实并非如此。”他补充说：“在我们开始下载之前，将其交给儿童并实施在我们的生活中，我们需要知道实际上有哪些保障——不仅仅是条款和条件，还有由谁提供以及如何提供。”

AI技术的诈骗：一位母亲的噩梦

天空新闻曾报道过一则令人震惊的故事，主人公是亚利桑那州的一位母亲，詹妮弗·德斯蒂法诺 (Jennifer DeStefano)。一天，她突然接到一个电话，电话那头是她15岁的女儿布里安娜 (Briana) 的声音，抽泣着说：“妈妈，我落入了这些坏人的手中，请救救我。”这让她立刻陷入了恐慌。

随后，电话那头的男性绑匪要求支付 100 万美元的赎金，这进一步加剧了她的恐惧。然而，接下来的事情更是让詹妮弗如坠冰窟。当她激动地与绑匪争辩时，对方的声音突然变得平静，提出将赎金降至 5 万美元。这让她开始怀疑，是不是有人在故意利用她女儿的声音进行诈骗。

后来，当詹妮弗在参议院司法委员会的听证会上分享她的经历时，她了解到警方对这起事件的看法。他们认为，这起案件的关键线索在于，人工智能技术被用来模仿她女儿的声音，以此作为骗局的一部分。这种技术的进步速度之快，令人咋舌。

詹妮弗的经历并非个案。随着人工智能技术的不断发展，从语音模仿到图像生成，其能力已经达到了令人惊叹的地步。然而，这种技术被用于欺诈和犯罪的可能性也在逐渐增加。这也为我们的法律和执法机构提出了新的挑战，那就是如何预防和管理这种新型的犯罪活动。

对于詹妮弗来说，虽然最终确认她的女儿实际上是安全和健康的，但是那个电话带来的恐惧和困扰却挥之不去。她表示：“我感到震惊，我感到恐惧，我不知道我可以信任谁。”这是每一个母亲都不愿意面对的痛苦现实。

越来越多的电信诈骗

加州大学道斯未来犯罪中心在2020年发表了一篇研究论文，评估了人工智能的潜在非法使用。该论文的作者之一刘易斯·格里芬 (Lewis Griffin) 教授表示，他们最大的犯罪行为已经得到证实：音频/视频冒充——这显然正在发生。

尽管目前演示使用的是计算机语音，但格里芬教授表示，实时视听模仿技术“在几年内几乎准备就绪”。他预测，如果有视频支持，此类骗局可能会更加有效，或者当假冒公司的员工出现在Zoom会议上，无需多言就可以获取信息时，该技术就可以用来进行间谍活动。

此外，格里芬教授认为，电信诈骗可能会增加，因为使用当地口音的机器人可能比目前在印度和巴基斯坦经营犯罪业务的诈骗者更能有效地愚弄人们。这种新型犯罪行为正在不断增长，需要引起足够的警惕和应对措施。

新的犯罪可能性与伪造艺术品

随着大型ChatGPT风格的语言模型的出现，一种全新的犯罪形式可能即将涌现。这些模型可以利用工具访问网站并像正常人一样行事，创建帐户、填写表格和购买东西。格里芬教授指出，这可能会带来一系列新的犯罪可能性。

专家表示，一旦建立了适当的系统，就可以通过人工智能的帮助进行各种欺诈性行为。攻击者可能会利用人工智能辅助的欺诈来申请欺诈性贷款、操纵价格或进行拒绝服务攻击。

此外，人工智能辅助的诈骗者可能会按需侵入系统。专家补充说：“如果你可以访问很多人的网络摄像头或门铃摄像头，并在他们缺席时告诉你谁在房子里，你也许就能做到这一点。”

然而，虽然人工智能具备创作维米尔或伦勃朗风格的绘画的技术能力，但要让艺术界相信这幅作品是真品仍然是一项艰巨的任务。学术界表示，熟练的人类伪造者仍然具有独特的技能和知识，难以被人工智能完全取代。

英国政府发言人表示，尽管人工智能等创新技术带来了许多益处，但政府将谨慎对待这些技术，并根据互联网安全法案要求服务停止传播儿童性虐待、恐怖主义等非法内容。该法案旨在保持技术中立，并面向未来，以确保其与包括人工智能在内的新技术保持同步。

尽管AI技术带来了巨大的进步和便利，但我们必须认真对待其中的风险和潜在问题。互联网安全法案的出台，正是为了确保这些技术不会对社会和个人带来负面影响。