河南
马来西亚政坛最近出现了一桩数字恐吓事件。柔佛州Tebrau国会议员潘志文收到一封带有深度伪造的恐吓邮件，中被拼接上了他的脸。
而收到邮件的并不止他一个，多名国会议员都表示遭遇了类似攻击。这也让多名国会议员的名誉蒙上阴影。
日前在柔佛州，人民公正党（PKR）副主席、Tebrau国会议员潘志文（Jimmy Puah）收到了一封异常邮件。
邮件中附有一段不雅，而中的主角脸部被精准替换成了他本人。整个画面、语气、动作都经过高度拟合。
潘志文第一时间发出声明，明确指出这段是利用人工智能技术精心伪造的，并非真实内容。
没过多久，公正党、民主行动党、土著团结党、民政党等多个政党的议员陆续爆出类似遭遇。而且这些所附邮件大多来自同一个邮箱地址。
深度伪造（deepfake）技术的原理，是通过人工智能算法对人物面部、声音和动作进行高度合成。
技术在影视特效和游戏制作中有正面用途，一旦落入不法分子手中，就可能成为制造虚假、散布谣言和进行网络敲诈的工具。
深度伪造的合成效果足以迷惑普通公众，甚至在部分场景中难以被技术检测工具迅速识破。
对公众人物而言，一段虚假的影像就算后面被澄清，也可能对个人和政党造成难以挽回的名誉损害。
潘志文在事件后表示，他已向警方及马来西亚通信与多媒体委员会（MCMC）报案，并呼吁政府尽快立法，规范AI技术的使用范围。
而且这类技术攻击并非只针对政治人物。潘志文在声明中明确指出，未来普通公民也可能成为深度伪造的受害者。
随着开源AI工具的普及，任何人只需拥有一段素材，便可生成高度拟真的换脸内容。社交账号、短、直播平台，已经为这些素材提供了丰富来源。
一旦技术被不法分子掌握，敲诈、诈骗、名誉毁损等行为将不再局限于目标人物。每一个在互联网留下痕迹的人，都可能成为潜在受害者。
从目前掌握的信息来看，所有恐吓邮件的发送邮箱地址极为相似，内容结构也基本一致。这种操作模式更像是有组织的网络攻击。
但由于深度伪造内容可以在匿名状态下生成和传播，追踪来源成为执法机关面临的最大难题。
警方与马来西亚通信与多媒体委员会已介入调查，但在没有具体立法框架的前提下，即便能识别技术来源，也难以追责。
AI技术的发展，原本应当为社会带来便利。但现在却被用来制造幻想、操控舆论、损害名誉。
通过马来西亚议员的遭遇揭开了一个数字时代的新风险。技术的本身并没有问题，但当它被带有恶意目的人去运用，很可能就会带出一系列危险。
如果真的遇到了也不要慌张，我们通过法律、技术以及公众意识去捍卫自己，同时我们也要擦亮眼睛，提高自身的辨别能力。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
