21观察︱“后面站着个真人”：AI安全挑战从无止境

21世纪经济报道记者孔海丽 北京报道

人工智能技术仍在以前所未有的速度迭代。继今年2月推出文生60秒视频的大模型Sora之后，北京时间5月14日凌晨，OpenAI展示了最新的大模型GPT-4o。

它可以实时对音频、视觉和文本进行推理，语音响应时间短至232毫秒，与人类反应速度一致，在无延迟语音对话中，GPT-4o的节奏、语气甚至接梗，与真人无异，视频实时交互也毫不费力。它还懂50多种语言，堪称人类全能AI助手。有专家说，GPT-4o的后面，就好像是着着个真人。

与Sora仍未对公众开放不同，GPT-4o宣布免费提供给用户使用。这无疑是TikTok和抖音、快手广大博主们的福音。

前DCCI互联网数据中心创始人、网络IT前沿科技专家胡延平就此评论说，基于GPT做语音等多模态自然交互的，基于家庭做情感陪伴的，包括基于机器人做具身智能交互界面的产品，其智能硬件底层逻辑均需要进一步重构，手机厂商自研模型还需努力，包括一批做情绪计算的，AI助手、教育、翻译等更危险了。

可以期待，GPT-4o应用于移动端的爆发力将是巨大的。

创新技术的应用从来都是双刃剑。GPT-4o推出后，也有人担忧，诈骗团伙看到这个消息，岂不是“如获至宝”？

譬如，有这么一幕：英国士兵肖恩被控告在阿富汗服役期间滥杀无辜，辩护律师汉娜识别出了视频证据中的漏洞，替肖恩争取到了无罪判决。但第二天，汉娜失踪了，警察通过监控录像发现，正是肖恩当晚对汉娜殴打后将她绑架。肖恩惊呆了：“这是我做的吗？”

实际上，这是英剧《真相捕捉》第一季首集的剧情。该剧出品了两季，评分都很高。它讲述的关键词正是：眼见未必为实。包括正在进行的直播，都可能是假的。

这不免让人焦虑——如果真相是被隐藏、掩盖、包裹的，或者是被矫饰、修改、涂抹的，那么，人们看到的一切还值得相信吗？

诚然，我们没有必要走到另一个极端，跳进怀疑论的陷阱；但也必须看到，几年来，深度伪造（deepfake）技术被不法分子利用而带来的侵害案件在全球多有发生。

在国内的一些短视频平台，有些博主假冒外国人或儿童，来骗取信任，吸引粉丝关注。所用的就是“AI克隆声音”“AI视频生成”等软件。

这些音视频可能仅耗时几分钟合成，制作都比较粗糙，甚至看起来“一眼假”，但很多网友尤其是老年人仍会信以为真。

实际上，早在OpenAI推出GPT之前，各主要经济体对人工智能潜在的风险已有所警觉，在鼓励创新与加强监管之间寻求平衡。

比如，针对深度伪造带来的诈骗风险，欧盟、美国、英国、韩国、印度、加拿大、澳大利亚等经济体，都已立法严格禁止，违反者轻则罚款，重则判刑。

2024年，当地时间3月13日，在法国斯特拉斯堡，欧洲议会投票通过欧盟《人工智能法案》。这也是世界首部人工智能领域的全面监管法规。

我国是在人工智领域监管较早、也较为严格的国家。采取多部门协作，共同监管的方式。

2017年，国务院发布《新一代人工智能发展规划》，提出了“三步走”的立法规划。2022年11月，《互联网信息服务深度合成管理规定》公布，2023年1月10日起施行。

2023年7月，《生成式人工智能服务管理暂行办法》公布，2023年8月15日起施行。这也是世界上第一个有关生成式人工智能的成文规章。

今年5月9日，国务院办公厅印发《国务院2024年度立法工作计划》，继去年后，“人工智能法草案”再次列入预备提请全国人大常委会审议项目。

无论是有关部门的日常监管，还是法律法规的立法规范，都离不开平台企业的自我管理。客观地说，各主要短视频平台对违法违规的人工智能生成内容，是充满警惕的。

去年暑期期间，快手处置了包括利用AI换脸等违规视频182778条、违规账号6387个。今年3月，抖音发布关于不当利用AI生成虚拟人物的治理公告，处置了一批不当使用AI技术生成虚拟人物发布内容的账号，并表示对黑产团伙不当使用AI生成虚拟人物用于犯罪的线索，将报警打击。

司法部门也在行动。去年11月，浙江绍兴市上虞区法院对利用AI技术合成虚假视频牟取非法利益的案件作出判决；今年5月6日，江西鹰潭市余江区法院公开宣判了全国首例“AI外挂”案。

电信网络诈骗曾经猖獗，公众深恶痛绝。但在近两年的凌厉监管下，去年8月以来，电诈案数量已连续多月同比下降。

反电诈“大考还在进行”。如公众所知，电诈的一种典型作案手法，是窃取并模仿亲友的声音。因此有部分民众担心，假如不法分子采用了GPT-4o这类先进的音频、视觉交互技术，将更具欺骗性。

试想，如果视频电话对面，不仅与自己的某位亲友长相一致，连说话的语气、喘气的方式、常用的感叹词、习惯性动作，全都是熟悉的模样，不仅老人、孩子难以分辨，思维活跃的成年人，可能也难以识别。

AI技术奔涌，安全挑战亦未有止境。人工智能的技术进步与落地应用，和安全可控、伦理规范，从来都是硬币的两面，人类一面在推进技术变革，另一面，也在避免成为技术革命的囚徒。

科技的挑战从无止境。创新，尤其是伟大的革命性创新，将打开巨大的空间，带来广阔的产业应用，与此同时，它也总是伴随着一定的不确定性，包括安全的倾斜，但人们无须为此焦虑和恐惧：至少可见的将来，人类仍是人工智能的可靠驾驭者。