Chat GPT是否可信？ “网安大讲堂”分享智能时代网络安全新知识

4月15日，由中共佛山市委网信办携手佛山市网信协会精心打造的“网安大讲堂”品牌项目，在当天拉开2024年首讲的序幕！

“每年4月15日为全民国家安全教育日。国家安全涵盖政治、经济、文化、社会、网络等多个领域，关乎每个人的切实利益。”人工智能时代网络安全对国家安全、经济社会稳定运行及人民群众利益的影响日益加深，维护网络安全已成为维护国家安全的重要内容。中共佛山市委网信办副主任黎祥英在会上表示在国家安全日举办网安大讲堂对提升大家的网络安全意识具有重要意义。

本期课堂，中山大学副教授薛磊就“智能时代网络安全威胁”为主题进行授课，吸引到各市直单位负责网络信息安全的技术骨干，佛山市网络安全专家讲师团成员、佛山市红客队伍成员以及市民朋友在线上线下参与学习。

近年来，随着大数据、云计算、物联网、区块链、人工智能、5G通信等新兴技术的快速发展与深度应用，人类社会迈入了名副其实的“数字时代”，设计、散播网络安全漏洞的难度随之降低，稍不留意就有可能“中招”。课上，薛磊主要分享了软件供应链安全以及智能时代存在的主要网络安全威胁类型，包括内容生成如ChatGPT、文心一言；深度合成如AI人脸伪造、AI语音伪造；新型钓鱼攻击等等。

01软件供应链安全成患

针对开发人员的恶意软件包出现

随着数字化时代的到来，开源代码占比不断增加，由于开源代码的开放性，它可以被轻松地集成到软件供应链的各个环节中，为软件的开发和分发提供了丰富的资源，与此同时，也带来了一定的风险。

如今恶意开源代码数量急速上升，导致软件供应链攻击迅速增长，从21年到22年，一年内就增长了742%。对此，完善的软件供应链安全管理体系是非常重要的，包括对开源代码进行安全审计、定期更新和修复已知漏洞、限制对开源代码的修改权限等。

软件供应链安全成患 /图源薛磊课件

此外，薛磊特别提醒：“开发人员极易成为被针对性攻击的目标”。

Rust恶意代码是指使用Rust编程语言编写的恶意软件或攻击代码，是一款针对开发人员的恶意软件包。Rust语言提供了高级的内存管理功能，使得恶意代码可能更难被检测和清除，并且可以远程访问和控制受害者的计算机，进行各种恶意活动。因此，提升开发人员的网络安全意识，使用安全的开发工具和软件，加强代码管理，禁止分享代码，是十分重要。

02 Chat GPT信任度存疑

薛磊表示，近十几年来，人工智能系统获得愈来愈被广泛的应用，据Gartner预测，到2025年，生成式人工智能将占所有生成数据的10%，而该比例在2021年不足1%，与此同时，智能系统在应用过程中也暴露出大量安全问题。

智能时代下的Chat GPT具有惊艳的语言理解、生成、知识推理能力，除了聊天，还能机器翻译、文案撰写、代码编写等，那么，Chat GPT就真的值得完全信任吗？

答案是否定的。课上，薛磊指出，ChatGPT存在以下几类问题：

• 可信性存疑，尤其在专业领域需注意：ChatGPT可以一本正经地胡说八道，语句虽然流畅，但与事实大相径庭。这在法律、投资、医疗、教育、生化等高度专业的领域，容易误导使用者并造成衍生危害。
• 隐私机密泄露风险：比如，韩国三星某员工将有bug的代码复制到ChatGPT中寻找答案，导致机密泄露。
• 版权侵犯与学术失范：比如，北密歇根大学哲学教授 Antony Aumann 在为自己的评分时发现，全班第一的论文竟然是用 ChatGPT 写的。

此外，薛磊提到，AI技术可以通过深度合成，给人物进行变声、换脸处理，这带来了许多安全风险。他举例子分享：23年4月20日，市民郭先生的好友通过微信视频与他取得联系，声称自己正在外地参与一场重要的竞标活动，急需430万的保证金来完成这一关键任务，在转账过后，郭先生拨打好友电话，方才知道被骗。薛磊特别提醒：“智能时代，眼见耳听不一定为实！”

03 网络攻击层出不穷

网络防御应与时俱进

随着互联网的不断发达，当今社会，网络安全威胁不断演变，新的攻击手段层出不穷。为了抵御日益增多的网络攻击，网络防御也与时俱进，这些抵御技术不仅能够及时发现和响应攻击，还能够预防潜在的威胁，网络安全技术走向智能化成为必然。

网络防御技术新发展如下：

• 基于AI的防御技术，可使用机器学习模型来识别和预测未知威胁，实现快速响应和自动化防御；
• 区块链技术，利用区块链的去中心化和不可篡改的特性提高数据的安全性和透明度。
• 零信任网络，不再默认网络内部是安全的，任何访问请求都需要验证，最小化访问权限，以减少潜在的攻击面。
• 量子计算，随着量子计算的发展量子加密技术被视为能够抵御量子计算攻击的未来解决方案，提高通信的安全性。

最后，薛磊表示，“网络安全与每一个人息息相关，若想减少网络安全风险，还需靠我们每一个人的努力”

简介网安大讲堂

为强化网络安全、数据安全保障体系建设，维护国家政权安全、制度安全、意识形态安全，中共佛山市委网信办守正创新加强网上正面宣传引导，携手佛山市网信协会推出精心打造的品牌项目——“网安大讲堂”。希望通过更加灵活、多样的形式，探讨当前网络安全领域热点和难点问题，为党政机关、企事业单位的网络安全建设出谋划策，护航市委“515”高质量发展战略目标，稳步推进网络强省、数字佛山建设。

接下来，"网安大讲堂"将围绕隐私保护、防范实战安全运维、网络攻击的危害与防范等方面陆续推出系列课程。