法博士普法微课堂｜第八十六期：人工智能时代 织就国家安全“网络防护网”

封面新闻记者 姚箬君

07:34

视频制作：魏唯、刘承源、严兴红、袁一瑗、刘微 实习生 曹晓 吕汶珈

2026年4月15日是第11个“全民国家安全教育日”。国家安全说“大”很大，大到960万平方公里的国土面积涉及到的“国土安全”；说“小”也很小，小到以“龙虾”为代表的人工智能的出现，也牵动着国家安全的每一寸神经末梢。

这一期法博士普法微课堂，邀请到四川大学公共管理学院教授、博士生导师张伟、元绪律师事务所主任、首席合伙人谢佳佐，和大家一起以案释法，聊聊人工智能时代，如何在享受数字红利的同时，守住安全底线。

海报设计：姚海涛

1

/案例/

“龙虾”不是想“养”就能养

国家安全底线要守牢

2026年，名为“龙虾”的AI智能体，以现象级热度闯入大家视野。通过赋予其AI自主操作能力，就可以自动完成邮件收发、文件整理、代码编写等工作。

AI大模型赋能千行百业，这位能干又贴心的“数字伙伴”正加速融入我们的日常生活。当AI的触角延伸越广、嵌入越深，一些风险也随之而来。

个别单位直接使用开源框架建立联网大模型，导致攻击者未经授权自由访问内部网络，从而引发了数据泄漏和安全风险。近日，国家安全部就披露案例，某单位工作人员在处理内部文件时，违规使用开源AI工具，由于电脑系统默认开启公网访问且未设密码，导致敏感资料被境外IP非法访问和下载。

不当使用AI工具面临诸多隐患，包括主机可能被接管、数据可能被窃取、言论可能被篡改、技术可能有漏洞等。因此专家提醒，在日常使用AI工具时，应当理性看待、规范使用。遵循最小权限原则，严格限制智能体的操作范围，对存储的敏感数据必须进行加密。

2

/说法/

人工智能加速覆盖关键领域

给国家安全带来新挑战

当前，人工智能从产业领域，加速向公共服务、社会治理等关键领域覆盖。新技术的崛起往往像一把“双刃剑”，人工智能对于国家安全也是如此，它给我们的国家安全带来了什么样的影响呢？

人工智能作为新一轮科技革命的重要力量，正在深刻改变国家安全的形态和边界。它已经不只是简单的技术工具，而是正在深度融入国家安全的各个环节，逐步成为影响国家安全格局的重要力量。

从积极方面来看，人工智能明显提升了国家安全治理的能力。一方面，在传统安全领域，比如军事和情报系统，人工智能可以帮助我们更快识别风险、更精准开展行动。

另一方面，在网络安全、社会治理和公共服务等领域，人工智能也在发挥越来越重要的作用。通过对海量数据的实时分析，可以更早发现网络攻击、数据异常等问题，把很多风险从事后处理提前到事前预警。

更重要的是，人工智能正在推动国家安全治理方式发生变化，从过去更多依赖经验判断，逐步走向数据驱动和智能决策。

人工智能在带来能力提升的同时，也带来了新的风险。比如，深度伪造、算法推荐等技术，可能被用来传播虚假信息、影响公众认知；在模型训练和使用过程中，也可能出现数据泄露问题；同时，一些智能设备如果被攻击或控制，可能会放大安全风险。

总体来看，人工智能一方面在提升国家安全能力，另一方面也让风险变得更加隐蔽、更加复杂。

有些人觉得，像“养龙虾”一样，我只是用一个AI工具，就会威胁国家安全了吗？这是不是有点危言耸听？AI工具的不当使用，会带来哪些风险？

很多风险并不只是使用不当带来的，而是与技术本身的复杂性、具体使用方式，以及相关管理和制度是否完善等多方面因素共同作用的结果。

AI工具泄露敏感数据

在日常工作中，大家可能经常会用AI来写材料、做分析，处理一些文件。在这个过程中，系统往往会记录和存储我们输入的信息。如果不加区分地输入一些内部资料、敏感数据，甚至涉密内容，就有可能在不经意间形成数据泄露风险。一旦这些信息被境外不法机构获取利用，就可能对国家安全造成隐患。

AI生成传播虚假信息

另外，人工智能可以快速生成大量高度逼真的文字、图片和音视频内容。这类技术在提升效率的同时，也降低了虚假信息的生成门槛。如果被不法分子利用，就可能制造谣言、误导公众，影响社会稳定和国家形象。

智能设备遭受网络攻击

现在很多智能设备已经广泛应用于家庭和社会生活中，比如智能家居、智能网联汽车等。一旦系统存在漏洞，或者权限管理不到位，被黑客获取控制权，就可能通过监听、定位等方式，收集通话、行程以及周边环境信息，从而对个人隐私、财产安全，乃至更大范围的信息安全造成影响。

AI钓鱼攻击更加隐蔽复杂

还有一种比较隐蔽的风险，是人工智能正在让一些网络攻击变得更加精准、更加难以识别。比如，在网络钓鱼攻击中，过去往往是群发的模板信息，比较容易识别；但现在借助AI技术，可以根据个人信息定制内容，甚至模仿熟人语气发送消息，让人更容易上当。

个性化推荐暗藏信息陷阱

算法推荐系统会根据我们的浏览习惯不断推送类似信息，如果被恶意利用，可能会让人长期接触到片面的甚至错误的信息，从而形成误导，严重的还可能演变为舆论操控和认知干预。

人工智能的迅速发展，给网络安全带来了新挑战，也对维护国家安全提出了新要求。有哪些法律法规为当前网络新形势下的国家安全提供保障？

网络安全既是国家安全的重要组成部分，也体现了“安全与发展并重”的国家安全治理逻辑。

近年来，我国加快推进网络安全领域顶层设计，颁布实施《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律法规，《国家网络空间安全战略》等政策文件，网络安全政策法规体系的“四梁八柱”愈加稳固。

新修订的《中华人民共和国网络安全法》首次将人工智能写入其中，已于今年1月1日正式施行，这也是法律法规对网络安全新形势的主动回应。

此外，新增党对网络安全工作的领导和总体国家安全观的指导地位；新增条款鼓励技术创新，同时构建风险监测与伦理规范框架；系统地调整了罚则体系，深化了网络运营者的主体责任；扩大了对境外危害我国网络安全行为的追责范围。

我们在拥抱人工智能时代新变化的同时，该如何防范网络风险，维护国家安全呢？

在享受人工智能给我们的工作生活带来快捷便利的同时，我们也要提高警惕、绷紧防范之弦，也给大家送上几个安全使用AI小贴士：

◆涉密敏感信息不上网。切勿将国家秘密、商业秘密或个人隐私等敏感信息输入AI工具，不用网络传播涉密内容。

◆转发网络信息要谨慎。谨慎对待AI生成的视听内容，在转发网络信息前先多方验证信息可靠性，不做谣言传播者。

◆使用智能设备要注意。近期，有涉密人员因佩戴带有轨迹记录功能的智能穿戴设备，导致泄密。因此，也特别提醒涉密单位、涉密人员谨慎佩戴带有轨迹记录功能的智能设备。

◆接收可疑邮件要核实。使用邮件过滤器和防病毒软件，拦截可疑邮件。重要行业从业者要特别提高警惕，防止被针对性攻击。

主办单位：中共四川省委全面依法治省委员会办公室、四川省司法厅