国安部：AI工具可能泄露个人信息，成为境外间谍情报机关实施拉拢策反、渗透破坏活动的指引

蓝字，设为星标，精彩内容不错过

今天，“国家安全部”公众号发文提醒警惕AI助手的“阴暗面”！

AI技术中的“深度伪造（Deepfake）”能力是“深度学习”与“伪造”的结合，该技术用于影视、游戏、广告等行业，可创作出更多逼真、有趣的虚拟角色和场景，翻新娱乐体验。然而，一旦被滥用或恶意使用，将给个人合法权益、社会稳定和国家安全带来诸多安全风险和挑战。

国家安全机关工作发现，某境外反华敌对势力通过深度伪造技术生成虚假视频，企图向境内传播，误导舆论、制造恐慌，对我国家安全构成威胁。

AI的学习和决策过程依赖于大量的数据，决定了AI工具可能收集并存储用户输入的信息。据公开报道，因开源库发生故障，某境外AI模型的部分用户可以看到其他活跃用户聊天记录中的标题甚至是名字、支付地址等隐私信息，造成个人信息泄露。

如果不注意防范，相关人员信息数据可能成为境外间谍情报机关实施拉拢策反、渗透破坏活动的指引，造成国家安全风险隐患。

来源: “国家安全部”公众号 版权归原作者所有

小编:路路通 审 核:蔡铖 监制 :晨曦

关注 民生服务

关注新闻热点