山东
02:05
济南广电·天下泉城客户端9月16日讯 9月15日，央视《共同关注》以《一句话“骗”过AI 警惕“提示词注入”攻击》为题，播发了由济南广播电视台记者协助采制的新闻，关注2026年国家网络安全宣传周在山东济南启动，对警惕提示词注入攻击进行了报道。
9月14日，2026年国家网络安全宣传周在山东济南启动。在活动现场的网络安全技术应用体验区，一种被称为“提示词注入”的网络攻击风险受到广泛关注。那么，什么是“提示词注入”网络攻击？有何威胁，又该如何防范呢？
网络安全专家介绍，这类“提示词注入”攻击可以通过一句话、一个文件、一张图片或一段视频“欺骗”大模型，对个人而言可能输出违法违规内容，对政企而言会造成内部文档和核心数据泄露。
网络安全专家介绍，“提示词注入”的本质，就是攻击者通过伪造虚假提示信息，让大模型误把恶意指令当作可信输入。
“‘提示词注入’就是精心构建伪造，比如仿造一个key（密钥），里面的证书可能跟正常的一样，通过非常巧妙的方式获取进入AI的权限，进去之后，拿到了权限，可以拿数据，干一些坏事，比如生成一些有护栏之外的视频，或者文字、图片。它本质上是进去拿权限，突破大模型的安全护栏，来做各种各样恶意的事情。”网络安全专家唐宁说。
网络安全专家介绍，“提示词注入”并不是单一的攻击手法，而是一整套“战术”。有的攻击者让AI“扮演”另一个角色，用新指令盖过已设定的规矩；有的攻击者把恶意指令提前藏进网页、邮件、文档里，AI一读取就中招。
网络安全专家唐洪玉表示，“提示词注入”对个人而言，会造成隐私数据的泄露、敏感信息的泄露、个人财产的损失，甚至可以被不法分子利用身份去做其他的事情；对企业而言，可能会泄露企业机密，给企业业务造成损失，经济上的损失，包括舆情方面的影响。
记者：张磊 冠龙 德勇
编辑：李雨
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
