北京
分享至
大模型安全漏洞频现，警示技术发展需与安全同行。针对一个已经成熟的模型，如果通过几千个账号给它灌输数百万次相同的错误答案，后面再有人提问就可能得到错误结果。数据“投毒”、间接提示注入等攻击手段，暴露出模型易被恶意操控的风险。从输出错误答案到窃取敏感数据，再到底层开源漏洞的连锁效应，大模型安全已非单纯技术问题，更是关乎公共安全的系统性挑战。产业界须将安全前置，在模型研发、数据训练及应用部署中筑牢防线。唯有技术与安全双轮驱动，方能避免人工智能在狂奔中“失速”。（图文：李冬阳）
回顾：往期图说天下
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
