北京
分享至
有关报告，手机端侧人工智能（MoAI）的安全边界正在被重新定义。一份最新的系统化知识图谱（SoK）研究首次对这一问题进行了全景观梳理，将分散的攻击手段与防御策略整合了起来。
研究明确划定了手机AI面临的三大安全支柱。在这三大基础之上，研究者整理出目前业界关注的五类攻击方式。这些攻击并非停留在实验室猜想，它们正对手机上的模型调用、传感器数据和个人隐私构成实质威胁。
面对挑战，研究同步列举了当前可行的四种防御方案。不过，该领域仍有九大开放性问题悬而未决，涉及硬件性能、算法健壮性和跨应用协作等多个层面，短期内还看不到彻底解决的可能。
这项工作给设备上的AI推理安全提供了一张攻防全景图。相关梳理有助于开发者提前识别风险点，而不是等模型在亿级设备上频繁遭到对抗样本或提示注入后才开始修补。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
