广东
近年来，人工智能（AI）技术蓬勃发展，尤其是最近以DeepSeek为代表的大模型问世，凭借其强大的推理能力和便捷的操作方式，迅速成为AI领域的“顶流”。
2月12日，2025首届AI引领数字安全新浪潮专题论坛会议成功召开。与会专家围绕AI技术的快速发展对数字安全带来的挑战与机遇展开深入探讨，提出“以AI管AI”的理念，推动人工智能与网络安全技术的深度融合，为经济社会发展和国家安全提供有力保障。
以AI管AI
中国网络安全协会专家李彬在会上指出，新技术的出现带来了全新的生态环境和产业格局，但相应的配套管理技术措施也需要及时跟上。随着AI技术的广泛应用，数据安全、算法安全、隐私保护等问题日益凸显，传统的安全防护手段已难以应对复杂的数字安全挑战。
国雄资本有限公司董事长姚尚坤表示，人工智能的飞速发展对数字安全带来了全新的机遇与挑战。他指出，人工智能正从传统模式向生成式跨越，AIGC（生成式人工智能）不断取得突破，多模态大模型快速发展。然而，AI技术的广泛应用也伴随着数据泄露、深度伪造等风险，人工智能安全保障已成为AI可靠可控应用的重要基础。
针对AI技术带来的安全挑战，与会专家提出“以AI管AI”的理念，即利用人工智能技术来管理和应对AI自身可能引发的安全问题。姚尚坤强调，规避AIGC风险不能单纯依赖智能算法，而是需要将人类的创造能力与AI的生成能力有效结合。他建议，通过AIGC合成内容鉴别技术应对AI的恶意应用，利用大模型纠偏提升AI的安全能力，并借助生成式模型水印技术保护AI赋能的系统。
北京邮电大学灾备技术国家工程研究中心主任李凤华认为，随着人工智能的快递发展，数据化成为富矿，数据在带来便利的同时，个人信息泄露、非法交易和滥用等问题如影随形。对此，必须采取全方位、多层次的措施予以防范，应完善法律法规，加强企业自律，重视并保护弱势群体的利益。
“我们在拥抱AI的同时，也不能不严防AI可能带来的数据泄露、深度伪造等风险。”姚尚坤表示，人工智能创立之初即是模拟、延伸和扩展人类智能的一门技术学科。相比于过往的AI技术，大模型在理解指令、思维链能力和快速学习能力等维度得到了显著增强，这为数字安全领域提供了新的解决方案。
推动AI技术普惠，但也伴生安全问题
企业自律是防范数据滥用的关键环节。姚尚坤认为，企业作为数据的主要收集者和使用者，应当树立正确的数据安全观，建立健全数据安全管理体系，加强内部管理，规范数据的使用流程。同时，积极承担社会责任，保护用户的数据权益，为用户提供安全可靠的服务。行业自律组织也要发挥引导和监督作用，制定行业规范和标准，加强行业内的交流与合作，共同推动行业的健康发展。
姚尚坤特别提到，DeepSeek等AI大模型的出现，将AI从“科技贵族”手中解放出来，赋予普通企业和个人参与AI竞争的机会。这种变革让更多创新者和中小企业能够在AI战场上争得一席之地，推动整个行业的多元化发展。然而，随着AI技术的普及，数据安全保护需求也将大幅增加。
“DeepSeek的普及不仅推动了AI技术的普惠化，也为数字安全领域带来了新的挑战和机遇。”姚尚坤表示，未来需要进一步加强AI技术的安全能力建设，确保AI在赋能经济社会发展的同时，不会成为安全风险的源头。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
