当AI遭犯罪分子滥用，专家强调小模型风险同样不可忽视

人工智能既是新一轮科技革命与产业变革的引擎，也伴生着前所未有的风险。

11月9日上午，2025年世界互联网大会乌镇峰会举办以“建构人工智能良法善治共识”为主题的网络法治论坛。会上，英国伦敦大学法学院副院长Michael Veale（迈克尔·威尔）分享了他对防止人工智能被犯罪滥用的观察。

威尔指出，当下舆论与政策资源大多聚焦于开源大模型，却对小模型关注不足。他强调，无论参数规模大小，既可为公众创造价值，也可能被恶意挪作他用。尤其当小模型能够“在手机上运行”“在个人电脑上自主运行”时，消费者容易获取，罪犯亦易利用，风险随之扩散。

威尔坦言，开源生态具有明显双刃效应。一方面，它促进了技术共享与创新加速；另一方面，也大幅降低了滥用门槛。许多小模型可直接在终端运行，用户甚至可通过个人电脑或机器学习软件进行本地部署。但这也意味着监管难以前置，一旦罪犯“把模型卖了，用不同的方式进行使用”，相关犯罪链条便可能迅速跨境扩散。

紧接着，威尔列举了几类最突出的犯罪场景。网络诈骗是其中之一，尤其是“杀猪盘”式情感骗局。“有一些人想在网上谈恋爱，但是对方是一个爱情骗子，模仿别人的声音，伪造自己的身份。”他补充说，在柬埔寨和缅甸等东南亚部分地区，诈骗分子利用AI进行对话，使骗局更具迷惑性。同时，深度伪造与声音模仿技术也被用于身份冒充。

另一类问题让威尔尤为担忧——“现在有很多涉及儿童不雅视频或者照片，都是大模型生成的”，而现有过滤机制“很难进行检测”。他解释，由于模型开源、训练数据不透明，以及企业“不能很好地把安全融入进去”，相关模型仍可能被下载、修改并再次传播，“即使我们非常小心培训这些模型……还是会有问题会发生”，模型滥用风险难以通过单一技术措施彻底消除。

威尔强调，治理难题已从技术层延伸至法律与监管层面。不论是软件分发还是手机控制，都可能涉及法律问题。他以苹果生态为例，指出硬件厂商可以直接锁定手机，从而限制用户安装特定软件，但这种能力也可能入侵个人设备，引发平台控制权及法律边界争议。

如何平衡“开放”与“安全”成为关键。威尔表示，“欧洲有新的法律，中国也有关于反垄断的法律，这些法律都要求我们要更加开放一些”，在开放与封禁的拉锯之间，追踪恶意模型跨境使用的难度进一步增加。此外，AI滥用风险不仅存在于线上空间，也涉及网络环境以及供应链等多环节。

因此，他呼吁，必须通过法律进一步调整，推动更高水平的制度建设、跨领域协作以及更严格的多边安全措施，以限制AI技术滥用，并促使各方共同应对这一挑战。

采写：南都记者黄莉玲 樊文扬 发自乌镇