严防“文生图”乱象，上海纳管AI应用

随着人工智能技术的飞速发展，其在为生活带来便利的同时，也被不法分子盯上，成为制造网络谣言、传播有害信息的“新武器”。上海警方敏锐洞察到这一新趋势，迅速行动，将涉人工智能类应用纳入监管范围，不间断、动态化开展远程安全检查。日前，记者从市公安局新闻发布会上获悉，今年以来，上海警方共侦破涉网案件8000余起。

今年7月，警方在工作检查中发现，本市某网站上存在虚假、暴力血腥等不良信息。经调查，该网站提供“文生图” AI大模型，用户只需要输入一些提示词，AI大模型就可以生成相应的图片。但公司对于生成出的图片监管不够规范，造成了部分由AI生成的图片缺乏审核，成为了虚假、暴力血腥等不良信息的载体。对此，警方依法对该网站予以行政处罚并责令改正。今年以来上海警方深入开展排查和调研新技术新应用，及时纳管涉人工智能类应用。同时，不间断、动态化开展远程安全检查。

据了解，今年以来，上海公安机关重拳严打网络黑灰产、网络黑客、网络谣言等各类涉网违法犯罪，共侦破涉网案件8000余起。从已侦涉网案件看，网络黑灰产、网络黑客、侵犯公民个人信息和网络谣言四类案件比较突出。警方发现，借助互联网新技术、新应用，网络黑客攻击犯罪不断升级，攻击目标也从单纯破坏网络信息系统，逐步转变为盗取网络资产、侵犯公民合法权益、抢占公共资源。上海警方紧盯入侵植入、非法篡改网站，利用技术手段破坏计算机系统窃取公民信息等作案手法，深挖彻查编写黑客程序、兜售叫卖“肉鸡”、发起网络攻击等犯罪环节，今年以来侦破黑客类犯罪案件同比上升35%。

同时，上海警方重拳打击利用技术手段非法实施流量劫持、非法获取网民账号、利用网络非法引流推广等犯罪行为，摧毁犯罪团伙、斩断利益链条。今年以来，共侦破网络黑灰产案件2500余起，查处非法APP、网站300余个，侦破网络谣言案件1100余起。

为防止未成年人参与打赏主播等行为，上海警方指导本市20余家网络直播平台开设“青少年模式”，禁止平台为未成年人提供现金充值、“礼物”购买、在线支付等各类打赏服务。同时，指导平台建立打赏投诉举报渠道，在接到未成年人使用他人账号打赏等投诉举报后，立即停止主播账号提现功能。

值得一提的是，本市还为青少年织密网络安全的“防护网”。为进一步加强网络游戏账号实名认证管理，上海警方指导本市重点网络游戏公司打造“成长关爱平台”，除落实实名认证外，还增加了人工巡查、人脸语音识别、用户举报等多种方式，提高身份认证的准确性。用户一经核验为未成年人，立即转为“青少年模式”，并对时段、时长、权限、消费等功能加以限制，引导未成年人适度游戏。