全国政协委员、安天科技集团董事长肖新光指出,当前犯罪分子利用人工智能深度伪造技术实施敲诈勒索已形成高度流程化作业体系,需构建更强有力的治理体系应对这类侵权侵害行为。
2025年,肖新光的两位同事在参与一档电视台节目采访后,同时收到换脸敲诈信息。经追溯发现,诈骗团伙的作案模式已形成固定流程:跟进各类新闻节目采集人员信息,获取联系方式后伪造相关内容并发送敲诈信息。
肖新光表示,当前AI技术仅需一张照片、一小段语音就能生成足以乱真的视频,通过换脸、声音克隆等方式假冒公众人物发布不实言论、牟利甚至违法犯罪的事件时有发生。公众人物拥有大量公开的音视频素材,极易被犯罪分子滥用成为深度伪造的数据源。这类侵权侵害行为,已非个人安全意识和习惯能够应对。
现实中,多数侵权仿冒行为需由被侵害自然人向平台投诉主张权益,但此类主张往往仅针对具体侵害信息,无法向平台提出全面保护自身肖像权和隐私的整体诉求,平台拥有较大裁量权,导致个人维权成本较高,不少侵权案例因被假冒者不知情而不了了之。
肖新光建议,相关立法、执法和主管部门需将AI深伪相关问题从技术风险视角与平台自治逻辑,提升至公共安全视角,建立更系统的治理能力和技术体系。同时可依托现有成熟立法,通过司法解释和案例,对借助人工智能辅助实施违法犯罪的行为明确加重处罚导向。
市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:观察君
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.