山东
滥用人工智能（AI）的深度伪造（Deepfake）性犯罪日益猖獗，美国和欧盟（EU）正通过直接向平台追责的方式加强制裁。其结构是，法律强制规定平台的删除义务，违者将被处以数百亿韩元的罚款。而另一方面，有批评指出，韩国仍然依赖平台的自主监管。
美国于去年5月制定《深度伪造删除义务化法》（TAKE IT DOWN Act），并于今年5月正式开始施行。该法案的核心内容是，当平台收到删除未经当事人同意发布的性内容物（性剥削材料）的请求时，必须在48小时内删除原件及所有复制品。违反规定的平台企业，美国联邦贸易委员会可对其处以每件最高53,088美元的民事罚款。
欧洲议会近期也通过了一项《AI法》修正案，禁止未经同意生成或操控性图像或视频的AI系统在市场上销售。以真实人物为基础制作深度伪造视频的所谓“脱衣”应用程序和网络服务是主要的监管对象。违反规定的公司或平台运营商将被处以最高3500万欧元的行政罚款，或上一财年全球总营业额的最高7%，两者中取较高金额。
相比之下，韩国的《性暴力处罚法》、《电气通信事业法》或《信息通信网法》中，并没有明确规定平台需事先屏蔽可能被用于深度伪造犯罪的工具的相关条款。现实情况是，只能依赖事后删除已出现的深度伪造应用程序，或由政府实时屏蔽深度伪造网站。在此期间，据警察厅统计，深度伪造性犯罪举报数量从2023年的180件激增至2025年的1737件。
就连关于在传播初期迅速删除影像的事后措施标准，韩国也比美国宽松。与美国明确规定“48小时”的具体处理时限不同，韩国《电气通信事业法》仅规定，接到删除请求后需“毫不迟延地”采取措施。虽然将这一期限具体化为“24小时内”的法律修正案已于去年12月被提出，但目前仍悬而未决，搁置在国会。
高丽大学技术经营专门研究生院李成烨教授建议道：“非法深度伪造一旦制作并传播，就会造成难以挽回的损害”，“需要事先阻止制作手段的传播，同时像美国一样，制定明确设定删除义务期限的补充立法。”广播媒体通信委员会数字有害信息应对部门的相关人士表示：“仅凭现行法律，难以阻止通过AI服务制作和流通非法深度伪造内容”，“目前正在研究从AI服务提供阶段就防止此类负面功能的制度方案。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
