男子AI写色情小说引司法重拳：10个月刑期+5000罚金+全额追缴

近日，湖北省大冶市人民法院审理首例利用人工智能（AI）技术撰写色情小说并牟利案件，被告人柯某因犯制作、贩卖、传播淫秽物品牟利罪被判处有期徒刑十个月，并处罚金人民币五千元、退缴违法所得。

公诉机关指控，2022年11月至2023年3月期间，被告人柯某（大专文化，网文作者）以牟利为目的，利用AI程序撰写色情小说，并使用翻墙软件在境外黄色网站发布，同时在另一网站售卖。短短五个月时间，柯某共计发布色情小说数十篇，获利2万余元。经鉴定，送检的7篇小说均为淫秽物品。

案发后，柯某家属代为退赃2万余元。

法院经审理认为，被告人柯某以牟利为目的，利用某AI文本生成工具，制作、贩卖、传播淫秽物品，非法获利2万余元，其行为严重违反了我国相关法律法规，对社会风气造成不良影响，已构成制作、贩卖、传播淫秽物品牟利罪，公诉机关指控罪名成立。被告人柯某到案后能如实供述其犯罪事实、自愿认罪认罚、退缴违法所得，可依法从轻处罚、从宽处理。根据本案犯罪事实、量刑情节、公诉机关量刑建议，法院遂作出上述判决。

承办法官指出，随着AI技术的快速发展，AI在文学创作、艺术设计等领域的应用日益广泛，但技术应用必须遵守法律法规和公序良俗。利用AI生成、贩卖传播淫秽内容不仅触犯法律，还会对青少年身心健康造成危害，社会危害性较大。依据《中华人民共和国刑法》第三百六十三条：以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。

此案的判决为AI技术的合规使用敲响警钟。法官呼吁，相关部门应加强对AI技术应用的监管，明确技术使用的法律边界，同时鼓励企业和开发者将AI技术用于合法、健康的领域，推动技术创新与社会责任的平衡。

AI技术被用于犯罪已不是新鲜事。今年1月，中国科学院院刊发表的《人工智能犯罪与我国对策研究》指出，AI暴露出的算法偏见、数据泄露、虚假内容生成、不当利用等安全风险，极易引发各类新型犯罪。公安部数据显示，2022年到2024年初，我国共发生“AI换脸”类诈骗案近百起，累计给人民群众造成经济损失高达2亿元。

面对层出不穷的AI犯罪，有学者建议在刑法中增设“滥用人工智能罪”“人工智能事故罪”等具体罪名。

广东省人工智能法律应用重点实验室主任、华南师范大学法学院教授王燕玲认为，我国现行刑法已能覆盖多数AI滥用行为，立法供给整体有效。人工智能技术尚处于“摸着石头过河”的发展阶段，用过于严厉的刑事手段进行管控，过度强调平台责任，可能会阻碍创新与发展。

（齐鲁晚报·齐鲁壹点客户端编辑 张宝帆 综合“大冶市人民法院”公众号、南方日报）