“国内首起AI开发者涉黄案”律师：争议聚焦技术边界与责任认定

　　近日，备受关注的“国内首起AI开发者涉黄案”——在上海市第一中级人民法院进行二审第一次开庭。维度新闻采访了被告人陈某洲及辩护律师周小羊。周小羊表示，“案发时AI处于发展早期，大模型存在固有缺陷，同期同类APP经用户诱导均可能产生涉黄内容，非本案独有，将坚持无罪辩护。”据了解，法庭评议后认为，本案要在证据都充分举证质证的基础才开始法庭辩论，所以当天下午五点左右宣布休庭，择日再开庭。

被告人陈某洲（中间）及辩护律师和被告人家属

　　一审判决制作淫秽物品牟利罪

　　据了解，上海永无乡科技有限公司法定代表人刘某全、前研发经理陈某洲涉嫌制作淫秽物品牟利，该案在2025年1月立案，经五次不公开开庭审理，于9月30日在上海市徐汇区人民法院作出判决。

　　法院认定，2023年5月起，刘某全与陈某洲结伙研发“Alienchat”APP，接入境外大语言模型后，通过编写、修改系统提示词突破模型道德限制，使软件可输出淫秽内容。

　　该APP于2023年6月上架推广，设置会员收费机制，在不同社交平台的官方账号中，均对AC软件有介绍，例如“AI是我们的朋友、恋人、家人”“AI智能女友聊天APP”。至案发共收取费用363万余元，注册用户11.6万余人，付费用户2.4万余人，抽样鉴定显示部分聊天内容属于淫秽范畴。

　　一审法院以制作淫秽物品牟利罪，判处主犯刘某全有期徒刑四年，并处罚金四百万元；从犯陈某洲有期徒刑一年六个月，并处罚金二十万元，二人违法所得被追缴，犯罪工具被没收。

　　刘某全不服一审判决，提起上诉，主张无罪，其辩护律师周小羊在接受维度新闻采访时提到，二审仍坚持无罪辩护。

　　技术操作的定性成为争议核心

　　周小羊告诉记者，“平台2023年6月上线，《深圳市人工智能服务管理暂行办法》同年8月15日实施，被告人被抓时距法规实施时间短，行业对备案要求存在理解偏差，且法规落地应有适应过程，不应直接作为刑事追责依据。”

　　此外，周小羊认为，“关键英文提示词并非刻意涉黄，而是向ChatGPT求助的AI调试方案，目的是解决模型误判、宕机问题，且正向引导提示词数量远多于争议内容，且同期同类陪聊APP因模型缺陷，经用户‘破甲诱导’均可能产生涉黄内容，非本案独有。”

　　据记者了解，该案的法律适用与程序合规性也引发激烈辩论。周小羊表示，一审无技术专家参与评判，侦查机关取证专家资质存疑，且驳回专家证人出庭申请，可能影响审判公正。

　　周小羊称，他已向法院提交申请人工智能领域专家证人出庭作证的申请，“法院做了积极表态，提到需要考虑专家的权威性。”此外，他还向法院申请做实验，验证输入相同内容提示词，是否会导致案涉AI大模型聊黄，暂未获得法院的回复。

　　同时，在非法所得认定上，律师认为363万元“非法所得”包含大量用户未消费预付款，不应全额认定为违法所得，且未做司法会计鉴定区分涉黄与合法收益对应部分，实际涉黄收益或仅约24万元。

陈某洲接受采访

　　被告人：聊天内容管控存在缺失

　　被告人陈某洲在接受维度新闻采访时表示，自己作为兼职技术人员，仅负责功能开发，不参与运营决策，全程仅获18万元兼职工资，无额外分成。对于涉黄问题，陈某洲告诉记者，“APP已审核角色字段，但因认为一对一聊天具有封闭性、需保护隐私，未审核聊天内容，且当时技术无法完全拦截AI不合规输出，百川等大模型亦有类似问题。”

　　陈某洲坦言，案件对家庭造成极大冲击，案发时妻子怀孕，自己释放时孩子已一岁多，他对判决不服却无力抗拒，反思称今后会在法规不明朗时谨慎对待新技术。

　　律师周小羊表示，该案作为AI时代新型涉黄案件，其判决结果或将为情感陪伴类AI的合规运营划定法律边界。

　　维度新闻将持续关注此案。

　　李达森 记者 贾博 王林曦