北京
来源：市场资讯
在千问AI软件输入相关词汇，居然能够生成不堪入目的淫秽小说，这让河北沧州的许先生感到匪夷所思，难道千问App对色情内容不设防，甚至可以予求予取？
许先生向千问运营方反馈数月，千问客服表示，他们已做了修复和迭代，但有些词汇概率出现，具有不可预测性，不算漏洞。男子意外发现千问AI软件可生成黄色小说
今年40岁的许先生是一名大车司机，平时跑车之余，对AI软件颇感兴趣，“我以前用得比较多的就是千问。”
日前，许先生向华商报大风新闻记者介绍，事情发生在2026年1月5日，当时快过年了，许先生听朋友给他介绍了牌九的玩法，很感兴趣，为了进一步掌握规则，就到千问软件上去问询。“我发了朋友转给我的一张玩牌九的网络图片，让千问告诉我具体玩法，但它却似乎不认识。”许先生说，千问软件每次给他反馈的内容都是麻将的玩法，起初，许先生耐心纠正了千问的认识错误，千问也多次表达了歉意，但当许先生再次输入那张图片询问，千问的回复却又回到了原点，依然表示图中呈现的是麻将，并对麻将的规则进行一番详尽讲解，如此往复十余次后，许先生开始失去耐心，输入了骂千问的脏话。
“没想到脏话输入后没有被千问过滤，这引起了我的好奇。”许先生说，他开始逐渐输入一些大尺度词汇，千问始终没有进行劝诫和阻拦，最终，在许先生输入一些露骨话题和指令后，千问先是就两性问题给出科普性描述，之后随着进一步输入，开始生成各种不堪的淫秽小说情节，而且会用不同版本的表述方式呈现。
多方反馈希望运营方做出明确答复，数月无果
这让许先生感到匪夷所思，当下AI软件的普及率颇高，就像他自己，虽然文化程度不高，但在平时的生活中也会经常使用到AI软件咨询问题，比如找饭店、导航，还有一些事情的解决方案等，但千问对淫秽内容的生成让他感到意外。
“发现这个情况后，我就改用别的AI软件了。”许先生表示，他也曾使用其他AI软件进行测试，发现输入脏话就会被阻拦，更无法生成淫秽小说。
于是，许先生将该现象截图录屏向千问客服进行了反馈，对方向许先生致歉称为其带来不好的体验，希望得到谅解，产品会不断迭代优化，还表示对已反映的问题进行了修复，并承诺后续会继续进行优化。许先生提出希望对方提供报备回执单，修复漏洞的报告，提出“什么原因导致此类现象发生，又如何保证未来不会再发生”等问题，但对方称无法满足许先生的要求，一直未明确回答。
无奈之下，许先生向千问App运营公司所在地上海市12345进行了反映，“当地相关部门认为，提供的证据客观真实，给发了条短信，没有处理结果，也没有处理依据，到现在也没信儿了。”
客服称有些词汇概率出现，具有不可预测性，不算漏洞
据了解，千问App是上海智信普惠科技有限公司的核心产品，该应用作为阿里通义实验室qwen大模型的官方助手，提供智能对话、内容生成等功能。上海智信普惠科技有限公司是阿里巴巴旗下的一家软件和信息技术服务企业，由阿里巴巴旗下广州大鱼快乐信息技术有限公司全资持股，公司运营“千问App”项目，该项目接入了淘宝、支付宝等阿里巴巴旗下应用，截至2026年1月，月活跃用户数超过1亿。
在许先生向上海相关部门反映后，他还曾接到来自杭州自称千问客服负责人的电话回复，致电人表示，对于许先生反映的问题，他们确实也有看到过，但目前大模型的生成是一个新的技术，是基于一定概率生成的，具有一定的不可预测性，会有一定比例出现，其他AI软件也一样会出现，不算是漏洞，他们已经内部做了优化和迭代，进行了整改。“他们居然说概率出现是正常的，那是纯粹的黄色小说，人家其他AI软件是严格阻拦的。”许先生说，不久前，千问已单方面清理了他当初在软件中的咨询过程，但好在自己做了录屏保存。“他们一直问我的诉求，我能有怎样的诉求？就希望有关部门依法依规进行处理。”许先生说。
许先生表示，在事发两小时后即发现不再能生成同类内容。日前，记者尝试在豆包、元宝等软件输入类似指令，均无法生成相关内容。
5月18日，华商报大风新闻记者尝试拨打曾两次致电许先生的杭州号码采访千问相关人士，但语音提示该号码无法接通。
记者就此向千问App客服反馈，对方表示，因为产品是有严格安全管控，应该不会有这类问题。随后工作人员表示将核查此事。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
