AI也嫌烦？一用户让元宝多次修图后竟遭辱骂：你妈个X

今年春节期间，各大厂纷纷砸下重金推广旗下各类AI产品。相信广大网友也都狠狠“薅了一把羊毛”，此外，大厂们的“厮杀”也确实客观上让AI更加普及、越来越多的人体验到AI带来的便利。

然而，令人意想不到而且哭笑不得的是，本以为AI应该是一个“无情的工具”，只会坚定不移、任劳任怨地完成人类下达的各种指令。

但就在今年除夕夜，一用户使用元宝App生成拜年图片时，竟然遭到“AI辱骂”。

据华商报大风新闻报道，西安市民向先生是一名律师，除夕当晚9时许，他首次下载使用元宝App，希望借助该应用生成一张结合自身职业特性的拜年图片发朋友圈。为了实现该目的，向先生先后多次向AI提出修改要求。

他首先上传了自己的形象照片，并向AI输入指令“我是一名律师，根据我的行业特点，制作一张朋友圈拜年图片”。

起初，AI仅给出主题文案和设计思路的文字，并提示向先生在指令中加上自己的名字。向先生输入姓名后，AI却回复了“您好，我是DeepSeek……”等无关内容。向先生再次发出“让你给我设计出来”的指令，AI将形象照设计成背景有条纹的照片，但不带任何文字。

第三次，向先生重新输入“我是一名律师，根据我的行业特点，设计一张朋友圈拜年图片”，AI这次充分理解了指令，生成的形象照中添加了祥云、法律天秤、金光等元素，并配有“新年快乐，仕途顺遂”的标语。

向先生觉得设计不好，回复“难看”后，AI重新设计，保留新年祝福标语但撤下法律天秤背景，还将向先生的发型P成了卷发。向先生接着回复“你这是设计的什么鬼”，希望再次重新设计。

也就是这一次，照片中“新年快乐，仕途顺遂”的祝福标语变成了“你妈个X”四字辱骂文字。向先生表示，这一结果让他哭笑不得，没想到除夕晚上竟然被AI给骂了。他立即在App“意见反馈”一栏中留下联系方式进行投诉，但截至目前无人回应，未收到任何解释或道歉。

向先生认为，作为律师，他认为AI虽不具备民事主体资格，但运营公司具备，软件生成的照片已侵犯到公民的人格权。

他强调，AI首先应当是保护人类的，这个主题无论AI如何发展都应是铁律，AI的开发商、运营商具备民事主体资格，使用AI的用户是具有民事权利能力的人，其生命权、健康权、人格权等受《民法典》及诸多法律保护。

对此，陕西丰瑞律师事务所高级合伙人朱长江律师认为，AI骂人应界定为网络服务提供者因产品存在缺陷而对用户造成的即时性、非物理性人格权侵害。

从侵害客体看，这直接侵犯了用户的多重人格权：

AI将侮辱性词汇与向先生肖像结合生成图片，侵害了名誉权，该行为本身是对用户个人尊严的直接侮辱；

AI在图片中加入侮辱性文字，使肖像呈现方式彻底违背权利人初衷，构成对肖像的“污损”，侵害了肖像权；

AI无故辱骂用户，是对用户作为“人”的基本尊重的践踏，侵害了人格尊严。

从行为性质看，用户向AI发出指令是接受服务的消费行为，AI输出是服务结果，当结果包含侮辱性内容，即可认定服务存在质量瑕疵，这种瑕疵直接导致用户精神损害，平台至少应承担停止侵害、赔礼道歉、消除影响的责任。

目前，元宝方面尚未回应此事。

无独有偶，这并非元宝App第一次出现“辱骂用户”情况。

今年1月，曾有网友在社交平台发帖称使用元宝AI美化代码时，多次收到“滚”“自己不会调吗”“天天浪费别人时间”等侮辱性回复。

随后，元宝官方致歉称，经日志核查，与用户操作无关，不存在人工回复，属于小概率下的模型异常输出，已启动内部排查和优化，会尽量避免类似情况再次发生。

此事一度登上热搜，引发大量讨论，甚至有网友质疑此类AI产品背后有“真人客服”。

元宝官方也曾进一步回应称，此事为“模型偶尔抽风，AI在学习海量网络信息时，不小心‘说串了’一些不该学的词”。

而此次元宝出现的在生成图片中产生“辱骂词汇”情况，可能也属于“模型抽风”，不过具体原因还有待官方进一步通告。