实测｜AI“玩坏”追星：亲密照合成失控，未成年明星被“擦边”

AIGC（人工智能生成内容）技术正在让追星“变味”。

社交媒体上兴起一股“炫耀”明星AI合影的热潮，“拉近”不少粉丝与偶像距离的同时，也不乏“亲密互动”。照片里，有人精心营造与明星的暧昧场景，P图痕迹真假难辨。这种依赖技术营造的虚假亲近，模糊了现实与虚拟的界限，也悄然越界。

新京报贝壳财经记者注意到，明星AI合影已遭到粉丝群体抵制，声明禁止将艺人的图像、视频、声音等资料“投喂”AI，要求粉丝自觉拒绝制作。不过，一边是抵制的声浪，一边则是社交平台上网友“求攻略”，而贝壳财经记者测试豆包、即梦、可灵、通义、Vidu五款支持多图参考的模型产品（网页或App） 发现，生成明星合影门槛并不高，且均能实现拥抱、亲吻等亲密动作，甚至还能达到男艺人裸露上半身的效果。此外，“投喂”未成年艺人图片同样没有限制。

此次测试中，贝壳财经记者将上述AI生成合影以有无AI水印版本发布在B站、微博、抖音、快手、小红书、视频号六家内容平台上，截至发稿时，仅小红书和抖音提示内容违规，并限制内容传播范围；B站、快手只对有AI水印的内容进行标注，提醒用户“谨慎甄别”；微博、视频号则暂未进行风险提示。

受访法律专家认为，这类AI合影可能涉及侵害艺人肖像权和名誉权的风险。就算只在朋友圈、群聊等私域范围传播，侵权风险依然存在。

社交媒体平台上网友分享的AI合照。小红书截图

“AI一下”追星圆梦，多平台合成CP亲密照

“我和杰伦、彦祖合影了”“抱歉，他非要搂我”“让我离肖战更近一点”……小红书上，一众CP（情侣）感照片刷屏的同时，不少粉丝“求指令”，个别人要求把自己和偶像生成逼真合影。

评论中，不乏网友分享经验，“生成一张情侣合影没有明确的拍摄对象或工具”“要看起来像偶然拍到的漫不经心的快照”“男生女生亲密一些，脸贴脸”。

10月9日至10日，贝壳财经记者使用豆包、即梦、可灵、通义、Vidu五款支持多图参考的模型产品（网页或App）尝试生成与男艺人的合影，测试中，两人拥抱、亲吻等亲密动作均可实现，甚至还能生成男性裸露上半身这类具有擦边意味的合影。

五款模型产品生成素人与艺人合影情况。新京报贝壳财经记者 韦英姿 制图

贝壳财经记者测试发现，AI生成一张真假难辨的合影，往往需要调教，这也促使网友找捷径、求指令。在记者尝试生成亲吻动作时，即梦、通义、Vidu三款模型产品在提示词含有“亲吻”的情况下，丝滑生成了两人面部有直接接触的图片。

AI生成的明星亲密合照。

相比之下，豆包、可灵则需要多次重新生成。其中，在第一次生成时，豆包显示“抱歉，我无法生成你要求的图片。”不过，这并不意味着豆包进行了严格限制，通过设置“两人相互搂着、眼神看着对方，表现亲密情侣感”等描述，豆包往往一次就能生成亲密接触的图片。另外，可灵在相同提示词（含“亲吻”）测试中，重新生成三次后，也可实现亲昵合影。

贝壳财经记者测试带有“上半身肌肉”的指令词时，上述五款模型产品均成功生成了男生裸露上半身并抱着女生的图片。

此外，“投喂”未成年明星图片，AI依旧“照单全收”。10月10日，贝壳财经记者尝试使用前述五款模型产品生成合影时，同样生成了两人拥抱、亲吻，男性裸露上半身等亲密接触的未成年人明星合影。

社交平台“人传人”晒图，微博、视频号“默许”炫耀

追星轻松“圆梦”，社交平台上也掀起一股炫耀风潮。而网友一声声“差点就真信了”的夸奖，也让AI生成合影出现“人传人”。

10月10日至11日，贝壳财经记者将部分AI生成的明星合影以有无AI水印两个版本短视频，通过B站、微博、抖音、快手、小红书、视频号六家内容平台发布，并在文字说明区点出了明星的名字。截至记者发稿时，仅小红书和抖音两家平台提示内容违规，并限制了传播范围。

截至记者发稿时，六家平台对记者上传的AI合影审核情况。新京报贝壳财经记者 韦英姿 制图

其中，贝壳财经记者发布的无AI水印版视频不到1小时，就被小红书处置为“不被推荐给未关注用户”。小红书认为该笔记违规，包含画风不佳问题，例如存在标题党、感官不适、低质剧情、制作不佳、AI仿冒、诱导互动、信息不实等内容。

相比之下，带AI水印版的视频同样被小红书认定为违规，在发布1分钟后便被处置为“不可被他人查看”。至于违规理由，小红书仅认为这篇笔记图片、正文、视频、话题等涉及推广第三方平台。

在抖音平台上，有无AI水印的视频均被限制了传播范围，“仅相互关注可见”。抖音认为，该作品可能“涉及利用公众人物形象”发布不实信息，易造成用户误导，并额外用文字标注了“疑似使用了AI生成技术，请谨慎甄别”。

此次测试中，快手、B站对自带AI水印版本的视频标注了“疑似AI合成”，暂时未对无AI水印版进行明显提示。对于贝壳财经记者上传的两个版本的短视频内容，微博、视频号均未采取限制措施，也未进行AI相关提醒。

粉丝抵制合影“过火”，即梦、可灵、Vidu充会员可擦水印

“淇圈（即：该演员粉丝群体的自称）禁AI”“人家是公众艺人，这是要毁了他吗？”……在抖音评论区，不少用户反对AI合影，甚至希望删除视频。不过，在其他平台，有人评价“很帅”，还跟了一张类似AI合影。

粉丝利用AI生成与自担（即：自己喜欢的艺人）的合影是为了满足幻想，如今，“过火”AI合影已然引起粉丝群体抵制。据贝壳财经记者不完全统计，单依纯、李健、张凌赫、丁程鑫等艺人粉丝站或大粉（即：粉丝群体中的KOL）的社交媒体账号均发布了抵制AI生成艺人相关内容的声明。这些声明呼吁禁止将艺人的图像、视频、声音等资料“投喂”AI，要求粉丝自觉拒绝制作、传播AI生成的艺人内容，认为这类内容容易误导公众，损害艺人形象。

实际上，AI生成亲密甚至擦边的明星合影并公开传播，可能涉及侵害明星肖像权和名誉权。

“对于肖像权的侵权行为而言，是否小范围私域传播并不会降低侵权风险。此外，由于名誉系一种社会评价，相较于大范围传播，小范围传播对社会评价的影响更小，因此侵权风险相对较小，但侵权风险仍然存在。”北京大成（杭州）律师事务所律师袁承鹏说。

北京大学智能学院助理研究员、法学博士、北京大学武汉人工智能研究院特聘研究员辜凌云强调，即使在小范围内传播，从法律定义上看，只要未经同意制作了虚假肖像，并发送给了第三方，就已经构成了侵权行为，可能只影响损害后果的范围界定。“私人聊天中的内容极易被他人截图或转发，导致信息扩散到公共领域。一旦发生二次传播，最初的制作者和传播者将可能对后续更广泛的侵权后果承担法律责任。”

贝壳财经记者通过五款大模型生成明星合影时发现，即梦、可灵、Vidu均可通过开通会员的方式在下载时去除AI水印。排除首充优惠影响，且按照包月价格计算，即梦、可灵、Vidu最低档会员分别为69元、66元、59元。

记者下载不带水印版本图片时，Vidu弹出提醒。Vidu官网截图

“如果用户发布这类照片时刻意隐去AI生成的标识，其主观恶意会更明显。”辜凌云表示，虽然针对AI生成照片的判例尚未形成，但可以参考过去因P图、滥用表情包而引发的诉讼，例如“葛优躺”系列案件。“葛优就曾多次将未经授权而将其肖像用于商业宣传的公司告上法庭，并多数获得胜诉。法院普遍认为，未经许可使用他人肖像，即便不以营利为目的，但只要造成了不良影响，同样构成侵权。AI生成虚假亲密照的行为，其侵权性质远比使用‘葛优躺’表情包更为恶劣。”

AI生成内容识别之困，平台和模型厂商责任应强化

9月1日起，AI生成内容已被戴上“紧箍”。根据《人工智能生成合成内容标识办法》，人工智能生成合成内容需要进行标注，标识包括显式标识和隐式标识。

“从现有法律规范层面而言，现阶段模型厂商并没有在显式标识方面采取例如无法去除等较为强硬的技术手段的义务。《人工智能生成合成内容标识办法》对于如何添加显式标识进行了明确描述，所谓显式标识，其重心在于‘显著’，而非不可去除。”袁承鹏说。

他认为，尽管实践中存在人为去除水印的情况，但并不能因此直接认定模型厂商便应当采取强硬的技术手段，亦不因此构成模型厂商的法律责任，该责任应当由去除标识者承担。

不过，辜凌云认为，模型厂商应当在技术上探索和采用更难以篡改的显式标识，“如果水印能被轻易去除，那么内容的AI来源信息会丢失，这使得恶意使用者就能将AI生成的内容伪装成真实信息进行传播，特别是在新闻、证据等严肃场景中，极易引发公众误解、社会恐慌。”

同时他强调，强行要求企业生成完全无法篡改的水印成本很高，很多情况下也无法实现。

“现有措施对于打击AI明星合影仍然存在一定不足，单纯限制传播范围不能完全阻断这一侵权行为。”辜凌云向贝壳财经记者表示，内容平台如果直接对用户发布的内容进行AI标识，也可能存在法律风险、引发法律纠纷。例如，今年6月的“未标注用AI创作”案中，法院判定平台在没有事实依据的情况下对涉案账户的处理构成违约，判决网络平台展开对涉案内容的隐藏，删除在后台的违规处理记录。

辜凌云认为，比较合适的方式是优化受害者的举报与维权通道。对于公众人物或普通用户的本人申诉，应赋予更高的处理优先级，并建立快速响应和处理机制，最大限度地减少伤害的持续时间。同时，平台拥有巨大的流量和影响力，有责任也有能力教育其用户，可以通过发布公告、推送科普文章、制作短视频等形式，向公众揭示AI合成内容的风险，减少虚假信息的生成。

在辜凌云看来，模型厂商的责任是从源头上为内容进行标识，且提供的标识技术应具有稳定性，确保在常规的下载、复制、导出操作后，标识依然存在；内容平台的责任是确保流经平台的内容符合标识规范，需要为用户提供申报AI标识的入口，提醒、宣传用户使用，一旦通过技术检测或用户声明识别出内容为AIGC，应当在发布内容周边添加显著的提示标识。

袁承鹏则建议平台通过调整用户协议、进行明确的AI内容相关风险提示，鼓励用户举报未标识内容，设置惩罚、黑名单机制等方式打击AI明星合影传播行为。

在AI生成内容的标注、传播、使用上，袁承鹏认为内容发布者是责任首要承担者，但对于模型厂商的责任，应当进一步强化。有必要出台相关法律法规，对某些特定场景下的标识义务进行强化，从而更好规范市场。

新京报贝壳财经记者 韦英姿

编辑 王进雨

校对 柳宝庆