网易首页 > 网易号 > 正文 申请入驻

你能分清哪些是AI代写的“种草笔记”吗?全国首例,判了!

0
分享至

随着AI生成内容技术的发展,近期社交媒体平台上出现了大量“一键生成爆款种草笔记”的AI写作工具。这些工具以极低的成本批量炮制虚假消费体验和商品推荐,对网友的购物决策产生了严重的负面影响

With the rapid development of AI-generative content technologies, a number of AI writing tools have appeared on Chinese social media, claiming to generate viral product recommendation posts with "just one click". At a very low cost, such tools can mass-produce fake consumer experiences and product endorsements.


近日,浙江省杭州市中级人民法院披露了一起涉及某社交平台AI批量代写“种草笔记”典型案例。这也是全国首例涉及AI代写“种草笔记”(fake product endorsement posts)案件。法院判决AI代写服务提供者向某社交媒体平台赔偿 10 万元。

案情披露:法院判决被告赔偿原告经济损失

据介绍,本案原告是知名社交平台A的运营方,其平台规则明确倡导“真实体验与分享”。被告B公司与C公司共同运营一款AI写作工具,可一键生成符合平台A风格的“种草”文案、旅游攻略等内容,并诱导用户将其发布至平台A。

原告认为,被告的行为实质上是利用技术手段批量炮制虚假内容,破坏了平台A“真实分享”的内容生态根基,构成不正当竞争,故诉至法院要求被告停止侵权。

法官助理张宗滨介绍,经审理查明,被诉AI工具设有多个热门服务模块,其中直接包含了“平台A种草文案”“旅游攻略”等选项,并宣传可“生成符合平台调性的分享文案”。用户点击“一键创作”按钮,即可快速生成一篇数百字的文案。


案件焦点:是否构成不正当竞争

本案的核心争议焦点主要是:针对该社交平台定向提供生成式人工智能服务是否构成不正当竞争(unfair competition)。

B、C公司认为他们提供的本质是一种技术服务,张宗滨认为技术是中立的,但是并不代表技术的应用是中立的,关键还是要看技术是怎么用的、用在哪儿、针对谁、是否盈利。

The service providers B and C argued that their service was essentially a neutral technical tool. However, Zhang Zongbin, an assistant judge at the court, said that while technology itself is neutral, that does not mean its application is neutral, noting that the key lies in where the technology is used, whom it targets and how it is applied.

在审理中,法院首先明确了原告通过长期经营积累的真实内容生态,属于受法律保护的竞争性权益。而基于生成式人工智能服务的特点,被告无论是从行为方式还是行为目的来说,没有尽到合理注意义务。因此,法院判决被告B、C公司赔偿原告平台A经济损失及合理开支共计10万元。

张宗滨指出,A平台通过长期运营,投入了大量成本、人力与物力,从而吸引并沉淀了海量基于真实体验的产品推荐内容,由此构筑了以“真实性”为核心的内容生态。该生态是平台获取商业利益与维持竞争优势的核心资源,因此,我们认为其构成《中华人民共和国反不正当竞争法》所应保护的竞争性权益。

"Through long-term operation, Platform A invested substantial costs, manpower and resources, generated and accumulated a large volume of product recommendation content, and formed a content ecosystem centered on authentic experiences," Zhang said.

"This ecosystem is also a core resource through which the platform gains commercial benefits and competitive advantages. Therefore, we believe it is a competitive interest that can be protected under the Anti-Unfair Competition Law," he added.

张宗滨介绍,在本案中,法院主要考虑了四个方面的因素,最终判决被告B、C公司赔偿A平台经济损失及合理开支共计10万元。

第一,被诉服务是否属于生成式人工智能服务。

第二,被诉服务是否以特定场景作为应用层。结合到本案当中来,被诉服务的模块名称直接使用了某知名平台种草文案等表述,并且它是以该社交平台作为特定的商业应用层,而并非通用的AI工具。

第三,被诉服务是否带有明确的指向性和诱导性。结合本案当中被诉的服务模块,都是要诱导用户发布未经真实体验的相关的文案的内容。

第四,关于被诉服务是否属于营利性的商业行为。结合到本案当中,该AI写作工具的相关页面就显示终身会员是168元,年会员是98元,月会员是40元,具有明确的商业利益驱动。

He also noted that the service was clearly driven by commercial interests, as the AI writing tool offered different levels of paid membership ranging from 40 yuan to 168 yuan.


张宗滨认为,从治理的角度来说,该案判决的生效明确了生成式人工智能服务提供者从模型研发、内容生成到合规管控等环节,都需要遵守相应的义务边界。

From another perspective, Zhang said, the ruling clarified that generative AI service providers must observe responsibilities throughout the entire process, from content generation to compliance management.

比如,要以显著的方式提示AI生成内容的局限性,明确禁止用于发布虚假的信息;也要遵守特定的平台规则,限制定向用于特定平台的违规的场景,他说。

中央网信办专项整治AI乱象

为规范AI服务和应用,促进行业健康有序发展,保障公民合法权益,中央网信办(Office of the Central Cyberspace Affairs Commission)近日印发了关于开展“清朗·整治AI应用乱象”专项行动的通知。该行动为期4个月,聚焦于清理AI生成的“数字泔水”、虚假信息等,并依法处置违规账号及平台。

然而,根治AI乱象不能仅靠专项打击。业界普遍认为,还需内容平台、模型厂商及应用提供者等各方共同参与,构建全链条的协同共治格局。

记者:蒋成龙

参考来源:杭州中院 央视新闻

跟着China Daily

精读英语新闻

“无痛”学英语,每天20分钟就够!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

中国日报 incentive-icons
中国日报
中国日报官方网易号
26139文章数 371552关注度
往期回顾 全部

专题推荐

洞天福地 花海毕节 山水馈赠里的“诗与远方

无障碍浏览 进入关怀版