网友发帖被平台误判为AI生成还遭禁言，北互法院判平台违约

在网络平台上撰文发帖，却被平台检测认定为AI生成并隐藏起来，该怎么办？9月10日，北京互联网法院（下称“北互法院”）召开涉人工智能案件审理情况新闻发布会，并发布八项典型案例。其中，一项有关网络平台利用算法工具检测AI生成内容但未尽到合理适度说明义务的网络服务合同纠纷案，引发关注。

基本案情为，原告唐某某在被告某科技有限公司运营的网络平台上发布二百多字文字内容“打工并不能让你真的赚到多少钱，但可以开启你的新视角……如果你对学车感兴趣的话并且以后打算开车的话，可以在你最清闲的一个假期完成它……工作之后就没有太多完整的时间学驾照了”。

其后，被告某科技有限公司运营的平台将该内容判定为“包含AI生成内容但未标识”的违规情况，并将该内容隐藏并作出将用户禁言一天的处理。后原告唐某某进行申诉未成功。原告唐某某主张其并未使用AI创作，被告某科技有限公司的行为违约，请求法院判令被告撤销隐藏涉案内容和禁言账号一天的违规处理，并在后台系统中删除违规处理记录。

经审理，北互法院认为，网络用户在使用AI工具进行创作并将相关内容发布到网络平台时，应依照诚信原则如实标记。被告发布社区公告要求创作者在发布包含AIGC生成的内容时，应主动使用标识，对发布时未主动声明的内容，平台将采取适当措施进行流通限制并添加相关标识；未经标签声明，使用人工智能生成的内容构成违规。原告系平台注册用户，上述公告属于平台服务协议的组成部分，被告有权根据协议对用户发布内容是否属于AI生成合成内容进行审查和处理。

在一般情况下，原告应该提供如创作底稿、原件、源文件、源数据等证明人类创作属性的初步证据，但本案中原告回答内容系即时性创作文本，客观上无法提供上述证据，由其提供上述证据不存在合理性和现实可行性。被告基于算法工具的运算结果得出涉案内容为AI生成合成的审查结论，被告既是算法工具掌控方又是结果判断方，算法工具运算过程和审查结果由被告掌控，被告应就该事实进行合理举证或解释说明。虽然被告提供了算法的备案信息，但无法确认备案信息与本案争议的关联性。

北互法院指出，被告未对算法决策依据和结果进行适度的解释和说明，未对涉案内容属于AI生成合成的判断依据和结果作出合理解释，应对其没有事实依据的情况下对涉案账户的处理行为承担违约责任。被告进行人工复核的标准要求具有非常明显的人类情感特征，该判断并不具有科学依据以及较强的说服力和可信度。

因此，北互法院判决被告展开折叠的回答并删除相关后台记录。被告不服一审判决提起上诉，后撤回上诉，一审判决生效。

北互法院认为该案具有典型意义，这是对AI生成合成内容标识的标记、平台识别和治理在司法审查规则方面的有益探索。一方面，肯定了网络内容服务平台利用算法工具对AI生成合成内容进行审查和处理，履行信息内容管理主体责任的积极作用；另一方面，认定网络内容服务平台在即时性创作文本场景下对使用算法自动化决策结果承担适度说明义务，并为司法审查阶段的算法解释说明程度确立了一定的标准。

采写：南都N视频记者 樊文扬