NO.715
作者:观察君
校稿:程程 / 编辑:致知
AI生成文章的天塌了!近日,北京证监局开出天价罚单,两名自媒体运营者因借助AI工具编造、传播上市公司芯片订单虚假信息,违反证券法,扰乱证券市场正常秩序,分别处以20万元、25万元罚款。
而这两名自媒体运营者因为AI生成文章,非法获利合计仅293.53元,不足300元,罚款就达到45万。该事件也成为AI造谣的标志性事件。
![]()
今年5月9日,证监会北京监管局官网发布一则行政处罚公告。处罚决定书显示,北京一自媒体运营人冯某于去年8月通过微信公众号,发布了阿里云追加了15万片寒武纪公司思元370芯片订单的假消息。次日,深圳的另一名自媒体运营人班某发现该文章流量很好,于是使用AI洗稿的方式,改写了一版,更加夸张和吸睛。
因两条消息传播力很强。第二篇文章发布的第二天,两名作者就删除了文章,阿里云站出来辟谣都没能刹住车。寒武纪也发布了紧急声明来澄清,但已经来不及了。寒武纪的股价应声而动,直接短线跳水,跌幅一度达到8.96%。各路散户更是被坑惨。
该事件惊动了证监会,在随后北京市证监局举行的听证会上,深圳的班某还辩称,是用AI改的,来进行退则。而证监局直接驳回:AI不是推责的理由。
经查,两人的两篇文章分别获利119.83块和173.7块,一共293.53元。
而北京证监局分别对两人罚款20万、25万,亏大了。
获利不到300块,罚了45万,是不是处罚过重了?
在观察君看来,这种对于个人而言的天价罚单,并非高射炮打蚊子,而是给一些自媒体造谣行文的当头一棒。
对于证券市场而言,涨跌都是市场行情,但假消息是却是一颗老鼠屎。两条虚假消息直接让寒武纪的股价干掉近9%,很多散户血本无归。其破坏力并不是由其违法行为获利多少来决定的,而是其行为后果来决定的。
对于这次处罚,证监会已经亮明了态度,不管是谁,不管有没有获利,获利多少,也不管是不是用AI造谣,只要你编造虚假消息扰乱市场,就得承担责任。
这次被罚的两人,也不是AI造谣第一次案例。在AI造谣的大千世界里,他们也只是过江之鲫。在二人之前,已经有众多使用AI编造虚假消息,虚假音视频干扰社会正常秩序的案例。
4月8日,媒体报道,上海嘉定警方破获一起利用AI洗稿,批量抹黑造谣车企的相关案件。小米、蔚来等车企都被“躺枪”。涉案人员仅用5台电脑和3台虚拟服务器,就控制了4000多个账号,发布了70万篇文章,实现8000万次的阅读。其造谣成本极低,但是破坏力极大。
![]()
去年4月西安警方查获一起利用AI批量制造谣言案件。涉案人员使用AI洗稿和拼接的方式制造了大量网络谣言。每天可制造19万篇虚假文章,涉及时事新闻、社会热点、社会生活方面的事情,甚至还包括地震和火灾。而这款专门智能批量生成AI谣言的软件叫翠绿笔墨,7天可以生成100万篇,产能惊人。
![]()
去年8月份,轰动一时的上海华山医院前院长客死他乡一事,也是3个95后成立工作室,利用AI生成的方式,通过500多个自媒体账号,发布30多万条不实贴文,引发热议。
![]()
与传统造谣相比,AI造谣效率极高,几分钟就可以输出几百篇文章。而且,由于AI编辑比较“丝滑”,造谣的“可信度”和传播力都远超传统造谣。这也就意味着AI造谣的破坏力更胜于传统造谣。甚至可以实现精准化、智能化,直接就形成了造谣智能工厂。
AI造谣基本路径就是,蹭热点或直接编造耸人听闻的消息,使用AI改写,加入夸张的细节,编造离奇的剧情。然后批量生成文章,批量注册自媒体账号发布不实消息。
AI让造谣的门槛和成本拉到最低,但执法也在加速。监管部门已经在加快AI谣言的治理。观察君以为,下一步,各大AI平台的责任也将被压实。单纯依靠执法部门事后追究相关人员的造谣,是被动执法。各大平台也应当肩负起自己的治理责任,做到AI的生成和使用合规。
各大AI平台也应当自检,是否做到添加AI标识,AI内容是否被跨平台发布,AI生成的内容风险是否可控,是否建立辟谣机制。
AI谣言治理的下半场,监管部门将逐步进入规则制定和细化环节。各大AI平台将成为AI谣言治理的主角。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.