北京
NO.715
作者：观察君
校稿：程程 / 编辑：致知
AI生成文章的天塌了！近日，北京证监局开出天价罚单，两名自媒体运营者因借助AI工具编造、传播上市公司芯片订单虚假信息，违反证券法，扰乱证券市场正常秩序，分别处以20万元、25万元罚款。
而这两名自媒体运营者因为AI生成文章，非法获利合计仅293.53元，不足300元，罚款就达到45万。该事件也成为AI造谣的标志性事件。
今年5月9日，证监会北京监管局官网发布一则行政处罚公告。处罚决定书显示，北京一自媒体运营人冯某于去年8月通过微信公众号，发布了阿里云追加了15万片寒武纪公司思元370芯片订单的假消息。次日，深圳的另一名自媒体运营人班某发现该文章流量很好，于是使用AI洗稿的方式，改写了一版，更加夸张和吸睛。
因两条消息传播力很强。第二篇文章发布的第二天，两名作者就删除了文章，阿里云站出来辟谣都没能刹住车。寒武纪也发布了紧急声明来澄清，但已经来不及了。寒武纪的股价应声而动，直接短线跳水，跌幅一度达到8.96%。各路散户更是被坑惨。
该事件惊动了证监会，在随后北京市证监局举行的听证会上，深圳的班某还辩称，是用AI改的，来进行退则。而证监局直接驳回：AI不是推责的理由。
经查，两人的两篇文章分别获利119.83块和173.7块，一共293.53元。
而北京证监局分别对两人罚款20万、25万，亏大了。
获利不到300块，罚了45万，是不是处罚过重了？
在观察君看来，这种对于个人而言的天价罚单，并非高射炮打蚊子，而是给一些自媒体造谣行文的当头一棒。
对于证券市场而言，涨跌都是市场行情，但假消息是却是一颗老鼠屎。两条虚假消息直接让寒武纪的股价干掉近9%，很多散户血本无归。其破坏力并不是由其违法行为获利多少来决定的，而是其行为后果来决定的。
对于这次处罚，证监会已经亮明了态度，不管是谁，不管有没有获利，获利多少，也不管是不是用AI造谣，只要你编造虚假消息扰乱市场，就得承担责任。
这次被罚的两人，也不是AI造谣第一次案例。在AI造谣的大千世界里，他们也只是过江之鲫。在二人之前，已经有众多使用AI编造虚假消息，虚假音视频干扰社会正常秩序的案例。
4月8日，媒体报道，上海嘉定警方破获一起利用AI洗稿，批量抹黑造谣车企的相关案件。小米、蔚来等车企都被“躺枪”。涉案人员仅用5台电脑和3台虚拟服务器，就控制了4000多个账号，发布了70万篇文章，实现8000万次的阅读。其造谣成本极低，但是破坏力极大。
去年4月西安警方查获一起利用AI批量制造谣言案件。涉案人员使用AI洗稿和拼接的方式制造了大量网络谣言。每天可制造19万篇虚假文章，涉及时事新闻、社会热点、社会生活方面的事情，甚至还包括地震和火灾。而这款专门智能批量生成AI谣言的软件叫翠绿笔墨，7天可以生成100万篇，产能惊人。
去年8月份，轰动一时的上海华山医院前院长客死他乡一事，也是3个95后成立工作室，利用AI生成的方式，通过500多个自媒体账号，发布30多万条不实贴文，引发热议。
与传统造谣相比，AI造谣效率极高，几分钟就可以输出几百篇文章。而且，由于AI编辑比较“丝滑”，造谣的“可信度”和传播力都远超传统造谣。这也就意味着AI造谣的破坏力更胜于传统造谣。甚至可以实现精准化、智能化，直接就形成了造谣智能工厂。
AI造谣基本路径就是，蹭热点或直接编造耸人听闻的消息，使用AI改写，加入夸张的细节，编造离奇的剧情。然后批量生成文章，批量注册自媒体账号发布不实消息。
AI让造谣的门槛和成本拉到最低，但执法也在加速。监管部门已经在加快AI谣言的治理。观察君以为，下一步，各大AI平台的责任也将被压实。单纯依靠执法部门事后追究相关人员的造谣，是被动执法。各大平台也应当肩负起自己的治理责任，做到AI的生成和使用合规。
各大AI平台也应当自检，是否做到添加AI标识，AI内容是否被跨平台发布，AI生成的内容风险是否可控，是否建立辟谣机制。
AI谣言治理的下半场，监管部门将逐步进入规则制定和细化环节。各大AI平台将成为AI谣言治理的主角。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
