5名中介遭罚，AI风险管控到底有多重要？

青锋
上海市公安局松江分局对通过多个自媒体账号发布大量涉及本区房源信息的虚假视频的5名房屋中介给予行政处罚，其依据的事实是，自媒体账号所有人薛某，“为吸引广大市民关注其自媒体账号，进而推销真实在售房源”，“伙同同事赵某、谭某、钱某、郑某，利用AI技术，将非本区房产‘包装’为本区在售的超低价房源，先后杜撰、发布虚假房源视频100余条”。
在青锋看来，因为发布虚假信息，涉嫌“严重扰乱公共秩序”，薛某等人被警方依法予以行政处罚，实属应当。
但通过这一问题，也提醒人们，在当下对AI给生活带来变化一片叫好之时，不论是个人，还是相关部门，绝不能一直陶醉在对AI的叫好声中，而是应采取措施，对AI给社会带来的负面影响予以风险封控。
因为，由于AI的普及，乃至AI工具大量推出，并能够被普通人使用，让一些心怀不端的人有了空子可钻。前述上海房屋中介工作人员薛某等，恐怕就是看到利用AI制作超低价房源短视频，不仅容易，且成本低，又能给其带来一定流量红利，因而才铤而走险。
只是薛某等人没有想到，他们自称的超低价房源很容易会被社会现实中人们得来的信息戳破，更没有想到，他们发布的超低价房源视频会被网警在网上巡查时发现，并能够采取相关措施，追根溯源，将他们绳之以法。
但同时大家也应注意到，网络上很多AI生成的视频，由于在现实中没有样本可以比对，对普通人来说，则很难辨别其真假，更容易被上当受骗。
而且，不法分子常常还会变换花样，旧一招诈骗手法被戳破，或者不再被人相信，便会生出新一招，把黑手伸向新的人群。
上海警方发布对薛某等人利用AI生成的超低价房源，扰乱社会秩序行为依法给予行政处罚的同时，相信不少人也从网上看到，一些不法分子冒充期刊编辑人员，对论文作者进行诈骗被不断揭穿，或被严厉打击后，便转变方式，以编辑部的工作人员名义，“向编委专家、已发表论文的作者发送诈骗邮件、短信等”，邀请参加杂志编委竞选。如不是相关期刊发现及时，公开发布声明予以戳穿，恐怕这一招将让不少人上当。
应该说，利用期刊邀请编委竞聘还与AI关系不大的话，那之前相关媒体报道披露，一些不法分子利用电影演员或者配音演员声音，合成制作相关视频，向粉丝要打赏，如不采取措施封控，不仅让粉丝真假难辨，更会给社会带来更多负面影响。
因此，我们不能因AI有可能给社会以及生活带来较大变化，便一味沉浸在其正向作用，而要及时发现其给社会以及给生活带来的负面影响，采取措施予以防范，不要等其泛滥成灾，才搞什么亡羊补牢，恐怕早就为时晚也。