说起水军大家可能并不陌生。无论是从“贾君鹏，你妈喊你回家吃饭”，到小月月的疯狂蹿红，还是到蒙牛“诽谤门”事件暴露，到“3Q”大战，再到魅族手机被曝上市炒作，都有调查证明，这些时间背后有一支操纵网络舆论的手——网络水军。最近，一则“人工智能已经学会自动编写虚假点评”的消息广为流传，消息称人工智能可以被用来生成复杂的点评信息，连人类读者也分辨不出来。难道存在于灰色地带的“五毛党”要就此消失了么？
什么是水军
众所周知，网络水军即受雇于网络公关公司，为他人发帖回帖造势的网络人员，以注水发帖来获取报酬。
传统网络水军从业者有残疾人、闲散人员、家庭妇女，还不乏大学生，他们中间有兼职也有全职。随着网络及移动客户端的普及，从城市铺向农村各个角落，网络市场的膨胀成就了这些人的钟点工作。水军按工作分类，可以分成打击竞品的营销水军和仅提供口碑维护的营销水军。在娱乐行业更是美其名曰：口碑营销。由于水军刷评论多批量进行，很多评论五毛一条，所以水军又被成为五毛党。
AI如何代替传统水军？
这则消息实际来源于赵燕斌等发表的一篇题为《在线点评系统中的自动众包攻击和防御》的论文。在接受记者采访时赵燕斌表示：“人工智能的技术很先进，好处也显而易见，但是我们的目的是提前预测出人工智能对于社会潜在的威胁，因此当这些威胁真正来临的时候，人们不会猝不及防。”
在获得了美国的“大众点评网”Yelp的公开用户评论数据后，赵燕斌团队就开始做实验。他们从亚马逊上雇了600位用户，让其对真人和人工智能编写的点评进行辨别。“结果是几乎没有人看得出来哪些是机器撰写的点评。”实际上，这些话是一种称为RNN(循环神经网络)的深度学习技术生成的，并使用了上千条真实在线点评训练而成：
■ 1.我喜欢这个地方。我常来这里已经有好几年，这是个与亲朋好友聚会的好地方。我喜欢这里的餐品和服务。在这里，我从没有过不良体验；
■ 2.我点了烤蔬菜汉堡和薯条！味道很棒！非常可口！我都不知道该怎么形容；
■ 3.我和家人都很喜欢这里。服务生人超级好，餐品也很不错。鸡肉吃起来很棒，大蒜酱完美。冰激凌加水果也很好吃。高度推荐。
以上3条评价全部都来自人工智能。这一人工智能利用Yelp平台上的数百万条评价进行了训练，随后得出了这样的结果。最可怕的是很多用户觉得这样的信息对他们自身非常有用。试想一下，如何像我们平常使用的网站，淘宝、京东、美团、饿了么等平台上面的点评都是虚假的，我们是否还会相信这些网站的真实性?如果人人作恶，那我们最终失去的将是整个市场标准......
如何分辨真假评论？
首先，AI水军和传统的水军不一样，传统水军通过人工点评操作，致使不好控制，而AI水军是用超级计算机发布的。人们既然能够创造出AI水军，自然也会有办法控制AI水军。
其次，人工智能有可能识别出机器中的“水军”。由于假点评是从真实点评里学出来的，在这个过程中，难免会有信息流失。只要用计算机去分析字符的分布等特征，就会发现真假点评之间存在着细微的差异：假点评注重的是流畅、可信，但像字符分布这种平时没人关注的特征，就做得不那么好了。
也许，攻击者通过换好一点的硬件，做更复杂一点的神经网络就可以骗过检测。但检测的意义在于至少提高了攻击的门槛，为他们设置了一些障碍。在科技发展的过程中，安全防御本身就是一个以子之矛攻子之盾的过程，作恶的人提高了攻击水平，自然也会有更高的技术进行防御。“口碑”关乎着商家的信誉和销量，也许将来五毛党的群体不会消失，但至少会变成8毛党，一块党.....
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
