近期一则“人工智能已经学会自动编写虚假点评”的消息广为流传。“我喜欢这个地方。我跟我哥一起去的，我们点了素食意大利面，很好吃。啤酒不错，服务也很棒。推荐这个地方，是个吃早餐的好去处。地儿小但是买卖大”。这些看起来如假包换的评论如果以为是消费者评论的，那你就大错特错了。殊不知，这些评论都是AI操刀的点评，这种以假乱真的程度真是让人咂舌。

消息源于赵燕斌等发表的一篇题为《在线点评系统中的自动众包攻击和防御》的论文。在研究中，赵燕斌团队发现，人工智能可以被用来生成复杂的点评信息。这些虚假的点评不仅机器无法检测出来，就连人类读者也分辨不出来。

赵燕斌接受了第一财经记者的采访。他的实验室一直在从事和网络安全相关的课题。最新的研究历时一年左右，是过去研究的延伸。“人工智能的技术很先进，好处也显而易见，但是我们的目的是提前预测出人工智能对于社会潜在的威胁，因此当这些威胁真正来临的时候，人们不会猝不及防。”赵燕斌对第一财经记者表示。

他进一步解释道，在获得了美国的“大众点评网”Yelp的公开用户评论数据后，团队就开始做实验。具体而言，是从亚马逊上雇了600位用户，让他们对真人和人工智能编写的点评进行辨别。

“结果是几乎没有人看得出来哪些是机器撰写的点评。”赵燕斌对第一财经记者说道，“更让我们吃惊的是，用户不仅分辨不出真假，而且还觉得机器撰写的这些点评对他们很有帮助。”

他表示：“目前这种技术仍较新，还无法做到十分精准。比如已经在微博或者Twitter上出现的有些基于简单模板产生的评论。”

人工智能相比人类水军优势明显

赵燕斌认为，虽然他们无从得知是否已经有一些公司试图大规模利用人工智能的编程软件撰写虚假评论，但是这无疑会成为不法分子未来的一个“必要选项”，因为人工智能相比人类水军的优势非常明显。

首先，人类“水军”发送虚假评论的时间控制不了，因为“水军”一见了工作都上去抢，所以很容易在被攻击的网页上发现异常，而人工智能发送消息的时间是可以控制的。其次，雇佣人类“水军”撰写评论的成本在增长，而人工智能可以反复频繁地被使用。

“社交网站已经开始利用人工智能技术发布一些虚假的消息或评论。”人工智能初创公司WorkFusion创始人、CEO扬格列维奇（MaxYankelevich）告诉第一财经记者，“这些消息只有通过人工智能的手段才能加以制止。这不仅仅需要政府的努力，更需要科技公司和整个社会的努力。”

人工智能能够识别“机器水军”

好消息是，人工智能有可能识别出机器中的“水军”。赵燕斌团队研究发现，用计算机去分析字符的分布等特征，他们就会发现真假点评之间存在着细微的差异。

假点评是从真实点评里学出来的，在这个过程中，难免会有信息流失。假点评注重的是流畅、可信，但像字符分布这种平时没人关注的特征，就做得不那么好了。

当然，攻击者也可以骗过检测。换好一点的硬件，做更复杂一点的神经网络就行。但这种检测至少提高了攻击的门槛，为攻击者设置了障碍。赵燕斌对第一财经记者表示：“这就是一种胜利，所有的安全工作都是这样，提高攻击的门槛。”

不过，赵燕斌强调，虽然越来越多的研究致力于防御“假新闻”，但是并不是一切问题都能够用技术的手段来解决的。“我们需要更多地和社会学科学家以及心理学家合作，寻求共同的解决方案。”赵燕斌告诉第一财经记者。

水军横行的互联网可信度还剩多少

试想一下，如何像我们平常使用的网站，淘宝、京东、美团、饿了么等等本来就是靠用户的点评作为参照的，一点上面的点评都是虚假的，那么你还会相信这些网站的真实性吗？

所以，随着人工智能的不断发展，一旦AI水军盛兴，势必会给整个互联网带来巨大的冲击，致使网络的可信度会大打折扣，这时我们就需要有正确的防范措施防止AI水军。