文 | 木子

最近呀，“新基建”这个词突然爆了，通过了疫情考验的人工智能，也等来了属于自己的高光时刻。

但是，人工智能也难逃被攻击的命运，而且过程悄无声息，后果难以预料。

被攻击的人工智能

想象一下，夏天来了，空调和 WiFi 已经配齐，只需一个冰西瓜，就是人间值得。于是，你揣着手机出门买瓜，走进小区门口的水果店，几十个貌美如花的西瓜正等着你翻牌子，关键时刻，你却犹豫了：到底哪一个甜呢？

图片来源于网络

这个时候，你想起了妈妈的话：耳朵凑近，用手拍一拍，声音“空灵”的瓜，就是好瓜，又熟又甜，如果声音很沉闷，八成还不熟。于是，你左拍右拍之后，拎着两个瓜回家了，切开一尝，只有一个甜。

失望之余，你打开浏览器，在搜索框里输入“怎么挑选西瓜”，只用了零点几秒，你就知道了更多方法，比如外皮颜色深沉，就说明熟透了，甜；瓜屁股小的瓜，口感更好；在水里能浮起来的瓜，又熟又甜...。

照着网上的挑瓜攻略，你在瓜届勉强入了门，能大概率的选到又甜又脆的西瓜。

但是，有一天，你有了女朋友，这才发现，女朋友喜欢吃的是又甜又沙的西瓜，为了博女朋友一笑，你又开始搜索“怎么挑选又甜又沙的西瓜”。

好烦呀。

你干脆关掉浏览器，敲起了代码，用搜索出的选瓜标准做了一个计算机程序，手动输入又甜又沙的西瓜特征，这就是传统机器学习，需要每一步手动下定义，随着定义越来越丰富，计算机就能越来越准确地辨别出目标物体。于是，每次买完瓜回家，你都要根据本次挑瓜标准和实际口感，在程序里修改相应的规则，但是，要想得到一个全面精准的挑选西瓜规则，非常困难。因为品种多，产地多，你不可能通过人工下定义，穷举出涵盖全宇宙的最佳西瓜挑选规则。所以说，传统的机器学习效率很低，准确率也不高。

很绝望对不对？生活应该简单点嘛，这时，你突然想到，为什么不让计算机像人一样，自己总结规律呢？

图片来源于网络

于是，你在网上搜索，国产的瓜都有什么品种，什么纬度的瓜甜度高，源自哪些国家的进口西瓜成熟度高等等、等等，尽可能多的搜集到数据后，你做了一个数学模型，让计算机自己去总结因果联系，这就是深度机器学习，能够以人的判断为标准，像人一样去总结规律。

此时，可以说，你就拥有了一个人工智能。

图片来源于网络

这下，你基本不用担心买不到又甜又沙的西瓜了，女朋友稳了。

不仅如此，夏天结束后，不管是春天的草莓，秋天的柚子，还是冬天的甘蔗，你都可以用大量的数据去训练模型，这下，只要你想，就没有你不会挑的水果。

这里强调一下三者的关系：深度学习是实现机器学习的方法之一，机器学习则是实现人工智能的方法之一。

但是老话说的好啊，防人之心不可无，你万万没想到，竟然有人因为嫉妒你有女朋友，而对你的人工智能下了手。此人趁你不备，偷偷修改了机器用来学习的样本数据，导致你在女朋友最想吃西瓜的时候，买回了一个既不甜也不沙、甚至都不太熟的瓜，气的女朋友摔门而去。

图片来源于网络

你忍不住仰天长问：这到底是怎么回事？我来告诉你吧，你刚刚遭遇了一场“数据投毒”。

破坏于无声的 AI 病毒

数据投毒是一种恶意攻击，目标是深度机器学习的样本数据，手段是投毒。

《植物大战僵尸》你肯定玩过吧，就算没玩过也应该听说过。游戏里面有一种植物，叫做魅惑菇。这货可绝了，你只要种下它，它就能魅惑一个僵尸为你而战，六亲不认地把罪恶的双手伸向自己的同类，咬死一个是一个，所以说，漂亮的蘑菇都有毒。（跑远了，快回来~

图片来源于网络

人工智能是在庞大的数据海洋中训练出来的，数据的完整性非常重要。如果数据不完整，在数据缺失或有误的区域，人工智能就懵圈了，只能原地自闭，就像你的挑瓜人工智能，如果哪天见了一个蓝色的新品种瓜，它肯定就蒙了：这是谁？我在哪儿？我要干什么？数据投毒恰好就是对数据完整性的一种攻击，不是给数据掺点沙子，就是下点毒，诱导人工智能产生错误、甚至是危险的认知。

大数据时代，凡事好像都得跟人工智能沾点边儿，才不至于弱了气势，所以你瞧，什么智能手机、智能监控、智能汽车，听着就不是路边摊的货色，但现实却是，戴上一个特殊眼镜，就能轻松解锁别人的手机；胸前贴一张特制贴纸，就能在监控中隐形；一支激光笔，就能让正常行驶的智能汽车转头逆行，究其原因，就是人工智能系统学习用的数据样本，被坏人“下毒”了，这才六亲不认、敌我不分。

突然有个疑问：遭遇数据投毒的人工智能，还会遵守「机器人三定律」吗？如果答案是否定的，试想有一天，辅助人类生活的人工智能，在遭遇数据投毒后，突然失控，我曾被科幻片《机械公敌》(我，机器人)中数以万计机器人凝视的噩梦，恐怕就要回来了。

图片来源于网络

所以说：珍爱生命，远离毒品；保护数据，人人有责。

嗨，这里是浅黑科技，在未来面前，我们都是孩子。想看更多科技故事，欢迎戳→微信公众号：浅黑科技（qianheikeji）