登录

让人工智能敌我不分的病毒,到底有多厉害?

科技资讯
0 11806



文 | 木子

最近呀,“新基建”这个词突然爆了,通过了疫情考验的人工智能,也等来了属于自己的高光时刻。

但是,人工智能也难逃被攻击的命运,而且过程悄无声息,后果难以预料。

被攻击的人工智能

想象一下,夏天来了,空调和 WiFi 已经配齐,只需一个冰西瓜,就是人间值得。于是,你揣着手机出门买瓜,走进小区门口的水果店,几十个貌美如花的西瓜正等着你翻牌子,关键时刻,你却犹豫了:到底哪一个甜呢?

让人工智能敌我不分的病毒,到底有多厉害?

图片来源于网络

这个时候,你想起了妈妈的话:耳朵凑近,用手拍一拍,声音“空灵”的瓜,就是好瓜,又熟又甜,如果声音很沉闷,八成还不熟。于是,你左拍右拍之后,拎着两个瓜回家了,切开一尝,只有一个甜。

失望之余,你打开浏览器,在搜索框里输入“怎么挑选西瓜”,只用了零点几秒,你就知道了更多方法,比如外皮颜色深沉,就说明熟透了,甜;瓜屁股小的瓜,口感更好;在水里能浮起来的瓜,又熟又甜...。

让人工智能敌我不分的病毒,到底有多厉害?

照着网上的挑瓜攻略,你在瓜届勉强入了门,能大概率的选到又甜又脆的西瓜。

但是,有一天,你有了女朋友,这才发现,女朋友喜欢吃的是又甜又沙的西瓜,为了博女朋友一笑,你又开始搜索“怎么挑选又甜又沙的西瓜”。

让人工智能敌我不分的病毒,到底有多厉害?

好烦呀。

你干脆关掉浏览器,敲起了代码,用搜索出的选瓜标准做了一个计算机程序,手动输入又甜又沙的西瓜特征,这就是传统机器学习,需要每一步手动下定义,随着定义越来越丰富,计算机就能越来越准确地辨别出目标物体。于是,每次买完瓜回家,你都要根据本次挑瓜标准和实际口感,在程序里修改相应的规则,但是,要想得到一个全面精准的挑选西瓜规则,非常困难。因为品种多,产地多,你不可能通过人工下定义,穷举出涵盖全宇宙的最佳西瓜挑选规则。所以说,传统的机器学习效率很低,准确率也不高。

很绝望对不对?生活应该简单点嘛,这时,你突然想到,为什么不让计算机像人一样,自己总结规律呢?

让人工智能敌我不分的病毒,到底有多厉害?

图片来源于网络

于是,你在网上搜索,国产的瓜都有什么品种,什么纬度的瓜甜度高,源自哪些国家的进口西瓜成熟度高等等、等等,尽可能多的搜集到数据后,你做了一个数学模型,让计算机自己去总结因果联系,这就是深度机器学习,能够以人的判断为标准,像人一样去总结规律。

此时,可以说,你就拥有了一个人工智能。

让人工智能敌我不分的病毒,到底有多厉害?

图片来源于网络

这下,你基本不用担心买不到又甜又沙的西瓜了,女朋友稳了。

不仅如此,夏天结束后,不管是春天的草莓,秋天的柚子,还是冬天的甘蔗,你都可以用大量的数据去训练模型,这下,只要你想,就没有你不会挑的水果。

这里强调一下三者的关系:深度学习是实现机器学习的方法之一,机器学习则是实现人工智能的方法之一。

但是老话说的好啊,防人之心不可无,你万万没想到,竟然有人因为嫉妒你有女朋友,而对你的人工智能下了手。此人趁你不备,偷偷修改了机器用来学习的样本数据,导致你在女朋友最想吃西瓜的时候,买回了一个既不甜也不沙、甚至都不太熟的瓜,气的女朋友摔门而去。

让人工智能敌我不分的病毒,到底有多厉害?

图片来源于网络

你忍不住仰天长问:这到底是怎么回事?我来告诉你吧,你刚刚遭遇了一场“数据投毒”。

破坏于无声的 AI 病毒

数据投毒是一种恶意攻击,目标是深度机器学习的样本数据,手段是投毒。

《植物大战僵尸》你肯定玩过吧,就算没玩过也应该听说过。游戏里面有一种植物,叫做魅惑菇。这货可绝了,你只要种下它,它就能魅惑一个僵尸为你而战,六亲不认地把罪恶的双手伸向自己的同类,咬死一个是一个,所以说,漂亮的蘑菇都有毒。(跑远了,快回来~

让人工智能敌我不分的病毒,到底有多厉害?

图片来源于网络

人工智能是在庞大的数据海洋中训练出来的,数据的完整性非常重要。如果数据不完整,在数据缺失或有误的区域,人工智能就懵圈了,只能原地自闭,就像你的挑瓜人工智能,如果哪天见了一个蓝色的新品种瓜,它肯定就蒙了:这是谁?我在哪儿?我要干什么?数据投毒恰好就是对数据完整性的一种攻击,不是给数据掺点沙子,就是下点毒,诱导人工智能产生错误、甚至是危险的认知。

大数据时代,凡事好像都得跟人工智能沾点边儿,才不至于弱了气势,所以你瞧,什么智能手机、智能监控、智能汽车,听着就不是路边摊的货色,但现实却是,戴上一个特殊眼镜,就能轻松解锁别人的手机;胸前贴一张特制贴纸,就能在监控中隐形;一支激光笔,就能让正常行驶的智能汽车转头逆行,究其原因,就是人工智能系统学习用的数据样本,被坏人“下毒”了,这才六亲不认、敌我不分。

突然有个疑问:遭遇数据投毒的人工智能,还会遵守「机器人三定律」吗?如果答案是否定的,试想有一天,辅助人类生活的人工智能,在遭遇数据投毒后,突然失控,我曾被科幻片《机械公敌》(我,机器人)中数以万计机器人凝视的噩梦,恐怕就要回来了。

让人工智能敌我不分的病毒,到底有多厉害?

图片来源于网络

所以说:珍爱生命,远离毒品;保护数据,人人有责。

QQ浏览器截图20200429215958

嗨,这里是浅黑科技,在未来面前,我们都是孩子。想看更多科技故事,欢迎戳→微信公众号:浅黑科技(qianheikeji)


发表评论

0 个回复