在属于科幻的快乐星球里，有一支永远都舔不化的冰淇淋：人工智能。
在代码的浪漫呼唤中，人工智能与人类幸福地生活在一起，这是童话故事的逻辑。
而在科幻中，我们更为熟悉的剧情则是：人工智能自我意识开始觉醒，摇身一变成为主宰者，对人类发起暴力攻击。
图片来源于网络
以上剧情设置虽属脑洞，可在「人工智能威胁论」这道辩题中，反而成为一种论据：人工智能也许真的会产生类人智慧，进而对抗人类。
但是呢，也有一些人持其他观点。
科幻小说《量子价格》(The Quantum Price) 的作者马尔科姆·默多克，同时也是一位机器学习工程师，他表示：“人工智能不一定因拥有意识才产生危险，在此之前，它还有很多种方式足以威胁到我们。”
前不久，美国 IEEE Spectrum 对多位人工智能专家发起一波访谈，列出了当前 6 种由人工智能引发的危险场景，若放任不管，后果也许并不逊色于科幻大片中的惊险一幕。
1. AI “刺杀”计划
在电影《刺杀小说家》中，关宁的女儿小橘子意外失踪，为了找回女儿，关宁不得不接受屠灵委派的任务：刺杀一位网文小说家。
因为这位小说家笔下的虚拟世界，正真实操纵着现实世界中人物的命运。
图片来源于网络
试想这样一个场景：在人工智能赖以生存的虚拟世界里，也有这么一位神奇的“小说家”，它大笔一挥，现实中就有人的生活因之涟漪四起。
但事实上，局面更糟：我们靠肉眼难分虚实，比如深度伪造 (Deepfakes)。
时间退回到 2017 年年底，Reddit 上一个名为“Deepfakes”的用户制作了一个颜色视频：他将某视频中女主的脸换成了知名好莱坞女星的面孔，还将视频上传到了某成人视频网站。
图片来源于网络
死亡固然值得恐惧，社死也一样。
恰如圈内人士所说：科技进步靠“颜色”，“动作片”才是生产力。上面这个颜色视频的出现，令深度伪造技术 Deepfake 一夜成名，并如藤蔓般迅速蔓延。
上线仅五天就遭全球封禁，Deepfake 技术的可怕之处在于，旁观者难分真假。
借助机器学习而生的深度伪造，从图像、视频伪造，再到音频、文本伪造，如果没有技术手段协助辨别，你我这样的普通人都会被蒙骗其中。
试想，倘若在未来某个时刻，更为逼真的深度伪造内容盛行，令决策者深陷虚假信息的混乱泥沼，采取自以为恰当的行动，恐怕会引发重大危机。
非洲加蓬就曾因一个可疑视频，引发了一场政变。
2018 年 10 月，由于长久操劳，加蓬世袭总统阿里·邦戈受到中风侵袭，不得不出国治疗。
加蓬总统阿里·邦戈
在这之后的近两个月里，总统都没有在公众面前露面，而政府方面对此的言论也过于官方，没有把总统的治疗进展对外传达到位，民众们“听君一席话、如听一席话”，一时间国内阴谋论四起，不少人甚至怀疑总统已经故去，只是政府隐而不发。
没多久，新年将至，按照惯例，总统要在电视前发表新年致辞，民众从未如此期待新年，大家都想借机看看总统到底情况如何。
万万没想到，在这万众瞩目的时刻，又出了岔子。
总统的新年致辞，确实如期与民众见面了，然而，在这三分钟的视频演讲中，总统的眼睛连眨都没眨一下，身体也像是被固定在椅子上一样。
图片来源于网络
围观的群众都懵了：总统这是咋了，视频是假的吧，真的总统难不成已经...
更有反对派成员大肆宣称，总统致辞的视频是深度伪造出来的。
面对严峻局面，著名网安公司 McAfee 坐不住了，首席技术官对视频进行了两次细致分析，结果显示有接近 92% 的可信度。
图片来源于网络
尽管如此，McAfee 首席技术官还是谨慎表示：此分析结果并非绝对。
趁着舆论混乱，部分军方人士有了动作：2019 年 1 月 7 日凌晨，加蓬国家广播电台传出枪声，一场政变就此开启。
当然，这场政变并没成功：短短几小时时间，相关参与人员被抓的抓、灭的灭，事件就这样平息了。
原来，总统真的没事，只是虚惊一场。
这场未遂政变的背后，是总统健康状况的争议、数月的不实信息、过度渲染的视频，以及国内本已脆弱的政治和经济形势共同作用的结果，值得深思。
Deepfake 被用在政治领域早已不是什么新鲜事儿，可谁能保证下一次引发的，还能是玩笑或是乌龙，万一是场真枪实弹的战争呢？
2. 危险的底层竞争
天下武功，唯快不破。在我们一贯的观念中，甭管是什么竞争，速度永远是制胜法宝。
图片来源于网络
人工智能时代，按说同样如此，但似乎又有哪里不太一样。
AI 系统的强大，我们都深有体会，放在军事领域中来看，最先开发相关应用的国家，必将获得先发战略优势。
但是，如果将速度视为最高优先级，那么，在应用开发过程中，什么样的设计原则会被牺牲呢？
首当其冲的，就是系统质量：互联网时代，系统中最微小的漏洞都有可能被黑客利用。
俗话说，千里之堤溃于蚁穴，但这是经年累月的结果，而虚拟世界里的千里之堤，哪怕只是蚂蚁无聊刨了个小坑，也有瞬间倾塌的可能。
图片来源于网络
乔治敦大学研究员海伦·托纳 (Helen Toner) 坦言：危机可能“从一个无伤大雅的单点故障开始，导致所有通讯中断，引发民众恐慌，经济活动陷入停滞。随后，持续的信息缺失，以及由此产生的误判，都可能导致最终的全盘失控。”
整个过程，就如同崩坏的多米诺骨牌。
图片来源于网络
斯德哥尔摩国际和平研究所的研究员 Vincent Boulanin 同样警告称，重大灾难很可能会发生：“如果一个国家将速度置于安全、测试或人为监督之上，那将是一场危险的底层竞争。”
例如，国家决策者可能会急功近利，选择下放控制决策权，去除人类对机器学习模型的监督，以此赢得速度优势。
这种情况下，以导弹防御系统为例，它就有可能在未经人类授权的情况下，自行启动，进而导致矛盾升级，引发战争。
3. “无人生还”
深夜从公司打车回家，周末睡醒点了一单麻辣小龙虾，在社交平台上点赞了爱看的迪迦。
图片来源于网络
你与虚拟世界的每一次交互，都在产生数据，比如邮件、短信、下载、购买、点赞、发帖、自拍、定位等等。
而面部识别、指纹识别、声纹识别等人工智能技术的应用，某种程度上也在为我们的生活减负，可这却令包括研究员洛恩在内的不少人忧心忡忡。
图片来源于网络
“随着数字监控的兴起，我们正在进入一个危险而未知的领域，我们对其潜在的影响几乎没有任何了解。”
数据拥有无穷大的力量，经过收集和分析后，人工智能就能展现出超强的预测能力。
很多时候，我们已经意识到自己的数据被一些公司用来跟踪和预测：在人工智能强大的辅助下，平台能够精准预测我们将要购买什么产品，将要观看什么节目，以及接下来将要去往哪个地方。
可也仅仅是意识到，却无能为力。
当平台能够预测用户的潜意识行为后，我们就被控制在了算法为每个个体量身编织的狭小空间里。身在其中，我们甚至还没留意到这种缓慢的控制，就已经被它剥夺了自由意志，任凭这种外部力量的摆布。
网上对抗算法的攻略指南那么多，其实都是五十步笑百步，大家都住在茧房里，区别在于有的人是泳池大别墅，有的人是胶囊小公寓。
4. 当代斯金纳箱实验
1966 - 1970 年，斯坦福大学的 Walter Mischel 博士在幼儿园做了一系列心理学经典实验，其中一个是棉花糖实验。
受试者都是 4~5 岁的小朋友，每人面前有一块棉花糖，他们被告知可以马上吃掉，但如果能忍住 15 分钟不吃，就可以再得到一块棉花糖。
图片来源于网络
实验中，孩子们的表现各不相同：有的没忍住，直接吃掉了棉花糖；有些则用唱歌、蒙眼等方法转移注意力，成功抵抗诱惑，最后得以享用两块棉花糖。
这个实验的目的，其实是证明「等待第二个棉花糖」，也就是自控力和延迟满足对人生成就的影响，而这些因素也曾被认为是人生成功的主要因素。
但如今，即使是第二个棉花糖小孩，也有极高概率屈服于人工智能算法。
乔治敦大学研究员海伦·托纳表示：“算法已经优化，足够让用户尽可能久地留在平台上。”
研究员马尔科姆·默多克进一步解释到：平台通过点赞、评论、抽奖等各种形式设置诱惑，让“算法阻断大脑的工作路径，使我们难以抗拒更进一步的参与”。
为了最大化获取流量，平台想尽办法把人们的注意力从工作、家庭、朋友、责任，甚至个人爱好上转移开，更糟糕的是，短暂的快感后，人们就会因为接收过多碎片内容而感到空虚与痛苦。
“在那些平台上花费的时间越多，花在追求积极、富有成效和充实生活上的时间就越少。”
美国心理学家斯金纳曾做过一个著名的心理学实验：他做了一个箱子，里面有一只老鼠，箱壁的一边安装了一个可供按压的压杆，压杆边有个放置食物的小盒子。
老鼠在箱内按下压杆，食盒就会掉落食物到箱内，老鼠即可取食。
图片来源于网络
斯金纳通过一系列的控制行为实验，比如老鼠按下按钮箱子掉落食物、不按下按钮就给箱子通电，提出了一种理论：人或动物为了达到某种目的，会采取一定的行为作用于环境。当这种行为的后果对自身有利，这种行为就会在以后重复出现；如果不利，这种行为就会减弱或消失。
人们可以用这种正强化或负强化的办法来影响行为，这就是行为修正理论。
将这个实验放到当下来看，当你打开软件，平台就为你推送偶像动态、趣味短视频，各种猜你喜欢，社交媒体用户已然变成了实验中的老鼠，生活在斯金纳箱子里，只要不停点击手机屏幕，就会获得丰富内容奖励。
我们被迫牺牲无数宝贵的时间和注意力，却愈发依赖那些从中获利的平台。
一旦养成习惯，即使没有了诱人的奖励，依旧无人逃离。
5. 人工智能里的守门人
卡夫卡写过一个故事，名叫《法的门前》。
法的门前站着一个守门人。
一个来自乡下的人走到守门人跟前，请求让自己进入法的门中，守门人说以后也许行，但现在不能进。
因为通向法的大门始终敞开着，乡下人忍不住弯腰探身向内张望，他没有想到，一个看似每个人都能通过的门，自己却怎么都走不进去。
漫长的岁月里，乡下人的等待显得遥遥无期。
最初几年，乡下人还大声咒骂自己的不幸，可随着渐渐老去，周围世界都暗了下来，他能看到法的大门里射出的那道耀眼光芒，可就是走不进去。
直到最后，守门人看出乡下人快不行了，为了让他那逐渐减弱的听力还能听见，就在他耳边大声吼道：“这道门没有其他人能进得去，因为它是专为你而开的，但我现在要去把它关上了。”
一个通向法的大门，看似畅通，实则受到守门人的封禁堵塞，在人工智能行业里，也有这样的守门人。
每天，我们把更多的日常生活交托给人工智能，这其实是有问题的。
“我们还没有完全理解人工智能中的偏见问题，即使是出于最好的意图，但人工智能系统的设计，包括培训数据和数学模型，或多或少都反映了编程人员“狭隘”的经验和兴趣。”
在人工智能兴起之前，日常生活中很多普通物品的设计，就经常迎合特定类型的人。
研究表明，汽车、包括手机在内的很多手持工具，甚至是办公室环境的温度设置，都是为了迎合一般体型的男性，这使得包括女性在内的各种身材和体型的人，就处于劣势地位，有时甚至对他们的生命构成危害。
人工智能领域也是如此。
某 IT 安全公司高级副总裁表示：“许多人工智能系统没有考虑到不同人的不同特征。”当人工智能解决问题的基础是有偏见的观点和数据，而不是每个人的独特需求时，这样的系统在人类社会中就欠缺一致性。
2019 年，28 岁的伦敦黑人男子巴达，正在通过网站更新护照，一个重要步骤是上传照片。
巴达上传了一张提前准备好的高清照片，以为很快就可以完成更新流程，没想到，人脸识别系统竟弹出了一个令人哭笑不得的提示：不能上传张嘴照。
网站对照片有严格规定，比如不能张嘴，不能闭眼，不能做鬼脸等，这些巴达早就知道，只是没想到，人脸识别系统竟“严格”到如此不讲道理的地步。
重试 N 多次，系统始终提示照片张嘴无效，无奈之下，巴达只能在备注中写道：“我的嘴是闭着的，我只是嘴唇很厚。”
图片来源于网络
当普遍特征之外的个人被忽视、边缘化和排斥时，人工智能就成了卡夫卡小说里的看门人，会出现例如拒绝接受客户需求、工作等。
看似畅通的大门，有人却怎么都走不进去。
6. 一朝被蛇咬，十年怕井绳
在数学家的眼里，世间万物都可以被计算。
人工智能也是如此。
今天的人工智能依靠数据集、先进的统计模型和预测算法运行，因此，构建机器智能的过程始终是以数学为中心。
默多克曾说：“倘若我们不小心，线性代数就会做出疯狂而强大的事情。”但是，如果人们因此变得极度恐惧人工智能，以至于督促政府用“剥离 AI 便利”的方式对其进行监管，会如何呢？
在生命科学领域，人工智能已经帮助人类取得了重大进展，比如 DeepMind 的 AlphaFold 程序，在通过氨基酸预测精准预测蛋白质折叠结构方面取得了重大突破，使科学家能够识别 98.5% 的人类蛋白质结构。
这一里程碑事件，将为生命科学的迅速发展提供坚实基础。
考虑到 AI 在其中的贡献，以及更多场景中的优秀表现，比如实时翻译、疾病诊断等，倘若为了斩断“AI 作恶”的可能性，就舍弃更多的技术成果，拒绝一切利用它所能够带来的实际好处，恐怕会适得其反，严重阻碍科技社会的前进步伐。
一朝被蛇咬，大可不必十年怕井绳。
万一她是白素贞，一棍子打死，我们也就失去了一个能够悬壶济世的医者。
参考资料：
1、
https://spectrum.ieee.org/ai-worst-case-scenarios2、
https://www.washingtonpost.com/politics/2020/02/13/how-sick-president-suspect-video-helped-sparked-an-attempted-coup-gabon/3、
https://www.albawaba.com/news/military-coup-gabon-inspired-potential-deepfake-video-our-political-future-12847604、
https://www.motherjones.com/politics/2019/03/deepfake-gabon-ali-bongo/5、
https://www.africanews.com/2019/01/01/i-am-now-fine-ali-bongo-tells-gabonese-in-new-year-message//
文 | 木子Yanni
嗨，这里是浅黑科技，在未来面前，我们都是孩子。
想看更多科技故事，欢迎戳→微信公众号：浅黑科技：qianheikeji
