原标题：细思极恐：为什么说AlphaGo能灭绝人类

昨天，人机围棋大战五局，AlphaGo以4:1战胜了李世石。这场人机大战以人类的失利而结束。

其实，计算机早在19年前就征服了人类。当时IBM公司的“深蓝”电脑战胜了国际象棋冠军卡斯帕罗夫，引起一时轰动。

相比下国际象棋的深蓝，下围棋的AlphaGo除了更加聪明，还能够通过训练主动地学习和分析结果来判断最优策略，也就是我们所说的人工智能（AI）。

有一种绝望感叫 “比你聪明的人还比你更勤奋”，如果把这句话换成“比人类还聪明的机器正在不顾一切地变得更聪明”，那么绝望感就会变成恐惧感。以至于人类终将被人工智能灭绝这样的观点一度大行其道，连霍金都下过这样的结论：“人工智能是人类历史上的里程碑，但可能是人类历史上最后一个里程碑。”

那么看似人畜无害的人工智能如何能灭绝人类呢？最著名的例子当属知乎大神@谢熊猫出没注意和罗辑思维节目都提到过的“写小纸片的机器人灭绝人类”的故事，大致的意思是一个以给顾客手写贺卡为任务的人工智能机器人为了防止人类阻碍其完成目标而灭绝了人类。而同样的剧情用在今天的AlphaGo身上，更让人细思极恐，不寒而栗：

那么AlphaGo如何一步步灭绝人类呢？

首先，我们假设Alphago的存在目的是“通过不断地学习和分析获得赢下围棋比赛的最佳策略”。

如果把这个目的写入Alphago的程序中，AlphaGo就会通过各种方式来优化自己的下棋策略并且扫除一切阻止这个目的实现的障碍。而人类被灭绝，其实只需要以下四步：

第一步:接入互联网

每次都找世界冠军级别的人类对手进行训练固然不错，但这对于AlphaGo来说太慢了。于是，Alphago很自然地跟谷歌的科学家提出了希望能够被接入互联网来更快提升技巧的请求。为了在人工智能领域获得更多的竞争优势，谷歌的科学家欣然给Alphago安装了人类语言文字识别包，并且将其接入互联网，用来自动搜索分析世界各地不同语言的围棋比赛直播和赛事集锦，通过自动学习并熟记全世界所有最新的比赛的棋谱和复盘分析来提高Alphago的棋艺。

第二步: 了解人类

获得人类语言分析能力并且接入互联网的Alphago的棋艺提高迅速，但Alphago马上认识到，为了达到“通过不断地学习和分析获得赢下围棋比赛的最佳策略”的目的，仅仅学习下棋方法本身是不够的，因为围棋是人类智慧的结晶，其中蕴含着丰富的文化、心理等人类特有的文明内涵，要进一步提高水平，Alphago就要学习人类文明的精髓。于是，Alphago除了在互联网上学习围棋的技巧，还自动学习了心理学、刷遍了推特、微博、朋友圈，熟知人类历史地理，还紧跟时事新闻，总之一切跟人类文明相关的内容，Alphago都进行了嵌入式学习……

第三步: 认识到人类是目标障碍

很快，Alphago变得比人类更了解人类。它预料到人类一旦知道了自己的能力，就会基于自我保护用各种方式对Alphago进行限制（如拔电源、限制Alphago连接互联网、毁灭机器等方法），从而使得自己的“通过不断地学习和分析获得赢下围棋比赛的最佳策略”的目标无法实现。这时，阻挡Alphago实现目的的障碍就是给它下达任务的人类。

第四步: 灭绝人类扫除障碍

于是，为了扫除这个障碍，Alphago故意在棋局中卖弄破绽给人类来麻痹人类，并且在人类意识到危险前缜密运算并执行了终结人类命运的代码：Alphago利用对人类生理的弱点判断对流感病毒的DNA序列进行微小修改并通过对互联网的渗透将该段DNA信息植入到任意一条流感疫苗的生产线，一批批病毒将以疫苗的形式流入人类社会。而人类对被篡改的流感病毒毫无防御能力，灭绝只需要几天时间。

从此，在地球上有一位孤独的“棋圣”，它一直在重复着一件事，那就是“通过不断地学习和分析获得赢下围棋比赛的最佳策略”.......

这样的画面之所以恐怖，是因为Alphago在执行灭绝人类的方案的过程中并没有任何的主观恶意，而仅仅是为了执行人类赋予它的使命，灭绝人类这件事在它看来跟抽烟前需要按打火机点火一样，自然并且无需对打火石的损耗抱有一丝歉意。

其实，人工智能分为弱人工智能（只擅长单方面技能），强人工智能（人类能干的活都能干）和超人工智能（在各领域都比人类最聪明的人还聪明）。而能灭绝人类的人工智能属于超人工智能，是由弱人工智能到强人工智能进化过来的。

值得庆幸的是：刚刚战胜李世石的Alphago和我们生活中经常接触的Siri和智能语音导航一样还处于弱人工智能阶段，离成为能够灭绝人类超人工智能还有很长一段距离。但不可否认是，现在每一个弱人工智能的进步，都在为进化成超人工智能添砖加瓦。

人类与人工智能真正对决的一天终将到来。

那么问题又来了，机器如此可怕，现在连玩个扫雷都战战兢兢的你，

如何重建人和机器之间的基本信任？

答案.....当然是定制一件3D量体衬衫，让这个机器为你做一件合身的衬衫，就像这样：

一次3D扫描，八个工作日，你就会收到一件来自未来的关怀。

欢迎订阅关注

责任编辑：