举世瞩目的人机大战在3月15日终于尘埃落定，谷歌围棋人工智能阿尔法狗(AlphaGo)以4:1的成绩完胜韩国棋手李世石，在世界职业围棋排名网站GoRatings.org上，排名世界第二，仅次于世界顶级围棋高手中国的柯洁。而阿尔法狗此次击败的李世石位列世界第五。
对于这样的结果，很多人自我安慰道，阿尔法狗总归是人类制造的，人工智能的胜利最终是人类受益。但是有些问题仔细想想，还是很恐怖的。
1、有必要重温一下阿西莫夫的“机器人三大定律”，美国著名科幻小说家阿西莫夫在上世纪50年代末出版的作品《我，机器人》中，提出了著名的“机器人学三大法则”，虽然这套理论并没有真正应用到人工智能机器人具体产品上，但得到了很多专家和机器人产业的普遍认可。
第一法则：机器人不得伤害人类，或坐视人类受到伤害；
第二法则：除非违背第一法则，机器人必须服从人类的命令；
第三法则：在不违背第一及第二法则下，机器人必须保护自己。
阿尔法狗在第四局比赛中出现漏洞，招法低级而毫无意义，本来应该认输时程序依然在运行，谷歌团队的解释是阿尔法狗认为自己获胜几率在10%以下时才会认输。看似一个小小的bug，其实已经公然违抗了机器人定律的第二条，机器人已经没有在服从人类预先设定的游戏规则。
KK在《失控》中写到“人造物与自然生命之间有两种趋势正在发生：人造物表现得越来越像生命体；生命变得越来越工程化。”人工智能终归是在模拟人类智慧及行为，当人和机器的边界越来越小时，人工智能一次偶然的bug导致违背人类命令，会不会反客为主成为这个星球上的统治者？人类的命令、规则、法律甚至伦理在机器人世界是不是还有效？
其实，人和机器人的边界越来越小本身就是一个伪命题，因为人类无法永远无法复制出自身的所有机能，看似100%模拟人类，但隐藏在人体内的潜能是永远挖掘不完的，而机器人即便有自我学习功能，也是基于人类预先设置，人类的潜能连人类都无法穷尽，机器人又如何能预先学习呢？除非机器人跟更高维度的生命体对话，就像《三体》中描述的“黑暗森林”，人类之外存在更高维度的造物主，已经把地球上所有事物的终极归宿提前设定好，造物主任凭人类自生自灭，而不去干涉，不论人类如何违背造物主的旨意，终极归宿只有一个——那人类也就被物化了，当人类知道了自己每做一件事的结局，还有继续生存下去的必要吗？
2、人工智能再发达，也无法复制出那个“我”的意识。人类的生命总是有限的，即便通过技术手段复制出一个个“人”，这个“人”在其他人眼里或许是生命得到了延续，我们甚至能和自己的祖先进行对话，但其实那个“我”已经化作了尘土，跟时间一样，永远不会停止或者回到过去。每个个体总是在无限恐惧中走向死亡，就像没有来过这个世界一样。“平行宇宙”、“转世投胎”只是人类创造出用于安慰自己的理论，为了增加理论的可信度，还设置了记忆抹除这个规则，到另一个宇宙或转世后，“在世”的记忆数据不会同步过来。如果科技的发展让人类能有什么能留下来，那么我选择意识。
3、人工智能的发展，正在加速让童年离人类而去。科技的发展导致很多劳动密集型职业逐渐消失，电梯小姐、接线员、寻呼小姐……如果这些只是让劳动密集型职业消失，那么基于神经系统的人工智能会让更多拥有超群智力的人丢掉饭碗，阿尔法狗战胜了李世石，其实中国棋手柯洁已经没有必要跟阿尔法狗一决高下，即时柯洁今年战胜阿尔法狗，后者总有一天会战胜世界顶级高手，柯洁的作用无非是帮其增加棋谱库而已。
回想微型计算机起初只由专业人员使用，到今天中国几乎每家都有一部台式电脑或笔记本电脑，每人一部智能手机，而印度甚至跳过PC机的发展阶段，直接进入移动互联网时代；曾经令中国人引以自豪的珠算，近几年也少有人提及，会计们用excel表格就能轻松应付各类数据统计；曾经高深莫测的摄影艺术，如今单反、微单、各类图像处理app，让毫无摄影基础的普通人也能拍出漂亮的照片……阿尔法狗们的更新迭代，围棋也会成为不值得一哂的小儿科游戏。
就这。也许我是一个科技悲观论者。
