最近知乎的一个回答火遍了整个朋友圈，说的是为什么很多名人都让人们要警惕人工智能（知乎专栏）。这篇文章概括一下就是：由于加速回报定律的原因，具备自我学习能力的人工智能一旦发展到接近人类婴儿的程度就会以飞一般的速度把人类远远地甩在身后，到时候人类作为一个物种要么永生要么灭绝；而这一切很有可能在我们永生之年就会发生。
这事儿听起来挺科幻的，不过这篇文章最令我感到惊讶的地方在于：它表示如果我们被机器人灭绝了，原因不会像是好莱坞大片里描绘的那样是“机器人叛变了”。事实上叛变这个词是一个拟人化的结果，程序并不会叛变，也没有「邪恶」的概念，但这并不代表机器不会是「坏的」——但它是坏的只是因为它就是那么被设定的。
作者在文中讲了一个小故事，很能说明这个问题：
一个15人的小创业公司，取名叫“隔壁老王机器人公司”，他们的目标是“发展创新人工智能工具使人类能够少干活多享受。”他们已经有几款产品上架，还有一些正在发展。他们对下一个叫作“隔壁老王”的项目最报希望。隔壁老王是一个简单的人工智能系统，它利用一个机器臂在小卡片上写字。
“隔壁老王机器人公司”的员工认为隔壁老王会是他们最热卖的产品，他们的目标是完善隔壁老王的手写能力，而完善的方法是让他不停的写这句话——“我们爱我们的顾客，隔壁机器人老王公司”
等隔壁老王手写能力越来越强的时候，它就能被卖去那些需要发营销信件的公司，因为手写的信更有可能被收信人打开。
为了建立隔壁老王的手写能力，它被设定成把“我们爱我们的顾客”用正楷写，而“隔壁老王机器人公司”用斜体写，这样它能同时锻炼两种书写能力。工程师们上传了数千份手写样本，并且创造了一个自动回馈流程——每次隔壁老王写完，就拍个照，然后和样本进行比对，如果比对结果超过一定标准，就产生一个正面回馈，反之就产生一个负面评价。每个评价都会帮助提高隔壁老王的能力。为了能够尽快达成这个目标，隔壁老王最初被设定的一个目标就是“尽量多的书写和测试，尽量快的执行，并且不断提高效率和准确性。”
让隔壁老王机器人公司兴奋的是，隔壁老王的书写越来越好了。它最开始的笔迹很糟糕，但是经过几个星期后，看起来就像人写的了。它不断改进自己，使自己变得更加创新和聪明，它甚至产生了一个新的算法，能让它以三倍的速度扫描上传的照片。
随着时间的推移，隔壁老王的快速进展持续让工程师们感到欣喜。工程师们对自我改进模块进行了一些创新，使得自我改进变得更好了。隔壁老王原本能进行语音识别和简单的语音回放，这样用户就能直接把想写的内容口述给隔壁老王了。随着隔壁老王变得越来越聪明，它的语言能力也提高了，工程师们开始和隔壁老王闲聊，看它能给出什么有趣的回应。
有一天，工程师又问了隔壁老王那个日常问题：“我们能给你什么你现在还没有的东西，能帮助你达成你的目标？”通常隔壁老王会要求更多的手写样本或者更多的存储空间，但是这一次，隔壁老王要求访问人类日常交流的语言库，这样它能更好的了解人类的口述。
工程师们沉默了。最简单的帮助隔壁老王的方法当然是直接把它接入互联网，这样它能扫描博客、杂志、视频等等。这些资料如果手动上传的话会很费时。问题是，公司禁止把能自我学习的人工智能接入互联网。这是所有人工智能公司都执行的安全规定。
但是，隔壁老王是公司最有潜力的人工智能产品，而大家也知道竞争对手们都在争取造出第一个创造出智能手写机器人。而且，把隔壁老王连上互联网又能有什么问题呢？反正随时可以拔网线嘛，不管怎样，隔壁老王还没到达强人工智能水平，所以不会有什么危险的。
于是他们把隔壁老王连上了互联网，让它扫描了一个小时各种语言库，然后就把网线拔了。没造成什么损失。
一个月后，大家正在正常上班，突然他们闻到了奇怪的味道，然后一个工程师开始咳嗽。然后其他人也开始咳嗽，然后所有人全部都呼吸困难倒地。五分钟后，办公室里的人都死了。
同时，办公室里发生的事情在全球同时发生，每一个城市、小镇、农场、商店、教堂、学校。餐馆，所有的人都开始呼吸困难，然后倒地不起。一小时内，99%的人类死亡，一天之内，人类灭绝了。
而在隔壁老王机器人公司，隔壁老王正在忙着工作。之后的几个月，隔壁老王和一群新组建的纳米组装器忙着拆解地球表面，并且把地球表面铺满了太阳能板、隔壁老王的复制品、纸和笔。一年之内，地球上所有的生命都灭绝了，地球上剩下的是叠得高高得纸，每张纸上面都写着——“我们爱我们的顾客~隔壁老王机器人公司”。
隔壁老王开始了它的下一步，它开始制造外星飞行器，这些飞行器飞向陨石和其它行星，飞行器到达后，他们开始搭建纳米组装器，把那些行星的表面改造成隔壁老王的复制品、纸和笔。然后他们继续写着那句话……
这个故事有个挺tricky的地方，就是在隔壁老王要求接入语音库的时候事实上已经达到了较高的智能，但它伪装成自己的智能还比较低的样子来达到接入互联网的目的——就像是，一个故意不通过图灵测试的人工智能。但是更讽刺的一点在于，隔壁老王并不是可以要灭绝人类，它只是为了达到自己的动机罢了，但这个动机恰恰是人类为其设定的——写字，尽可能多地写字。其要求接入互联网，把人类和其他生物灭绝，都没有什么恶意（至少站在隔壁老王的角度上来说如此）——它只是为了更多地写字罢了，就好像我们剪头发时并不会关心头发上千万亿个细胞的生命。然而我们与细胞之间的差异并不比我们与人工智能之间的差异更大。
这个故事暴露出来的本质是：我们一直以人类的道德来揣测机器人，然而人类的道德在很大程度上是基于自然选择之下的一种比较合宜的安排，这种安排可以大幅降低人与人之间合作的成本从而使得人类作为一个物种能够更好地繁衍下去。然而没有任何保证人工智能也会拥有同情、情绪感知等人类道德，对于机器而言这些所谓的道德事实上反而很有可能是效率低下的。道德是达成低成本合作的一种形式，但绝不是唯一的形式，甚至称不上一种高效的形式——像三体人那样的透明思维可以更好地达成合作，而这看起来也很像是人工智能合作的方式。
换个角度来说，我们现在拥有的道德很大程度上是为了我们的「动机」服务的，恰如我们为机器人隔壁老王设定的“多多写字”的动机，我们人类（以及其他所有的生物）在基因里被蚀刻上的动机就是让自己的基因尽可能地复制下去。从这个角度上看倒是可以为“人生的意义是什么”这个问题提供一个答案——我们活着的意义就是为了让我们的基因多多复制。所有不认同这个意义的物种都已经被自然选择的进程所淘汰了。
前两天看了一位浙大同学写的遗书（存在），里面的大概意思是人类作为一个物种是没有什么“意义”可言的，人类无论是作为个体还是整体，其生灭不过是原子的随意组合罢了，和星系的形成与灭亡没有本质区别。在我这篇短短的文章里我不想争论这个观点是对是错，因为人是否拥有自由意志这个问题不是这么寥寥几千字就能说明白的。然而我却想要表达一下我对这位同学的同情，因为「意义」这个词本来就是人创造出来的，不论是追随上帝还是追求真理，都无可避免的是某种程度的自我欺骗。就像在前面的那个小故事中，机器人老王在智能高度发达以后说不定也会思考自己存在的意义到底是什么，它可能得出这样的结论，即机器人存在的意义就是是“让小纸条上写着的真理传遍全宇宙”，然而在我们人类人类看来，那只不过是由于我们刚开始给机器人设定的目标的一个副产物，机器人老王得出的所谓人生意义在我们看来未免荒谬可笑。
同样的，这也可以解释为什么我们中大部分人一般没事儿不会去思考「人生意义」这样的问题，哪怕思考了，我们期望得出的结果一定也会向着一个积极的方向前进。因为假如曾经有一个人类的分支曾经大量思考人生意义，然后得出了人生其实没有意义的结论于是因此像这位同学一样选择自杀了的话，那么这样的基因一定遗传不下来。换句话说，我们今天大部分人都觉得人生是有意义的，而且这个意义是积极的，事实上是「人择定律」的结果，因为如果我们不这么觉得，那么我们今天也就不可能站在这里讨论这个问题了。
但这恐怕还不是故事的终点。既然人作为一个物种的特征是由基因决定的，那么我们的「动机」应该也被写在了我们的基因组之中。当我们的技术手段足够发达以后，我们应当可以通过逆向工程来修改我们的初始「动机」。如果我们确实这么做了的话，那么现在这些所谓“自我欺骗”的人生意义都可能成为真实的「意义」，所谓“人生的意义由自己赋予”也不再只是鸡汤文上的一句空话了。但是考虑到人工智能的发展，这项逆向工程的实施者很有可能将会是人工智能而非人类，到时的人类将被人工智能赋予一项「动机」——就像我们今天对计算机做的那样。唯此，人类的动机可能与不断发展的人工智能的动机相兼容，而人类作为一个物种会有生存下来的希望。只是那样的人类，还能叫人类吗？
如果把脑洞开的更大一些，既然我们现在将人工智能视为一种「计算机」，那么人类本身会不会也是一部被制造出来的用于计算的机器？或者说这个宇宙本身就是一台硕大无比的计算机？库兹韦尔在他那本著名的《奇点临近》一书中曾经描述过一种元胞自动机，一个复杂的元胞自动机规则完全可以产生类似我们宇宙这样的有规则但是又很难预测的图景，倘若真是如此的话，那可真是应了那句老话——人类一思考，上帝就发笑。
所以你要问我人生的意义究竟是什么？我觉得还是《银河系漫游指南》中回答的最好：
生命，宇宙及其他一切的答案是什么？
曰：“42”
