问题 / 答案 出处： 为什么有很多名人让人们警惕人工智能？
加速回报定律（Law of Accelerating Returns）
- 落后的文明演进的速度是很慢的，所以要产生能惊呆“石器时代”的人的社会，需要演进10万年，而到了这个阶段后，技术就踏上了一个更高的平台，然后在此平台上继续进化，就能获得更高的加速度。19世纪的技术就能把15世纪的人惊呆。而这只演进了400年。
- 到了20世纪，演进的速度越来越快，或许以后一次“上台阶”式的技术演进只需要几年，甚至更短。
为什么我们很难设想未来的场景？
这些因素会干扰我们的判断：
线性的思考方式：** 当我们设想未来10年的发展时，我们的参考是过去10年的发展路线**，所以我们会被过去10年的发展限制住头脑，限制住了跳跃性思考能力。
短期考量标准的误导：** 如果我们选取的参考周期太短，很可能被这短期的发展速度所误导**，而如果我们选取的参考周期足够长，则会自然而然的发现，实际上过去的发展也是跳跃式、指数级的。
个人经验导致误判：** 个人经验导致了我们固步自封，认为发展的规律就是这样的：从0到1，从1到2**。
人工智能是什么？
根据人工智能的能力，可以将其分为：
弱人工智能 Artificial Narrow Intellingence ( ANI )：擅长单方面工作的人工智能，譬如能下国际象棋的机器人；** 目前我们掌握的智能阶段即在此**。
强人工智能 Artificial General Intelligence ( AGI ) ：智能与人类相当，人能做的它都能做，甚至包括* 抽象思维能力*；
超人工智能 Artificial Superintelligence ( ASI ）：在很多方面都比人类聪明许多许多；
为什么从弱人工智能通往强人工智能那么难？
人类大脑太复杂。
造一个能在瞬间计算10位数算法的计算机，很简单；
造一个能分辨动物是猫是狗，或狗的种类的计算机，极端困难；
** 很多我们认为是『本能』的事情，对计算机而言，是非常困难的。**
通往强人工智能
- 加强电脑处理速度，提高运算能力；
描述计算能力的单位叫CPS （calculations per second），即每秒计算次数。
计算人脑的CPS，可以通过了解人脑中所有结构的最高CPS，然后加起来即可。
经过反复计算，目前得出的结果大约是每秒1亿亿次计算；
- 目前天河二号即可达到这个计算速度的三倍多，只不过需要720平米的占地，2400万瓦的耗电，以及3.9亿美元的建造费用；
- 考量计算机发展速度的方式，可以是计算** 1000美元能买到多少CPS。现在，1000美元大致可以买到10万CPS，也就是说，现在的计算机的CPS已经超过了老鼠，达到了人脑的千分之一**。
- 让计算变得更智能：
-
抄袭人脑（人工神经网络）
就是通过晶体管和晶体管之间建立一个类似大脑的网络，这个系统是空的，有输入、输出系统，然后让这个系统做任务，进行自我学习，一开始先用随机的方式来进行答题，获得正确的回馈后，增加连接，获得错误回馈则减少连接。
-
还有极端方法，就是通过整脑模拟，把大脑切成薄片，然后逐一仿造，最终拼成一整个完成的3D模型并装在强劲的计算机上…
目前我们达到的模拟阶段，是能模拟出1毫米长的扁虫的大脑，具备302个神经元。人类的大脑则有1000亿个神经元。
- 模仿生物演化（** 基因算法**）
即通过模拟生物演化进程来训练计算机自我进化。
流程大抵是建立一个反复运作的“表现/评价”过程让计算机自自我进化，并且以成功后能“繁殖”作为奖励，把各自的程序融合，产生新的计算机。而不成功的计算机将被剔除。
基因算法的优劣势：
优势：
- 自然演化是随机的，但我们可以设定演化方向，控制过程；
- 自然演化需要许多附件，如改良细胞产生能量，但我们能通过电力或其他能源获取方式来解决这个问题；
- 让电脑解决这些问题
建造一个能同时自我研究（人工智能）及优化代码的计算机，把计算机变成计算机科学家。
这个方案可能在短期内就被实现，因为：
- 发展速度的指数级增长；
- 软件发展的“顿悟”随时可能发生，继而产生一次飞跃；
强人工智能到超人工智能之路
即使是一台与人类一样的计算机，也具有很多优势：
硬件上说：
-
运行速度：
- 大脑运算速度最多200赫兹，机器可以达到2G；
- 大脑内部传递信息的速度是120米/秒，机器可以以光速传递信息；
容量和存储空间
可靠性和持久性（人脑会忘记东西，而且不太好备份信息，机器则很容易解决这个问题，且机器不会因时间而萎缩）
***软件上说：**** 1. 可升级、可编辑、更多可能性；
- 集体能力（运用联网技术，快速复制经验）；
递归式的自我改进：
人工智能的进化是递归式的（就是螺旋式上升），所以每一次进化后，等于就是站在了新的制高点上，在新的制高点上再次进化。
