关于作者：

大家好，这里是独立思考的悠悠，家有嘟宝一枚。这是我1000天写作的第4天，以此记录，鼓励我持续阅读、深度思考、如实记录。

今天，我读《今日简史》的章三章和第四章，以下为读书摘录、笔记或感想。
——————————————————————————————
一、自由与算法

自由主义相信感受，相信自由选择。就自由主义看来，人类的自由是最重要的价值，所有权利都来自于个人的自由意志，表现在每个人的各种感受、欲望和选择之中。

在过去几千年的时间里，人们相信权威来自于神，而非内心。到了最近几个世纪，权威的来源变成了有血有肉的人。然而很快，权威的来源可能再次改变：从人类转为算法。

过去，神的权威是靠宗教神话建立的；人的权威是靠自由主义故事建立的；而对即将到来的技术革命，则可能建立起大数据算法的权威，同时完全推翻关于个人自由的信念。

科学研究显示，对于人脑和人体运作方式，人们的种种感受只是所有哺乳动物以及鸟类所拥有的生化机制，用来快速运算生存和繁殖的概率。感受的基础，不是直觉、灵感或自由，而是运算。

猴子、老鼠和人类看到蛇的时候会感受到恐惧，是因为大脑里的几百万个神经元迅速计算了相关数据，并得出“死亡的可能性很高”这个结论。对于愤怒、内疚或宽恕之类的道德感受，是源于与团体合作相关的神经机制。

所有这些生化算法都经历了数百万年的进化打磨。如果某个古代祖先的感受犯了某个错误，塑造这些感受的基因就不会再传给下一代，因此感受并非与理性背道而驰，而是体现了进化上的理性。

我们通常不会意识到各种感受是出于运算，原因在于这些快速运算远不在我们的意识阈值范围内。我们感觉不到大脑几百万个神经元，在怎样运算着生存和繁衍的可能性，于是就有了一种错误的想法：我们对蛇的恐惧，对伴侣的选择等，是出于什么神秘的自由意志。

现在我们正处于两次巨大革命的交汇中，一方面生物学家正在解开人体的种种奥秘，特别是大脑和人类的感受；另一方面计算机科学家也让我们获得了前所未有的数据处理能力。生物技术革命和信息技术革命融合之后，大数据算法有可能比我更能坚持和理解我的感受，而掌控一切的权威也可能从人类手里转移到计算机手中。

二、数字独裁

随着科学家越来越了解人类的决策机制，对于算法的依赖可能也会越来越强烈。掌握了人类的决策机制以后，能提升大数据算法的可靠性，同时也降低了人类感受的可靠性。

人类的身体能力正发生这样的情况。以找路为例，现在很多人都用谷歌、高德或百度地图来导航。在过去，他们大概会听从直觉，结果一左转就遇上了堵车，最后错过了重要会议。再下一次，他们就决定听从谷歌、高德或百度地图的指示，向右转并且准时到达目的地，就这样他们从经验中学会了要相信谷歌。一两年后他们已经习惯了盲目的遵从谷歌地图的指示。

2012年3月，三名在澳大利亚旅游的日本游客决定到一个小岛上一日游，结果却把车一头开进了太平洋。21岁的司机后来说：她只是按照GPS的指示开车，GPS说我们可以开过去，它一直说会把我们带到一条路上，然后我们就这样开进了海里。

在自由民主主义和自由市场资本主义眼中，每个个体都是自由自主的行动者，不断对世界做出各种选择，但是随着人类越来越依赖人工智能来做决定，一旦我们交由人工智能来决定读什么专业，在哪里工作，和谁结婚，人的生命就不再是一场决策大戏。

世界可能不再是一个自主的人们努力做出正确选择的剧场，相反我们可能认为整个宇宙就是一个数据流，每个有机体不过是一套生化算法，至于人类在这个宇宙中的生物，则是打造一套无所不能的数据处理系统，然后与系统融为一体。

其实我们现在就已经像一个又一个小小的芯片，装在一个大到没有人真正能够理解的数据处理系统当中。我们现在不知道这世界上一切的背后有什么宏观架构，我所产出的数据将如何与其他几十亿人或者计算机产生的数据相连。

很多人之所以害怕人工智能，是因为他们不相信人工智能，会一直听话顺从，已经有太多描写机器人反抗人类主人。然而机器人带来的问题其实是这样：我们是该害怕机器人，但原因是因为他们只会服从主人，绝不反抗。

如果它们的主人是个好人，那么盲目听从是没有什么问题。

如果程序代码规定，机器人士兵一定要冷酷无情、赶尽杀绝，结果会是一场大灾难；如果程序代码规定要有所克制、立意良善，机器人的表现会远远优于一般的士兵。

机器人真正的问题并不在于他们的人工智能，而是那些人类主人天生的愚蠢和残酷。

会造成危险的，不只是机器人杀手，监控系统同样有风险。在好政府手中，强大的监控算法可能是人类历史上发生过的最大的好事。然而同样一套大数据算法，也可能养出奥威尔笔下的那种监控政权：所有人无时无刻不遭到监控。

最后我们可能会得到连奥威尔都难以想象的结果：完全的监控政权，不但追踪所有人的一切行为和话语，甚至还能进入我们体内，掌握我们的内心感受。

比如：如果某国领导人拿到这项新技术，想想看他会如何应用。在未来可能要求该国所有公民都佩戴生物统计手环，不仅监控他们的一言一行，还掌握他们的血压和大脑活动。随着科技越来越了解大脑，并且运用机器学习的庞大力量，该国政权可能会是有史以来第一次真正知道每个公民在每时每刻想些什么，如果你看到一张该国领导人的照片，而生物传感器发现你出现愤怒的迹象（血压升高，杏仁核活动增加），大概明早你就会被抓进监狱。

随着算法变得如此了解我们,某些政权能够对公民进行绝对的控制程度甚至超过纳粹德国，而公民可能完全无力抵抗，这种政权不仅能够明确掌握你的感受，甚至还能控制你的感受。

在未来的最高权力阶层，可能还会有几个人类，就会让我们有个有个错觉，以为算法只是一个顾问，最终的权威还是掌握在人类手中，我们不会任命某个人工智能来担任谷歌的执行总裁，或者说是美国总统。

未来的危险，除了数据独裁之外，大数据算法可能会抹去自由，同样也可能创造出历史上最不平等的社会，让所有的财富和权力集中在一小群精英手中，大部分人类的痛苦将不再是受到剥削而是更糟的局面，再也无足轻重。

但是总统和首席执行官的决策，会由人工智能来制定，总统手中会有几个不同的选项，但所有的选项都是由大数据分析的结果，反映的也是人工智能看世界方式，而非人类看世界的方式。

三、未来的世界
人工智能兴起，可能会让大多数人类不再拥有经济价值和政治力量。

到了2100年，富人就可能真的比平民更有天赋，更有创意、更为聪明；等到贫富之间出现真正的能力差异，要想再拉近几乎不再可能。如果富人运用优秀的能力进一步强化自己，而且拥有更多的钱，就能买到更强的身体和大脑，那么随着时间的推移，富人和平民的差异只会越来越大。到了2100年，最富有的1%人群，可能不仅拥有全世界大部分的财富，更拥有全世界大部分的美丽、创意与健康。

在生物工程与人工智能兴起后，人类可能会分裂成两个群体：一小群超人类以及绝大多数位于下层而且毫无用途的智人。雪上加霜的是，等到民众不再具备经济和政治上的力量，国家对国民健康、教育和福利的投资意愿也可能降低，成为多余的人是一件非常危险的事。这时候民众的未来只能依赖一小群精英能否心存善意，就算这种善意能维持几十年，但只要遭遇危难，比如气候突变，要把多余的人抛到脑后，实在太诱人，也太简单。

全球化非但没有让全球统一，还可能造成种族分化。人类分化成不同的生物种性，甚至直接成为不同的物种，全球化会让世界横向统一消除国界，但也让人类纵向分化成不同的族群。

长远来看，这甚至会造成全世界的去全球化：上层种姓聚集起来自称“文明”，用城墙和护城河把自己和外界的野蛮人隔开。

在20世纪工业文明需要野蛮人的廉价劳动力、原材料和市场，所以文明征服野蛮并加以吸收，但到了21世纪后，工业文明需要的是人工智能、生物工程和纳米科技，比起过去更能自给自足，自我维系。于是，不只是整个人类，就连整个国家、整片大陆都可能变得无足轻重，到时可能就会出现“文明区”和“野蛮区”的区别，两者之间由无人机和机器人形成边界。在文明区里作战的是生化人，彼此互掷逻辑炸弹，而在野蛮区里用的是砍刀和AK-47突击步枪。

尤瓦尔.郝拉利用第一人称的复数来讨论人类未来，我们该做些什么才能解决我们的问题？

但，也许根本就没有“我们”，也许“我们最大的问题”就是“不同的人类团体会有完全不同的未来”。

也许在世界的某些地方要教给孩子的是怎么写计算机程序，而在另外一些地方该教的是怎样拔枪拔的快射击射的准。

四、谁该拥有它？
在古代，土地是世界上最重要的资产；到了工业时代，机器和工厂这些重要的生产工具大部分集中在少数人的手中，社会就分裂为资本家和无产阶级；但在21世纪，数据的重要性超过了土地和机器，于是政治斗争便是要争夺数据流的控制权，等到太多的数据集中在少数人手中，人类就会分裂成不同的物种。

从近期来看，争夺数据的比赛已经开始，目前以谷歌、Facebook、百度和腾讯等数据巨头为首，他们靠提供免费信息服务和娱乐来吸引我们的注意力，再把我们的注意力转卖给广告主，然而他们的真正目标是靠吸引我们的注意力，取得关于我们的大量数据，这些数据远比任何广告收入更有价值，我们不是他们的用户，我们只是商品。

从中期来看，这一大批数据可能带来一种全新的商业模式，而第一个受影响的就是广告本身。这种新商业模式的基础就是将权力从人类转移到算法手中，包括选择和购买商品的权利，一旦开始由算法为我们选择购买商品，广告业就会崩溃。

而从长期来看，只要取得足够的数据和运算能力，数据头，就能够破解生命最深层的秘密不仅能为我们做选择或者操纵，我们甚至可能重新设计生物或无机的生命形式。

从数据巨头的行为来看，将收集数据看得比实际获利更为重要。随着越来越多的数据通过生物传感器，从身体和大脑流向智能的机器，企业和政府将更容易了解你、操纵你，为你作出决定，更重要的是它们还可能破译所有人身体和大脑背后的深层机制，拥有打造生命的力量。

如果我们想要阻止一小群精英分子垄断这种神一般的权力，如果我们想要避免将人类分裂成不同的物种，关键的未来是谁拥有数据：关于我的DNA，我的大脑和我的生命，这些数据到底是属于我属于政府，属于企业还是属于全体人类？

第一种情况授权让政府把这些数据国有化，或许能够对大企业发挥抑制作用，但也可能导致令人毛骨悚然的数字独裁。

第二种情况，将数据交给企业家，但是交给企业家的数据还是可能流入到某国领导人手里。

第三种情况也许把数据拥有权握在自己手里，听起来更有吸引力，但是我们其实也说不清楚这是什么意思。关于拥有土地，我们已经有几千年的经验,知道怎么在边界上设置围篱、在大门口设置警卫、控制人员进出。讲到要拥有数据，我们就没有太多经验了，这是一项更为艰难的任务，因为不像土地或机器，数据无所不在，但又不具真实形态，可以光速移动，还能随意创造出无穷无尽的副本，

我们呼吁所有的律师、政治家、哲学家和诗人，好好注意这些难题：如何规范数据的所有权。

我们到底该何去何从？
又该如何应对生物技术和信息革命的重大挑战？
或许那些为世界带来破坏性创新的科学家和企业家，能用科技找出解决方案？
或许能不能用算法形成网络，支持全球人类社群，让所有人共同拥有所有数据，一同监督未来的生活发展？
我们能一起做些什么呢？

2018年10月25日于北京海淀区