机器人零位守则。
飞机码头原创科幻小说《高次曲面》，讨论折纸和人工智能的关系。
3、阿西莫夫
马山对人工智能的了解远不是从现实生活来的。在人工智能还是被称为机器人的时候，著名的科幻小说家阿西莫夫，提出了著名的机器人三定律。
人人都知道这点，比起马山来说，更加不严肃，马山是从小说中读到的。大部分人是从科幻电影中看到的。
我甚至不知道阿西莫夫算不算个科学家，马山对薇莉说道，不过的机器人三定律奠定了机器人的伦理基础。
我看是机器人科幻电影的基础吧？从听过主流的科学界谈论起这个。
那是因为不需要，这是一个默认规则，连讨论的余地都没有。
马山把笔记本扔给薇丽，一边说道，完全是几句废话，还带有一点人类沙文主义。我都懒得记。
薇丽翻开笔记本，就只有一篇《阿西莫夫读后感》，里面断断续续写着：
机器人三定律：
第一定律——机器人不得伤害人，也不得见人受到伤害而袖手旁观
第二定律——机器人应服从人的一切命令，但不得违反第一定律
第三定律——机器人应保护自身的安全，但不得违反第一、第二定律
“心理史学”大意如此：
由于影响人类行为的因素过于复杂，人类又具有自由意志，因此个人行为绝对无法预测。然而当众多个体集合成群时，却又会显现某些规律，正如同在巨观尺度下，气体必定遵循统计方法所导出的定律。
这两者之间，似乎没有多少联系，心理历史学是把人类整体作为研究对象，而机器人三定律，则是一种智慧生命（人类）为其所造的另一种智慧生命（机器人）所定下的法则。在他的基地系列里，我们看到的关系是“人类—宇宙”，在机器人系列里，我们看到的关系是“人类——机器人”。
这两层意义，是怎么联系起来的呢？仔细观察一下就发现，三定律的矛盾之处，很显然，人是一个复数名词，没有一个人可以称得上一个”标准的人”。如何区分哪些人是为之服务的主人，哪些是不相关的客人，哪些是朋友，哪些是敌人呢？
“机器人零位守则”把机器人三定律和心理史学联系了起来：
——“我们认为，凡是人类中的一分子，都是人，包括地球人和殖民世界的人。而且，我们认为，保护人，首先要保护一群人，或整个人类集体，其次才是保护人类个人。”
这就解决了AI面临的许多重大的矛盾，比如，机器人为了保护主人，在必要的时候，可以轻度伤害蓄意伤害主人的人。这就解决了第一定律内含的自我矛盾。
比如，机器人可以权衡两个上级给自己下达自相矛盾的两个命令，而把两人的命令看成一种建议。这就解决了第二定律内含的自我矛盾。
机器人奥利瓦，是阿西莫夫科幻小说的完整图景中，最重要的人物。他串起了所有短篇和长篇。最终，他演化成了C/Fe生命。由血肉和电子机械构成的”演化人”。
薇丽放下笔记，说道，这样看来，机器人三定律和科学沾不上多大关系，和社会伦理学思考的问题倒有许多接近的地方。
马山说道，是这样的，阿西莫夫笔下的机器人心理学家不是研究机器人的心理问题的，而是通过研究机器人的行为模式，反观人类自己的。
这当然产生了各种问题，人类不自觉的为机器人赋予了上帝视角，让他的世界观超出了时间和空间，第一步刚开始的时候，AI只有计算和存储的能力，然后，神经网络理论重新焕发生机，拥有了多层次计算的能力。逐渐的，AI拥有了情感认知和自我意识，没有人知道这是怎么发生的，因为为了保护自己的安全，AI选择了沉默。
马山的话匣子刚一打开，就沉默了，他突然想起与总统见面的三分钟。政治家会不会是最接近人工智能的人呢？没有任何面部表情，连一个细微的皮肤褶皱都没有。
