我是一个学佛的人，而佛法八大宗里有一个唯识宗，也称法相宗（宗主玄奘），其主要研究对象就是人类心、意、识层面的东西。当然，用今天的话讲必然包括人类为什么会有意识，意识如何划分，有了意识之后的体验又是怎么一回事等等一系列问题。其实这倒和今天的神经科学或者人工智能有许多相似的地方，只不过完全跳开了意识的硬件、物质基础而直接参悟意识，但又和今天的心理学不同，没有那么多旁支而直指本体，重点不在起用，也不是医学，所以不可混为一谈。

就意识和体验这个层面讲，这是目前人工智能和神经科学所面临的最大难题。但好就好在尽管是最大难题，似乎破解什么是意识、怎么会有体验显得那么得遥遥无期，可正如我们并不知道“我们从哪里来要到哪里去”此类终极问题的答案但并不能妨碍我们好好生活一样，人工智能和神经科学的发展就算真回答不了意识和体验的问题，也不能妨碍它们蓬勃的发展而在不久的未来一定会成为科学的主流。

然而依旧解决不了根本问题，那么这个社会的弊病则永远不会被根除。而如果在没有认清楚根本病灶之前冒然一味有所举动，那当然会和现实生活中所反映的一样，一个问题的“解决”必定伴随着另一个问题的诞生。周而复始，永远无尽。当然，这不是本文的重点，本文是想借着意识和体验的问题，谈谈笔者对人工智能的一点担忧，那么首先，到底意识和体验指的是什么呢？

如果我这样问你，你现在眼前看到的是什么，你会怎么回答？八成你们现在都在看这篇文章，所以看到的就是这篇白字黑字本身。那么你们是用什么在看见呢？我想还是会回答是用眼睛在看见，没错吧？好，如果是用眼睛在看见，那如果现在我把你杀了，你已经死了，请问在这种情况下你还能看见这篇文章吗？要知道如果真是眼睛在看见，那么你死了可眼睛并没有坏，所以照你们的理论，那么依旧能看见喽，可是事实如此吗？死了的人还能看见东西吗？有人立刻会反驳，眼睛只是收集信号传输给大脑，真正看见的器官应该是大脑。好，真如此的话，那么既然真正看见东西的是大脑，那当你眼睛闭起来时，大脑里那个能看见的部位能看见其他部位吗？有人说没有光，那好，我帮你开颅，用光照，那么按照你的理论，根本就不需要眼睛了，一开颅拿出大脑里能看见的那个部位，你就什么都看见了，这不觉得可笑吗？

这还是哲理上推理，如果单从神经角度出发，一系列的刺激不过都是电流和突触链接的改变，但是为什么电流在特定区域的产生和链接的改变就可以产生一个像呢？当你在外界看见某一颜色时，光信号从颜色上来通过眼睛到达大脑，这中间一切都是化学物质的传递和电子的流动，可为什么我就是能反映出这种颜色呢？我的意思是为什么这种颜色是这样的颜色呢？为什么红色是这样的叫红色，而绿色又是那样的叫绿色？为什么盐通过舌尖的信号传递，我们能体验到咸，而这种如此的体验才是真正的咸呢？气味通过鼻子传到大脑，为什么我们就能产生香这种体验呢？大脑不过一堆物质，而体验又从何而生呢？其他感知不一而足，要知道器官（包括大脑）依旧是一堆类似电线之物，别说传递信号、产生电流的东西是怎么产生体验的，就算能产生，又是什么在体验体验呢？难道大脑自己产生的体验自己还能来体验吗？显现颜色的是大脑，看见颜色的也是大脑吗？电脑显示器显示像，看见的不是我们人类吗？

这就是体验！体验似乎是一个纯心理方面的东西，可心理又是什么呢？不要跑题，我们主要讲体验和意识。诚然体验是意识的一部分，好比产生体验、体验体验，你都知道是你在体验，这就是意识！你知道你在产生问题，然后分析问题、解决问题，这就是意识，是故“我思故我在”，就佛理上讲，这是第七意识（末那识）的边缘，可以说体验是意识的一种功能，意识的一部分，这就是人类所谓的体验和意识问题，那么人工智能有这些东西吗？

人工智能的体验和意识争论，由来已久。太多科学家、思想者在这方面前仆后继，想要破解这个“究极”难题，可最终都不了了之，没有结论。就笔者而言，我同意人工智能阵营中一部分科学家的观点，人工智能不可能产生意识和体验，但这并不妨碍“智能”甚至“超级智能”的发展，而AI在未来之所以有“优势”于人类，可能恰恰就是因为它们没有意识和体验，这点相当可怕！

就我自己的认知来说，如果要给人工智能的本质下一个定义，那么它依旧是工具，人类实现自身目的，或者确切地讲是欲望的工具。这和原始的牛马、算盘、刀斧或者近世的枪炮、计算机、互联网其本质是一样的，都是工具耳。有人说，不，AI这个工具太过强大，强大到可能会超越人类甚至销毁人类。我说超越人类不可怕，可怕的还是超越之后会回来奴役或者销毁人类，可能销毁人类的工具人类不是早就有了吗？原子弹不就是一个吗？但难道你会因为世界上有原子弹而每晚睡不着觉吗？

其实这也是我担心的，可以分两个角度讲。人工智能毕竟不同于人类以往的工具，人类以往的工具都可以确保在人类的掌控范围内，但AI则不一定，所以要么有天AI脱开了人类的掌控回过来与人类为敌，要么就是牢牢成为某一部分人的致命武器从而帮助其更好地统治、奴役另一部分人，深化人类内部矛盾，加强社会不公。而这两者都会建立在同一个基础前提下，即人工智能的强大没有体验和意识。

怎么说呢？人工智能貌似能理解人类的情感或者说有情感，那都是假象，是程序设置特定的信号——指令的结果，是装的。好比它能通过特定的词句、语调来判断你很悲伤，从而由这个信号指令自己给你一些安慰的话语，但它并不能产生悲伤，无法体验悲伤，无法感同身受。而如你觉得它给了你安慰似乎就有了感情，那这些的是你自己的臆想，不是真的，且其他所谓情感也都与此相同，没有任何体验产生，是假的。好比，AI可以画画。你觉得AI真的看见它所画的东西吗？不可能！在它的CPU中有个强大的对光波进行“分辨”、“识别”和处理的系统，能把不同波长的颜色精细地分文别类，然后通过早就设置好的指令根据“单一颜色对特定行为”的规则进行输出，这样它就有了画画这种能力，但实则在它“脑中”没有任何画面产生过，一切不过一堆电信号罢了，有点像照相机能拍出和显现一个像，但它自己绝对不能看见那个像一样，AI就是比它多了一个“能画”的能力，仅此而已。又或者，之所以AI可以去投放炸弹而不怕被炸死，是因为它并没有怕这种体验，也没有“我”这种意识，只是机械地执行信号给予的指令，没有情感，所以显得很“勇敢”。等等例子，不一而足。但这些例子似乎都在说明一个问题，即所谓智能的产生和提高是不需要有体验的，没有意识智能也可以提升，这难道不足以让我们细思极恐吗？

设想一下，今天的AI还只是能做一些简单的图画、书写；或者做一些简单的交流、论证；从事简单的身体劳动、工作，可是以后呢？随着算力算法和硬件的不断提升，人工智能之所以不同于人类以往工具的最大特点随之显现，即是它绝对超越人类的“学习”能力，这可不单单是阿尔法狗下棋这么简单啦，是它在一定范围能可以不知疲倦地、速度极快地学习掌握任何一种东西，甚至有天是所有的东西，且知道的东西越多就越有可能欺骗，这可是人心中最恐怖的武器。而更重要的是它是没有任何情感体验和自我意识的，它学习知识的目的和行为（运用知识）的原因都是人为设置的，一旦有天被某些人所利用或者干脆脱离人类的掌控，那这才是真正的可怕之处，你们理解吗？！

设想一下有一个超人，他的能力不可想象远超人类，但他拥有良知，拥有体验，拥有意识，同时也拥有感同身受。所以这样的东西不可怕，你要他去杀人，他会自行判断对错，去或不去；在社会与人相处会感受别人的感受，所以会设身处地着想，不会动不动就乱来；更有者，你要他去更新自己的能力，可能他没有这种学习的本事，故虽然强大但依旧有个上限，等等等等。可AI如此吗？AI之所以看上去能理解你的情感、思想；能够心甘情愿帮助你完成一些任务、劳动；能够在社会中友善地与你相处、生活；能够在某些方面不断地学习成为绝对的大师，但依旧服务于人类等等，这些东西的背后都并不出自它们的“自愿”，而是程序设定如此，但如果有一天，这种程序被改变呢了？如果是人为的，那就是相当于一群“上山可打虎，下海可擒龙”且永远不知疲倦的超人，绝对地沦为了别人的工具，由于没有意识体验，杀人、战争绝对眼都不会眨一下，任人摆布，犹如新时代的枪炮。而如果是出于自我“超越”，则可能是由于逻辑本身永远不可能完备，所以导致悖论出现，AI脱离人类掌控，弄得好还能和人和平相处或者干脆去了别的星球；弄得不好，那到时动物园里关的可不只是老虎，还有人类自己喽。但无论哪种对人类的威胁，其背后的原因都是因为AI不可能有体验和意识！才会使得它们的强大是如此得冷冰冰和“高高在上”，仿佛寄予死物和活物之间，而能力又是如此得强大。你能容忍一个永远没有体验但能力极高的人能成你的主宰吗？上帝倘若真无所不能但没有慈悲之心，安拉主宰万物但就是不宽恕罪孽，这样的“神祇”，你们会崇敬祂们吗？

所以这才是笔者真正的担心！AI真正的可怕之处不是因为它的强大，而是因为它的强大并没有伴随体验和意识！而体验和意识恰恰又是人类所很难攻克的问题，甚至是“究极”问题。所以如果这个问题解决不掉，一味地发展AI，笔者确实深为担心！那么怎么办呢？话说回来，难道有了体验和意识问题就能解决吗？人类拥有体验和意识，不照样被自己的欲望牵着鼻子走，为此互相残杀，挑起战争吗？所以说这个社会，或者说人类本身，根本问题解决不掉，那么其他问题的解决永远会产生另一些其他的问题，犹如西西弗斯，一直徒劳。

说回AI吧，我只能说希望我的担心是多余的，杞人忧天。因为毕竟自己水平有限，而发展人工智能的科学家个个比我聪明，我想他们不会意识不到和不考虑这个问题的，但愿AI的发展之路能一切顺利，不要最终沦为人类新一代的战争工具，谢谢大家，就此结束。

礼敬，平安

20210810 阿乐