《赛尔计划》学员介绍——烈焰猩猩，赛尔计划烈焰猩猩培养

机器能否拥有意识？

1. “他的爱是真的，但他不是”

这是著名导演斯皮尔伯格编导的科幻电影《人工智能》的宣传语。年轻夫妇莫妮卡和亨利，因为儿子马丁身患重症在医院不醒人事，决定收养一个机器人聊以慰藉。与儿子年龄相仿、高度逼真的男孩机器人大卫就这样来到了家里。经过一番磕磕碰碰，大卫对新的环境逐渐熟悉起来，也和“父母”建立起了感情。过了不久，马丁苏醒过来，并且康复回家。真假“儿子”之间不断产生矛盾，夫妇决定把大卫遗弃。莫妮卡把大卫带到荒无人烟的郊外，趁他不备奔回汽车，含着眼泪疾驰而去。于是，机器人大卫开启了寻找自己挚爱“母亲”的征程。

图1 机器人大卫与“母亲” 莫妮卡

机器人能否拥有爱的能力？其先决条件是它必须拥有情感和自我意识。这涉及到当今科学面临的最大的一些难题：意识是什么？产生意识的机制是怎样的？人为什么会有意识？机器能否拥有意识？

对于机器能否拥有意识这一问题，科学家们也是莫衷一是。同样是脑科学权威，迪昂（Stanislas Dehaene）持肯定态度<4>，而达马西奥（Antonio Damasio）和科赫（Christopher Koch）则持否定态度<2><8>。

本文总结脑科学、认知科学、心理学中关于意识的一些研究成果，讨论意识与智能机器的关系，阐述笔者对这个问题的看法。

2. 意识是什么？

在所有的自然现象中，再也没有比意识对人来说更加重要且更加神秘莫测的了。长期以来，由于缺乏有效的方法，意识一直被认为是科学研究的禁区。随着脑科学技术的进步，近20年来对意识的研究取得了一些初步的成果。但研究还都处于初级阶段，甚至对意识的定义科学家们也没有一致的意见。

一般来说，意识是指人的心智中感受到的对内部身体和外部环境的知觉。意识有多个特点，可以从多个角度理解。意识是清醒时人脑处于的一种状态，与其相对的其他状态是深度睡眠<1>、昏迷、死亡。意识是主观的，是每个人以自我为中心的精神活动，对我们每个人来说自己的意识是持续的、一贯的、稳定的。同时，意识又是客观的，它对应着人脑神经系统的高层次处理，由人脑神经系统的低层次处理支撑。“我思故我在”，意识包含个人对自我存在的知觉，意识始终有自我意识伴随。意识与下意识密切交互，接受下意识的各种信息，也给下意识做出反馈。意识让每个人认识到自己与环境的关系；将当下的自己与对过去的记忆、对未来的想象联系到一起。意识是生命现象，推测只有人和高等动物拥有，是在长期的进化过程中产生的信息处理机制。

研究意识非常困难，根本原因在于它颠覆了科学研究的前提。科学研究一般是基于第三者体验（third person experience）的，而我们每个人的意识都是第一者体验（first person experience）。科学是站在第三者的角度，观察现象，总结规律，建立理论。正因如此，大家的研究结果可以共享，能够保证其可查察，可验证，可反驳。相反，每个人的意识都是自己的个人体验，很难甚至不可能与他人共享，阻碍了对意识的研究。

3. 产生意识的机制是怎样的？

谈到意识，我们最直观的理解就是自己脑中一直出现的那个“小人”（Homunculus）<2>，主宰着我们的一切判断和决策。但是当代科学的研究发现，这如同我们直观感受的彩虹、日出日落一样，是我们的错觉。这个小人应该是不存在的，产生意识的机制是非常复杂的。

虽然当今脑科学对意识的整体机制了解仍然有限，但是对其部分原理的研究已取得了一定的进展，也有一些可信的假说。这里首先概述脑、心智、表征、表象等基本概念，然后介绍脑科学关于意识的一些学说。

3.1 脑和心智

人脑由大脑、小脑、脑干、间脑四个部分构成（见图2）。大脑位于头的顶部，分左右两个半球，表面覆盖着大脑皮质。大脑两个半球又分成不同的脑叶，从前到后有前额叶、顶叶、颞叶和枕叶（见图3）。脑干位于头的底部，与脊髓连接，由脑桥等组成。间脑位于大脑和脑干之间，由上丘脑、丘脑、下丘脑等组成。小脑位于大脑之下，脑干之后（见图2）。

图2 人脑的各个部位

图3 大脑的四个区域

心智（mind）是指人的“内心”，包括其中的对自己和世界的感觉、知觉、以及思维。脑本身是物质的，而心智是精神的，两者形成一个统一体（因此，这两个概念也经常不严格区分）<3>。笛卡尔提出了所谓的心身问题（mind body problem），认为物质（人脑）和精神（心智）是可分的，精神可以独立于物质存在，也就是二元论（dualism）。当代科学基本认同一元论（monism），认为物质和精神是不可分的。认知科学家福多（Jerry Fodor）曾做出这样有趣的评述：“自怜可以让人流泪，洋葱也可以”。直观地说明了脑和心智构成统一体的事实。心智又分为有意识的心智（conscious mind）和无意识的心智（unconscious mind），或者简称意识和无意识。无意识也称为下意识。

3.2 表征和表象

神经表征(neural representation)或表征是指人脑神经网络中形成的表示信息的状态<1><2>。表象（image）是指人的心智中产生的对事物形象的认识，包括视觉、听觉、运动等的表象<1><2>。表征是人脑中的概念，而表象是心智中的概念。表象是基于表征产生的。

人脑整体是一个巨大神经网络，有千亿量级的神经元，由千万亿量级的突触连接。神经信号在神经网络上传播，使神经网络的状态发生变化。不同的状态表示不同的信息，可以认为一种状态形成一个表征。

大脑皮质分不同的区域，有视觉、听觉、味觉、触觉、运动等区域（见图4）。视觉区在枕叶，听觉区在颞叶，运动区和触觉区在顶叶，思维功能在前额叶。这些区域的神经网络分别存储或记忆了概念的视觉、听觉、味觉、触觉、运动等的表征。比如，看到一个人在喝水，或者在小说中读到一个人在喝水，都会使视觉区的一些神经元被激活，说明相应概念的视觉表征存储在了这些神经元。握住拳头，或者想象握住拳头，都会使前运动区的一些神经元被激活，说明相应概念的运动表征被存储在了这些神经元。人脑的神经计算和存储是一体的，概念的表征在人脑的信息处理过程中不断被访问，也在不断被更新。

图4 大脑皮质的各个区域

人的心智在感觉、知觉、思维的过程当中会产生表象。表象存在于意识（即有意识的心智）中，也存在于无意识（即无意识的心智）中。表象包括视觉、听觉、味觉、触觉、运动等的表象。比如，当大象的视觉信息进入到人的视网膜，传到视觉区时，视觉区开始活跃，视觉区神经网络中记忆的大象的表征被唤起，当人注意到这个信息时，在意识中大象的表象就会出现，觉察到大象来了。再比如，提到大象，人的意识中大象的视觉表象、听觉表象、触觉表象等会浮现出来，都是在人的成长和学习过程中积累而形成的对大象这个概念的认识。

心智可以感受到内部身体的状况和外部环境的状况，也可以对过去进行回忆和对未来进行想象，也可以进行抽象思维，其结果都是通过表象得到的。比如，身体的感觉，包括疼痛、饥饿等，还有情感，包括恐惧、喜悦等。再比如，抽象思维，包括语言、知识、推理等。所有这些都以表象的形式浮现于人的意识或潜在于人的下意识。人的感觉、知觉、思维的过程就是心智中不断产生新的表象的过程。

3.3 无意识

清醒时，环境中的各种信息通过各个感官传到无意识，无意识对输入的各种信息进行加工，通过注意力机制对信息进行排序和筛选，将重要的信息送达到意识。所有这些都是在意识不觉察的过程中发生的。意识基于得到的信息进行判断和决策，并且将处理的结果反馈到无意识。无意识进行的是并行处理，意识进行的是串行处理。几乎所有的脑区都既参与意识的信息处理，又参与无意识的信息处理<4>。

比如，看到一个人在发音。无意识会融合视觉和听觉的信息，判断那个人的发音内容，并将相关的表象传达到意识。再比如，听到别人说的一句话，无意识会对这句话进行理解，唤起句子中的每个词的词义以及相关的语法，通过语法将词的语义组合成整个句子的语义，并将句子的内容以表象的形式传达到意识。

对信息进行筛选和排序的是注意力（attention），注意力本身也存在于无意识中。比如，在鸡尾酒会上，很多人同时说话，周围非常嘈杂。注意力会有选择地将主要对话对象的声音进行处理，将结果传达到意识。这时，如果周边传出异常声音，注意力会提高对异常声音处理的优先级，促使意识进行快速应对<4>。

无意识的信息筛选和排序在我们的思维过程中起着非常重要的作用。我们经常以为自己的判断和决策都是来自自己的意识（头脑中的“小人”）。大量的事实证明，事实并非如此，经常发生的是，判断和决策过程中无意识是主角，意识只是配角，但意识却误认为自己是主角。心理学家卡尼曼（Daniel Kahneman）等通过大量实验揭示了下意识和意识之间的这种合作关系<6>。

注意力将大脑的处理集中到了的特定信息上，只有被关注的信息才能进入意识。通常在无意识中存在多个对世界的解释，而在意识中则变成了一个。图5中是使人产生视觉错觉的漫画，可以认为画中是一位年轻女子，或者是一位年长妇人。人在看这幅漫画的时候，无意识对两个可能的解释进行选择，并传达给意识。意识一旦获得了一个解释，就会忽略另一个解释。而具体哪个解释优先完全依赖于无意识的选择。

图5 画家W.E.Hill的漫画“我的妻子和我的岳母”

3.4 意识

脑科学家迪昂认为意识有三个主要元素：清醒时的状态、注意力、意识触达（conscious access）。他提出意识是全脑信息共享的机制，并且将意识概括为“工作空间”（work space）。我们直观的“意识到什么”就是意识触达，是整个工作空间的信息处理的结果<4>。

意识意味着全脑的信息的整体同步。脑科学家科赫等认为意识是人脑内在的各种表象通过因果关系联系起来的整体<7><8>。

意识与记忆有着密切关系。只有关注到的信息，其表象才会进入到意识层面，大脑才会将其存储到长期记忆中。记忆的信息以表征的形式存储在大脑皮质的相关脑区。相对的，无意识中处理的信息会被瞬息遗忘。

无意识-意识的这种并行-串行处理结构，具有很强的强健性和灵活性。整体是去中心化的（decentralized），没有全局的指令系统，而是有很多相对独立的子系统，每个子系统形成一个中心，在无意识中运作，子系统之间通过意识进行交流。这样当部分子系统出现问题的时候，其他子系统也依然能够继续工作，甚至承担出问题子系统的一部分功能。

与意识密切相关的脑的部位主要有脑干、丘脑、大脑皮质，特别是其中的前额叶和顶叶<2><4>。脑干能起到意识的开关的作用，当脑干顶部的脑桥受到损伤时，人就会失去意识。丘脑在整合信息和产生表象过程中起着重要作用。前额叶是意识的信息交互枢纽。前额叶通过长距离回路，能够从人脑的各个区域收集信息，也能将信息传递到整个人脑。同时，意识中的重要信息处理，包括推理、规划、想象等推测也是在前额叶中进行的。

4. 意识意味着什么？

4.1 意识与进化

当代科学认为意识是在生物进化过程中逐渐形成的。单细胞生物，如草履虫，不拥有脑，但也能适应环境，在环境中生存，实现呼吸、消化、生殖等基本生命功能。昆虫类和鱼类拥有简单的脑，猜测它们心智中能产生朴素的感觉，可以隐约地感受环境，但很有可能它们没有意识。从爬行类到鸟类，再到哺乳类，乃至灵长类，动物的脑变得越来越发达，猜测它们心智中形成越来越强的意识，能够感知和认知环境，应对环境的变化<2><4>

。

为什么动物在进化过程中会产生意识？一个假说是，拥有意识的心智能更好地应对环境的变化。单细胞生物没有心智去感受环境，只能被动地应对环境的变化。有心智而无意识的低等动物能对环境有一定的感受，但对环境输入信息的处理能力有限。有意识的心智使高等动物拥有更强大的信息处理机制，对输入信息进行并行处理，在其基础上进行排序和筛选，然后进行串行处理，就此不断重复；这样，高等动物可以更好地“理解”世界。

4.2 意识与智能

人类的脑和灵长类动物的脑有很多地方非常相似，但前者更加发达。人类和灵长类动物的主要区别在于人类拥有语言能力和思维能力，而灵长类动物没有。可以认为意识结合语言和思维造就了人类的智能<4>。

布洛卡区和韦尼克区是颞叶中与语言相关的区域，维尼克区负责词汇，布洛卡区负责语法。语言能力由两部分组成，一是将符号与概念关联，另一是对符号进行组合（composition）处理。人的语言理解是在无意识中进行的，但语言理解产生的结果会以表象的形式在意识中出现。没有证据显示灵长类动物具有布洛卡区<4>。

人的思维包括推理、规划、想象。如上所述，前额叶承担全局信息的收集和分发的功能，也与思维密切相关，是意识的信息枢纽。灵长类动物的脑中也有类似的区域，但是人脑中的这个区域更加发达<4>。

4.3 自我意识

脑科学家达马西奥指出意识包括三个主要元素，清醒时的状态、运行的心智、对自我的知觉。他特别强调自我在意识中的重要作用，认为自我意识是源于维持生命的需要。他将自我意识分为三个层次，原我（proto self）、核心我（core self）、自知我（autobiography self）。一般的动物有原我和核心我，而自知我高度依赖于语言和思维，只有人类才具备。原我是指动物由内部身体的感受带来的自我意识，比如，感到饥饿和疼痛时。核心我是动物与外部环境互动时产生的自我意识，比如，在识别食物和天敌的过程中。自知我是在原我和核心我的基础上，与对过去的记忆和对未来的想象相结合，在意识中产生的持续的、稳定的、高层次的自我意识，就是我们每个人脑中的“小人” <2><3>。

判断动物是否拥有自我意识有著名的镜子测试（mirror test）。让动物看到自己在镜子中的形象，观察他们是否能意识到镜子中出现的就是自己。大猩猩，黑猩猩，鲸鱼、海豚等能够通过镜子测试，说明它们拥有自我意识。两岁左右的人类儿童也能通过镜子测试，说明人类的自我意识是在出生后大脑发育过程中逐渐形成的<4>。

4.4 自由意志

自由意志（free will）是指在决策过程中人拥有的自主决定的能力。通常是在意识中存在多个选项，人从其中挑选一个。这里说的决策，小到选择吃什么食物、穿什么衣服，大到选择自己的专业、职业、配偶。现实中谈到自由意志，更多的是关于与道德责任、善恶等相关的抉择。

人是否拥有自由意志？这是哲学、宗教等领域辩论了两千多年的话题。一个主张是决定论（determinism），认为人的判断和决策由上帝、自然法则、或者基因完全决定，也就是说，人没有自由意志。与其对立的一个主张是自由主义（libertarianism），认为人是自由的，有权利和能力做出自己的判断和决策。还有其他各种主张。至今，自由意志仍是一个广为争议的哲学问题。

如果上述关于意识的学说是正确的话，人的自由意志应是心智中一个复杂过程的体现。首先，人作为生命体和社会人，其判断和决策同时受到信念、愿望、欲望的驱动，受到理性、伦理、道德<4>的敦促，也受到身体状况、情感的影响。其次，自由意志是建立在每个人的先天素质、后天经历、特别是所受教育的基础之上的。再有，自由意志是意识和下意识共同参与决定的结果，而且下意识起着至关重要的作用。自由意志取决于人脑，但反过来又作用于人脑。所有这些要素的综合就是我们每个人感受的自己的“自由的”意志。

相对地，很难想象机器能拥有像人一样的自由意志。机器是人设计制造出来的，无论它的决策是确定的还是随机的，其行为都在设计范围之内。机器行为的基本原理和机制与人有着本质的区别。机器没有人所拥有的自由。

5. 智能机器与意识

智能机器与传统机器的不同点在于它们拥有自主性（autonomy）。比如递送机器人能在环境中自主地行走，对话系统能跟人进行“自然的”对话。所以会给人一种错觉，认为智能机器是不是拥有意识，或者拥有自由意志。显然，目前的所有智能机器都是为了完成特定任务而设计和开发的，只能完成相关的任务，不拥有意识。也就是说在这种意义上它们跟草履虫是类似的。

图灵在研究智能机器的时候，有意回避了什么是智能，以及什么是意识的问题。他认为人脑的主要功能是思考（thinking），而思考可以还原为计算。我们应该关心如何通过计算的手段使机器像人一样思考。而判断机器是否达到了人的思考能力的实验，就是他构想的图灵测试。图灵认为判断机器是否智能或者是否拥有意识都是没有意义的，我们和其他人进行对话的时候，不会怀疑对方是不是真人，只要他们能够和我们进行正常的交流，我们就会假设他们是和我们一样的<10>。

如果人工智能的目的是为人类提供有用的工具，使得人类的生活更加美好，那么我们应该力图构建合理行动的智能机器，而不是像人一样行动的智能机器<10>。假如为了实现这个目标需要实现类似意识的机制，使得机器拥有更高的性能或更高的效率，那么我们就应该朝着这个方向努力。

从脑科学的角度看，意识的本质是生命现象。要在机器上实现人脑中的意识，应该是极其困难的。事实上许多脑科学家，包括达马西奥和科赫，反对把人脑看作是计算机器。人脑不仅拥有神经系统，而且拥有循环系统、内分泌系统等，更重要的是人脑只是人的身体的一部分，整体形成了一个极其复杂和强健的生命体，撇开人的身体只看人脑和意识是没有意义的。可以想象实现拥有跟人一样的有意识的机器，基本需要造出一个“人造人”。这不仅有社会价值方面的疑问，而且有社会伦理方面的担忧。

无论如何，在脑科学还没有把意识的机制完全解明的当前，判断是否能够实现拥有意识的机器时日尚早。但我们相信，部分实现意识的机制使得智能机器能更好地完成任务，这是完全可能的，也可能是必要的。

6. 未来畅想：机器人的自白

展望未来，人工智能系统将会越来越加智能，在很多功能方面达到或超过人类水平，帮助人类完成各种任务。在设计的范围内，机器可能能知觉到“自我”，具有一定的自我意识。和人类进行交互，包括和人类进行自然语言对话。科幻电影中的许多机器人，如星球大战中的C-3PO和R2-D2，确实有可能来到我们身边（见图6）。

图6. 星球大战中的机器人

另一方面，机器终究是机器，无论它们看上去如何智能。没有必要或者也不太可能让机器拥有像人一样的身体功能。也很难想象机器能像人一样产生情感，能像人一样进行创造，能像人一样行使自由意志。

大胆预测，200年以后人和机器之间可能有如图7所示的对话。

图 7. 未来机器人的自白

7. 后记

本文主要基于或参考以下书籍和报告的内容。

脑科学家迪昂认为意识是人脑中的广播机制，将各个脑区信息处理得到的表象传达到整个人脑<4>。脑科学家科赫认为意识是人脑内在的各种表象通过因果关系联系起来的整体<7><8>。脑科学家达马西奥指出自我在意识中的重要作用，主张意识是维持人的生命的基本机制<2><3>。

对意识、心智和自由意志的基本概念的介绍可参照维基百科。哲学家塞尔（John Searle）从科学和哲学的角度给出意识的定义，指出意识是可以通过科学的方法研究的<11>。认知科学家平克（Steven Pinker）从心智的计算理论的角度讨论意识，将意识视为访问信息的手段<9>。认知科学家侯世达（Douglas Hofstadter）指出意识的一个重要特点是自我与环境的互动，以及由此产生的无限循环<5>。心理学家卡内曼（Daniel Kahneman）研究人的思维中系统1和系统2的功能和相互作用，对应着下意识和意识<6>。计算机科学家罗素和诺维格（Stuart Russell, Peter Norvig）在人工智能哲学问题的论述中讨论了意识<10>。

参考文献

1. Antonio Damasio, Descartes' Error: Emotion, Reason and the Human Brain, Penguin Books, 1994. 中译：笛卡尔的错误，情绪、推理和大脑，殷云露，湛庐文化/北京联合出版公司，2018。

2. Antonio Damasio, Self Comes to Mind: Constructing the Conscious Mind, William Heinemann, 2010. 中译本：当自我来敲门：构建意识大脑，李婷燕译，北京联合出版公司，2018。

3. Antonio Damasio, The Quest to Understand Consciousness, TED Talk, 2011.

4. Stanislas Dehaene, Consciousness and the Brain, Deciphering How the Brain Codes Our Thoughts, Viking Press Publisher, 2014. 中译本：脑与意识，破解人类思维之谜，章熠译，浙江教育出版社，2018。

5. Douglas Hofstadter, I Am a Strange Loop, Basic Books, 2007. 中译本：我是一个怪圈，修佳明译，中信出版社，2019。

6. Daniel Kahneman, Thinking, Fast and Slow, Farrar Straus and Giroux Publisher, 2011. 中译本：思考，快与慢，胡晓姣，李爱民，何梦莹译，中信出版社，2012年。

7. Christof Koch, What Is Consciousness? Scientific American 318, 6, 60-64, 2018.

8. Christof Koch, The Feeling of Life Itself - Why Consciousness Is Widespread but Can’t Be Computed, MIT Press, 2019.

9. Steven Pinker, How the Mind Works, W. W. Norton & Company, 1997. 中译本：心智探奇，郝耀伟译，浙江人民出版社，2016年。

10.Stuart Russell and Peter Norvig, Artificial Intelligence: A Modern Approach, Third Edition, Prentice Hall, 2009.

11.John Searle, Consciousness and the Brain, TED Talk, 2013.

<1> 人在做梦时，也就是浅度睡眠时，是有意识的，但与清醒时的意识还不完全一样。

<2> 笛卡尔的比喻。

<3> 心智整体也是第一者体验。比如，大家高兴时的心理感受是不是一样的？猜测可能很相似，但很难用科学的方法验证。可以观察到的是，大家高兴时的身体反应是一样的，比如，都会露出笑容。

<4> 亚当·斯密斯指出，同情心、正义感、利他主义是人类道德的基本元素。