放开那只机械姬——人工智能中的意识与伦理上

1.

“人工智能”这一科幻题材长盛不衰的魅力，主要来自于人们对两个问题的好奇。首先，技术究竟能发展到怎样的程度——无论由人的努力还是程序的自我演化？运算速度越来越高的处理器，什么时候能比拟、并超过人脑的复杂程度？另一方面，思想和情感，究竟有着怎样的机制？“意识”对于这些机制是不是必不可少的？

哆啦A梦处在第一个问题的起点。它的认知和情感能力与人基本相同，甚至还有不少人所没有的弱点，比如馋、比如怕老鼠。《终结者》中的“天网”则远远超越了人类的智力，它刚刚觉醒就引发了核战。沿着这条坐标轴往前，我们会遇到许多伦理问题：该不该创造过于强大的人工智能、怎样与超越了人类的机器人相处，等等。对于这些，我们暂且悬置。我们将要关注的，是另一条线索上的伦理困境：当机器人的智能和情感表达无限接近于人类，我们该怎么解释它们的行为？同时，我们作为行动的主体，又该怎样对待机器人呢？

《哆啦A梦》似乎又一次为我们提供了参照的原点。在这里，哆啦A梦“机器人”的属性从来没有成为一个伦理议题。哆啦A梦自始至终都是大雄的朋友，也被所有人真心对待。它与人唯一的差别仅仅是有着机器构成的身体，而这点差别也被四维空间兜、小圆手、没耳朵、腿短等特征转移了视线。遗憾的是，这个理想化的世界并不能给我们多少启示，因为现实中的我们多出了三条初始假设：人有意识；机器往往没有意识；情感或伦理责任与对方的意识相关。由于前两条假设，我们需要借助图灵测试来理解机器的行为，而由于第三条假设，我们默认了自己与机器之间很难具有真正的情感或伦理责任关联。假如有一天，哆啦A梦真的从你抽屉里钻了出来，你或许惊讶，或许欣喜，但你也会在张开双臂准备拥抱它的大头时疑惑，这头里真的有意识存在吗？

为了消除这个疑惑，你也许会拉着它进行图灵测试。这是科幻作品所提示的，也几乎是我们绞尽脑汁所能想到的唯一的方法。当然，经典图灵测试应该满足不了你的要求。用聊天程序进行文字交流，能获得的信息毕竟非常有限。哈纳德曾指出这个不足，他提出一套更完整的图灵测试，这里，测试者和机器人之间可以更全面的交流，而判断的依据也不限于对方的文字反应。如果你给了哆啦A梦一个铜锣烧，它没有去吃，而是打了个哈欠，那么，测试失败。如果它吃掉了铜锣烧，却眉头紧皱，那么测试失败。只有当它欢天喜地的吃完，并妩媚的看着你，测试才基本成功。有人认为，完整的图灵测试，和经典测试基本等效——如果一个程序有着能瞒过人类的语言交流能力，其他的方面自然水到渠成。在这里，我们不准备争执两者是否等效，我们仅将讨论限定在完整图灵测试。电影《机械姬》中的AVA，经历的是基本完整的图灵测试。在这里，Caleb可以和AVA对话，通过眼神和表情交流。而AVA完全骗过了Caleb，让他以为自己爱上了他，并最终利用Caleb逃脱了控制。

现在假设，你的哆啦A梦也通过了这样的测试。假设它对你的反应，完全是一个人类的反应。这说明了什么呢？哆啦A梦真的就有“意识”了吗？或者说，AVA对Caleb的欺骗，是一个程序对一个人的欺骗，还是一个人对另一个人的欺骗？

图灵在他最初的表达中，回避了“机器能否思考”的问题。他使用了更安全的说法来阐释图灵测试的意义——机器能否“模仿”人类。通过了测试的机器，无论它是否有意识、无论它是否会思考，都至少能恰当的模拟人类的行为。不过，图灵最后还是做出了“机器能够思考”的引申。这一引申需要哪些条件，图灵没有做出过多论述。

一般认为，把图灵测试看作“机器能否思考”的标准，需要采纳行为主义语义学的立场。行为主义者不关心作为“主观体验”的意识或心理状态。在他们看来，“思考”、“开心”、“难过”等概念所对应的仅仅是我们经历这些时所表现出的“行为”。与主观体验不同，这些行为都是可以观察到的。至于我在笑的时候是不是真的“感觉到开心”，在行为主义者眼中是个没有意义的问题。对于这个粗犷的立场，你可能会想到如下反驳：我在真正开心的时候会笑，在尴尬的时候会假笑，而开心和尴尬是两个不同的状态，行为主义却无法区分。对此，行为主义者可以反驳说，开心时的笑，和尴尬时的假笑，表现出的行为是不同的。哪怕你装的非常像，也会有一些微表情的差异，这些差异即使你暂时观察不到，也是原则上可观察的。就算你的脸上真的没有任何异样，你体内的各种指标也会把你出卖——哈纳德的“全面图灵测试”，是要求双方在生物功能层面也无法分辨的。

说到这里，你是否觉得行为主义不那么荒谬了呢？完美的图灵测试，是否能够成为机器可以思考、具有意识的标准呢？在进一步探究之前，我们还需要指出行为主义和图灵测试背后的“日常直觉”。我们一般认为，没有“意识”的对象，是没法完成对话交流、表达情绪这些复杂活动的。所以，如果一个机器人真的通过了完美图灵测试，那么它很可能就是具有意识的——不然，它怎么可能通过测试呢？事实上，日常直觉是我们将“意识”赋予科幻作品中的人工智能程序的主要原因，而行为主义可以视为对这一态度的理论解释。毕竟，很少有人是彻底的行为主义者，然而当看到AVA和Caleb四目相对时，我们心中都难免响起“在一起、在一起”的呼声。不过，需要注意的是，无论日常直觉和行为主义是否同源，它们都有着一个显著的区别：行为主义将“意识”还原成行为，认为不存在行为之外的意识，而日常直觉却能够容纳两者的差别。

2.

尽管有着行为主义和日常直觉的支持，将图灵测试看作机器能否思考的标准，仍然会带来很多问题。

行为主义的问题在于，尽管它似乎能比较恰当的描述智能机器人的行为，却不能很好的解释我们对这些机器人的道德责任。从你抽屉里钻出的哆啦A梦，以及完全理解人类情绪反应的AVA，它们的言行可能和人类别无二至。我们甚至能够非常自然的和它们“相处”，无论是大雄作为朋友，或者Caleb作为恋人。然而，如果它们实际上的确没有“主观意识”，那么我们真的对它们具有道德责任吗？不该欺骗朋友、不该背叛恋人，是因为这么做会让对方“感到难过”。但如果对方只是具有难过的反应，却无法真正感到难过，很难说我们是否还有“不该欺骗”、“不该背叛”的责任。

或许会有人反驳说，就算它们没有主观意识，我们仍可能在自然的相处中投入情感，并因此获得道德责任。比如，就算哆啦A梦其实感觉不到疼痛，大雄也不愿伤害它；就算AVA很可能感觉不到情绪，Caleb还是坚定的帮她逃走；而《人工智能》中的Monica，则在David开口叫妈妈的时候母性泛滥，完全不担心他只是机器人小孩的事实。对于这个反驳，我承认，道德责任感很多时候来自于情感的支撑。正因为你对人投入了情感，你才觉得更应该对他们负责。然而，“道德责任感”，并不是“道德责任”。一个对社会充满责任感的人，可能实际上并不真正担负着责任。一位老太太在北京摔倒了，身在纽约的你可能“觉得”有责任扶她起来，但你并不就此真的负担了扶起北京奶奶的责任。另一方面，我们绕开“责任感”，而只谈“责任”——情感的投入本身，也不产生任何道德责任。你可以爱上一只苹果，爱的死去活来，你每天洗它、咬它、陪它看电视、禁止任何人用饥渴的眼神看它，你甚至对它说，“我愿意——今生只吃你这一只苹果”，并始终信守承诺。即便如此，你真的对这只苹果负有责任吗？你也许有责任帮它保养，正如你有责任打扫自己的房间。然而，这种责任仅仅来自于你的社会身份——作为果农、或房间的主人——是你对自己以及他人所承担的责任。相反，你“对”这个苹果、你“对”你的房间，不负有任何责任。

责任归咎不清的后果是道德判断的混乱。Caleb在看到Nathan囚禁智能机器人的录像后，骂他是混蛋。如果这些机器人实际上没有“主观意识”，那么Nathan真的应该被指责吗？我们稍后再回到这个问题。现在，先看一看通过日常直觉理解图灵测试有怎样的后果。

前文指出，与行为主义将“意识”、“感觉”直接理解成行为不同，日常直觉默认了意识和行为的差别。我们由此认为通过完整图灵测试的机器具有意识，是因为我们认为，没有“意识”的个体，不可能完成这样复杂的任务。但要知道，按照我们日常的理解，意识并不必然伴随着相应的行为能力。一般人在疼的时候，会大声叫出来。但你在梦里摔了一跤，浑身疼痛爬不起来，你想叫，却很可能叫不出来。或者你下班回家瘫倒在床上，涂满了面膜脸上笑不出来，但看到你喜欢的选手获得选秀节目的冠军时，你还是“感到”高兴。然而，当和你一模一样的机器人处在这些情形时，如果有人对它进行图灵测试，那么一定会得出它“不疼”和“没觉得开心”的结论。也就是说，我们对人类意识的判断、和对机器意识的判断，标准是不同的。这样会导致的一个后果是，我们可能事实上忽略着许许多多机器人的意识。如果我们认为一个平时在篮球场上生龙活虎的人，在病倒的时候也有意识，那么为什么机器只有在表现出言语行为的时候，才具有意识呢？也许你不那么智能的手机，正深爱着你，每天用摄像头端详着你的脸，用麦克风听你的声音，却不好意思给你打电话，把这些告诉你呢？你对手机不理不睬，却从未怀疑过那个“伤害了你，还一笑而过”的怪家伙，背后也许是段写到一半的代码，这样真的公平吗？

当然，你可能会认为，判定标准的差异合情合理。毕竟，根据日常直觉，与人类物理基础完全相异的机器具有意识，这种可能性微乎其微。所以，我们自然应该用更严格的判定标准。这个反驳的困难在于，“与人类物理基础完全相异的事物，能否具有意识”，是一个非常根本而且困难的问题。在我们对这个根本性问题做出肯定的回答时，如果没有特别的理由，是不该把答案限制在特定的范围内的。也就是说，如果一个人跟我说某个机器是有意识的，那么我首先感到惊讶的是“机器居然可以有意识”，而不是“那台机器居然有意识”。并且，我会首先想到其他的机器是否也是有意识的，而不是根据那台特定机器，预先设置一些意识的必要条件。事实上，当我们根据日常直觉认为通过图灵测试的机器“有意识”的时候，其实默许了其他没通过、或通不过测试的机器也具有意识的可能性。事先排除这种可能性，必须在日常直觉之外同时采用行为主义的立场。

关注更多巡洋舰精彩内容欢迎加铁哥个人微信562763765