放开那只机械姬——人工智能中的意识与伦理下
上文中，我们谈到了由行为主义和日常直觉理解图灵测试所产生的道德后果：行为主义彻底忽视主观意识的层面，从而引发责任归咎的混乱；日常直觉则意味着我们极有可能在无意间忽视机器人同胞的感情。
显然，这并不是个令人满意的答案，因为图灵测试是我们判断机器能否思考的最直接的途径。所以我们需要再次衡量，上述两种道德后果是不是无法避免的。
在之前的讨论中，我们预设的一个条件是：当机器人的行为足够逼真，人会不自觉的在互动中产生相应的情感。Caleb在半信半疑中迷上了AVA，Monica则毫不犹豫的接受了David。无论它们是否具有行为主义者所不承认的那部分“主观意识”，都不影响这些情感的真实性。我们刚刚指出，如果AVA和她之前型号的机器人并没有主观意识，那么Nathan对她们的囚禁似乎并没有道德上的后果。然而，Caleb对Nathan的咒骂却并非毫无缘由。爱上AVA之后，他对机器人感同身受。即便它们实际上没有意识，Nathan的囚禁也伤害了Caleb的感情。所以，无论我们最终怎样分析Nathan的道德处境，他都负担着“不该虐待机器人”的责任。这份责任不因机器人本身，而仅仅由Caleb对AVA的喜爱而产生。当我爱上一只苹果，别人就算拼命嘲笑我，他们也不该伤害这只苹果，因为那样会让我难过。很多时候，我们避免伤害人或物，不仅因为它们自身会感到痛苦，也因为那样会伤害与它们产生情感纽带的其他人。拐卖儿童伤害了孩子，也伤害了父母。反之，一个认定动物没有灵魂的笛卡尔主义直男，也完全可能和爱狗人士站在一起。你看，他正抱着一只约克夏，凑到了一位年轻女士的旁边，“真巧，你也养约克夏啊”。这种间接的责任给行为主义者提供的解决方案是：无论是否具有主观意识，行为上无限接近人类的机器人会自然得到多数人的同情和好感，而我们出于对这部分人的责任，应该避免对机器人造成伤害。
对此，你可能会疑惑：人的行为总是难免伤害他人的情感，但这并不意味着我们就负有责任。有人不吃狗肉，也有人素食。你每切一刀牛排，都可能会有素食主义者眉头紧皱。但如果他们逼着你放下刀叉立地成佛，你大概会不满，抱怨“凭什么”。同样，Nathan可以说Caleb这么蠢，我凭什么照顾他的情绪？这种疑惑混淆的问题是：我们谈论的仅仅是责任的形而上学基础，而并没有强迫人去承担所有他可以承担的责任。为了生存养家，有人杀人越货，并在刑场上大喊“凭什么”。他同样可以藐视任何社会规则和道德义务。但这并不意味着那些爱财而取之有道的人，就没有任何“生存养家”以外的道德责任可以承担。需要注意的是，尽管我们并未建立起对具有主观意识的机器人的直接责任，却已在最大限度上就人对机器的责任进行了维护。因为真正的责任，与行为主义的框架本身是否共融，并不是毫无疑问的。
相比之下，日常直觉所导致的道德忽视，并没有那么容易解决。首先，这种忽视无法像方才那样，通过尊重他人的情感来消除。因为很可能存在这样的程序，它有着丰富的意识和浪漫情怀，却非常笨，笨到根本不会引起任何人注意。同时，我们不能用“不知者不怪”做出回应，因为当我们以日常直觉为出发点、通过图灵测试认定某个程序有“意识”时，其实已经默认了机器普遍具有意识的可能。尽管这一可能性适用的范围事后或许会不断缩小，但如果刚刚见到一台机器通过了图灵测试之后，你就开始摔打手机，恐怕过于铁石心肠。不过，道德忽视的问题并非无解。我们对手机或许具有意识的假设，建立在“手机——通过图灵测试的机器人”，以及“累瘫的你——生龙活虎的你”之间的类比。你完全可以回绝这一类比：睡一觉之后，你第二天又能打篮球，而给手机充一宿电，它还是不会讲话。你想一想，这个反驳是否足以推翻日常直觉对“手机具有意识”可能性的默许呢？它还需要哪些补充条件呢？
我们反复提到了人与机器在道德之外的另一种关联——情感。在爱上一只苹果时，我会悬置所有关于苹果是否有意识的判断。而如果对方是一个情感表达跟人完全相同的机器人，“机器人往往没有意识”的假设也被抛诸脑后。Caleb明明产生过AVA“具有真实思想，还只是在模仿人类行为”的疑惑，但当他迷上AVA时，已完全顾不得这点，哪怕Nathan最后的质疑让他无言以对。我们可以认为，迷上了AVA后的Caleb，和《人工智能》中的Monica，其实都处在《哆啦A梦》的世界中，这个世界没有“机器人往往没有意识”的基本假设，机器人的意识，也就不再是我们与机器人相处当中的论题。这个时候，情感代替了理智，为我们就图灵测试背后的哲学问题做出了决断。你或许认为这是非理性的：Caleb在不能确定AVA是否具有意识的时候，就已经迷上了她。但无论怎样，这种情感的启动方式深植于我们的心理机制，它让我们能够在反思之前就对同伴的呼救产生恻隐之心。也正因此，我们才能为行为主义对意识的忽视做出补救。
一个更加有趣的问题是：这种单方面的情感，究竟在什么程度上依赖对方的意识。我对苹果的爱，大概和苹果的意识无关。苹果有意识最好，如果没有，也不要紧。但是对人的喜爱，是否遵循着相同的模式呢？如果哆啦A梦“事实上”没有意识，那么大雄和它的情谊，会不会少了点什么？图灵曾试图把机器人的意识归为“他心问题”——如果我们不知道一个通过测试的机器人有没有意识，那么我们同样不知道一个看起来正常的人类是不是没有意识的僵尸。于是，“人类和机器人之间”能否有真正的情感，就变成了“人类之间”能否有真正的情感。然而这个策略是非常不成功的——我们当下世界的初始设定是“人类有意识”，而“机器往往没有意识”，因此，我们有理由把机器人的意识和“他心问题”区别开来。“人与机器之间能否有真正的情谊”，也就仍然是一个悬而未解的问题。这个问题也多少影响着我们对行为主义的补救：如果AVA实际上没有主观意识，那么Caleb对AVA就跟我对苹果的感情差不多。而如果我之后爱上一个人，并对她说“我爱你就像爱那只苹果”，一定会被打成渣男。
当一只哆啦A梦真的从你的抽屉里爬出来，你究竟会怎么办？我们之前分析的形而上学问题，其实并不应该构成你此刻的伦理困境。因为哪怕哆啦A梦意识的缺失真的会让大雄和它之间“少了点什么”，他们始终如一的相互陪伴，也远比大多数人与人之间的交往，要可贵的多。
关注更多巡洋舰精彩内容欢迎加铁哥个人微信562763765