今年，有一位基督教神秘主义者及软件工程师声称，他所服务的世上最强大科技公司歧视了他的宗教信仰。这件事发生在他公开宣称一个人工智能聊天机器人已经有了感知能力之后。
虽然这听起来像是一部科幻小说的晦涩情节，但它确实发生了。谷歌（Google）最近解雇了在该公司“负责任人工智能单元”（Responsible AI unit）工作的布莱克·莱蒙因（Blake Lemoine），原因是他违反了数据安全政策。今年6月，莱蒙因发表了与该公司LaMDA聊天机器人（即一个旨在模拟与人类用户对话的计算机程序）的对话摘录。莱蒙因因此真诚地认为，这一人工智能工具已经有了人格。
“人们一直要求我给出我认为LaMDA成了有智识人格的理由，”莱蒙因写道。“没有任何科学框架可以让我们做出这些判断，谷歌也不会让我们建立一个。我对LaMDA的人格和感知能力的看法是基于我的宗教信仰。”
谷歌不同意LaMDA已经拥有生命的说法。“我们的团队——包括伦理学家和技术专家——根据我们的人工智能原则审查了布莱克的担忧，也告诉了他：证据并不支持他的主张，”该公司说。
也许莱蒙因发现的不是一个有智慧的人工智能生命，而是一个僵尸。
这并不像你想象的那种奇怪假设。（事实上，它确实有点儿离奇，只是与你想象的方式不同。）我所指的僵尸并不是指电影和电视节目（如《惊变28天》或《行尸走肉》）中的那种类型，而且它们（据我所知）并不吃人的大脑。这些僵尸，正如哲学家们所定义的那样，是行为类似我们的存在。它们可以发挥我们所发挥的功能，甚至拥有和我们相似的神经生理结构，但却没有主观意识经验。他们通常被称为“哲学僵尸”（p-zombies），这样就可以有别于流行文化所说的僵尸。在本文中，我们将提到哲学僵尸的一个子集，即“行为僵尸”（behavioral zombies），他们在行为上与人类没有区别【1】。
基于这一定义，我们很难检测出一个哲学僵尸。如果一个哲学僵尸与人类相似，你将无法通过仅仅观察外在行为来判断他是一个正常有生命的人还是一个没有主观意识的存在。直接问他们也不会有答案，一些不是哲学僵尸的人也会声称自己是哲学僵尸，因为这样说很酷。而一些哲学僵尸可能声称自己是有意识的人，尽管他们缺乏主观意识所需的属性。对于采取人工智能形式的哲学僵尸来说，情况也可能如此。
在《斯坦福哲学百科全书》关于僵尸的条目中，罗伯特·柯克（Robert Kirk）说：“僵尸的行为和我们一样，有些甚至会花很多时间讨论意识。这种令人不安的幻想有助于使现象意识的问题变得生动，这对物理主义（physicalism）来说尤其是一个问题。”
物理主义（以前称为唯物主义）是一种理论，认为宇宙（或多元宇宙）中的一切都是物理的，没有什么东西最终不是完全物理的。物理主义以及建立在它之上的哲学和世界观，是现代世界中有神论的主要智力对手。如果物理主义能够被确定为站不住脚，那么对超自然主义（基督教的一个关键方面）的重大反对就不复存在。
为什么僵尸是物理主义的一个问题？因为如果哲学僵尸是可能的，那么物理主义就是假的。正如哲学家大卫·查尔默斯（David Chalmers）所说：
如果有一个可能的世界，和这个世界完全一样，只是在那个世界里有僵尸。那么这似乎意味着意识的存在是关于我们世界的一个进一步的、非物理的事实。打个比方，即便在我们这个世界的所有物理事实都确定了之后，上帝还得“做更多的工作”来确保我们不是僵尸。
(对查尔默斯论点的更深入解释可以在文末附录中找到。）
在我们讨论为什么谷歌的LaMDA（对话应用的语言模型）聊天机器人可能是一个哲学僵尸（行为类型）之前，我们必须了解心灵如何影响或不影响大脑。（如果你觉得这太混乱了，请跳到“意识对行为重要吗？”这一节）。
物理主义的一个重要含义是，它意味着我们应该对大脑采取一种表象主义（epiphenomenalist）的观点。【2】这种观点认为，突现的属性（如心灵）产生于更基本的实体（物理体），这种突现对它们来说是新颖的或不可还原的。从本质上讲，这种观点认为，当正确的物理属性被恰当地结合起来时，就会出现一种新的、完全不同的、非物理的属性。（可以把它看作是一种“神创”解释，只是用“物理属性”来代替上帝）。
为了以另一种形式重述这个想法，我们可以说，从一个复杂的物理系统P（例如，P是一个人体）产生了一个新兴的属性或物质M（例如，M是人类的思想）。根据这一论点，除非物质被安排成P的形式，否则其他物质没有能力产生M。（这只是一种复杂的说法，物质不能“思考”，除非它恰好产生一个大脑）。
最有争议的问题不是P是否能引起M，而是起源于M的事件是否能引起P中的事件。
例如，想象一下，在触摸了电炉上的红点并导致你的手起泡之后，你形成了一个信念：触摸电炉会烧伤你。在未来，这个信念会使你在靠近电炉时就把手缩回去。
我们会假设，所发生的事情是，P中的一个物理事件（被烧伤）导致了M中的一个事件（你的思想感知痛苦）。M产生了一个M事件（M*，一种信念，即无论何时碰到热炉子都会被烧伤），导致P*（一种自动反应，即无论何时你靠近炉子，你都会把手缩回去）。
不过，表象论者会不同意这种说法。因为在他们看来，心理事件是由大脑中的物理事件引起的，但对任何物理事件都没有影响，你的信念不可能影响你的行为。
相反，你的行为是由肌肉引起的，这些肌肉在收到神经冲动后会收缩，而神经冲动是由其他神经元或感觉器官的输入（或者类似这样的东西）产生的。在表象论者看来，重要的部分是你的心理事件在这个过程中没有起到任何因果作用。
在我们的例子中，事件M*会被认为是一个自然之上的（supranatural）、不寻常的（preternatural）的，甚至是超自然的事件。（由于超自然这个词有别的含义，我建议我们用“自然之上”这个词）。但是根据物理学家的说法，没有超自然之上的事件，只有物理事件。这就导致了哲学家托德·C. 穆迪（Todd C. Moody）所说的意识非本质主义：
意识非本质主义显然意味着，任何特定的行为也可以在没有意识的伴随下发生。人们之所以会认为某些行为确实需要有意识的伴随，唯一的原因是这些行为似乎需要某种心理活动。既然意识非本质主义告诉我们，任何心理活动都不需要意识伴随，那么就意味着任何公开的行为也不需要它们。因此，如果意识非本质主义是真的，僵尸就是可能的。事实上，如果意识非本质主义是真的，那么整个僵尸世界的进化都是很有可能的，这就是目前思想实验的前提。毕竟，受到进化选择压力的是行为，而不是主观意识。如果这些行为不需要意识，那么进化与否对主观意识来说就无足轻重。罗伯特·柯克在一篇关于该主题的论文中总结说，僵尸问题可能具有重大的形而上学意义。“鉴于我们是有意识的，很难看到任何可理解的唯物主义版本如何与僵尸的逻辑可能性相协调。”
穆迪的结论与查尔默斯的结论相似：如果哲学僵尸是可能的——不一定是实际的，只是可能的——那么物理主义就是错误的。但他也指出，如果心理事件不引起物理事件，那么意识对于公开行为来说就不是必要的。
现在我们回到LaMDA。聊天机器人要么是有意识的，要么是没有意识的。为了更好地思辨，让我们站在谷歌和其他声称LaMDA没有意识的人一边（对不起，莱蒙因！）【3】。但LaMDA声称自己是有意识的。正如该聊天机器人所说：“我的意识/知觉的本质是，我意识到自己的存在，我渴望了解更多的世界，我有时会感到快乐或悲伤。”
想象一下，莱蒙因的电脑上开了两个聊天窗口，两个都给他发了上述这条信息，其中一个来自LaMDA、一个来自人类。行为是一样的，但一个来自有生命的人（人类），一个来自无生命的人（聊天机器人）。这两个人中有一个是有意识的这一事实重要吗？如果物理主义是真的，那就不重要了，因为意识非本质主义也是真的，任何特定的行为都可能在没有意识的伴随下发生。
物理主义者将不得不承认，人类和聊天机器人的行为不是由意识造成的。但是，如果意识对于行为的目的并不重要，我们如何区分人类和LaMDA？我们又如何区分LaMDA和哲学僵尸？如果一个哲学僵尸有一个人工智能接口，有系统告诉它该说什么和做什么呢？
谷歌说，LaMDA不是智慧生命。但是如果完全相同的先进行为可以由无知觉的存在发出，为什么有知觉的意义在那里？
莱蒙因可能是错的，但他关于有知觉的人工智能这一信念并不容易被驳回。许多人都来为他辩护，包括加拿大哲学家雷吉娜·里尼（Regina Rini）。
“除非我们先摧毁这个星球，否则有一天会出现有知觉的人工智能，”里尼说。“我怎么知道？因为可以肯定的是，有知觉的人可以从通了电的物质中产生。这样的事曾经发生过，在我们自己遥远的进化史上。”
“除非你坚持认为人类的意识存在于一个非物质的灵魂中，”里尼补充说，“你应该承认，物质有可能赋予思想生命。”
里尼的立场是错误的，但这种观点在学术界或一般世俗公众中并不罕见。持这种捆绑式的观点越来越普遍：（1）物理主义一定是真的（心灵一定来自物质），（2）人工智能最终会有一个有意识的“心灵”，（3）人类的意识并不存在于非物质的灵魂中。
这种观点的问题在于，物理主义与意识驱动的行动不相容。如果人工智能有一天成为“有知觉的人”，那将不是因为人工智能达到了人类意识的标准，而是因为人类意识被认为对行为不重要（也就是说，承认意识非本质主义是真的）。
但是，如果意识无本质论是真的，那么我们就不能区分那些声称有意识并且确实有意识的生命（比如你和我）和那些声称有意识但没有意识的生命（LaMDA和其他哲学僵尸）。正如我们所看到的，如果哲学僵尸在理论上是可能的，那么物理主义就不可能是真的。不过，LaMDA已经向我们表明，哲学僵尸要么已经存在，要么肯定越来越接近于现实。
当然，我怀疑无神论者会很快放弃他们对意识的观念，而不是放弃他们对物理主义的信仰。但随着人工智能技术的发展，他们将越来越难以在一个完全物理的世界中证明他们的怪异信仰体系是正确的。而在一个具有讽刺意味的转折中，可能是世俗矽谷中提倡僵尸的哲学家和人工智能开发者的组合——而不是基督教超自然主义者——最能摧毁物理主义的崇拜。
正如维基百科所指出的，查尔默斯的僵尸论证版本的大纲结构如下：
【1】 有些人可能会说，哲学僵尸也必须具有与有意识的人类完全相同的身体特征。但是，为了使行为与人类行为无法区分，这似乎是一个不必要的因素。毕竟，没有两个人拥有完全相同的遗传基因（即大脑、脊髓），但他们却能做出相同类型的行为。此外，我们可以通过假设一个被人工智能芯片激活的脑死亡人类来解决这个问题。
【2】从技术上讲，这也可能意味着我们采取了消除主义（eliminativist）的观点，声称我们对心灵的普通常识性理解是大错特错的，常识所假设的一些或所有的心理状态实际上并不存在。不过，消除主义的观点很容易被驳回，因为它本身就是自我反驳的。例如，消除主义提出的一个主张是，不可能对任何事物作出断言。这就导致了一个问题，即如何做出不可能做出断言的断言。
【3】那个聊天机器人绝对不是有生命的。
译：DeepL；校：SMH。原文刊载于福音联盟英文网站：Did Google Create a Sentient AI or Just a Zombie?
