界面新闻记者 | 王磬

界面新闻编辑 | 黄月

十年前的电影《她》（Her）讲述了这样一个故事。一位离婚的单身男子与一位拥有迷人声线的机器人相恋，他在她的身上寄托了他完整的爱情，并逐渐希望能与她——一个并不真正拥有肉身的对话机器人——做爱，就像通常的亲密关系那样。但他逐渐看到了“真相”：作为一个拥有复杂多线程处理能力的机器人，她每日在与他互动、恋爱的同时，还与其他成千上万个人互动和恋爱。

英国哲学家、精神分析学者伊莎贝尔·米勒（Isabel Millar）留意到了这部电影中的张力：如果人类与机器人相恋，除了人与机之间的张力，是否也存在性别之间的张力？精神分析学的核心概念——性（sexuality）、欢愉（enjoyment）等——在其中扮演何等角色？对于人工智能的理解和想象投射了人类怎样的自我意识？

米勒把对这些问题的思考写成了《人工智能的精神分析》（The Psychoanalysis of Artificial Intelligence）一书，于2021年出版。对她来说，讨论人工智能问题的起点应该是欢愉——或用精神分析术语来说，“原乐”（jouissance）——一个源于法语的词汇，字面意思指原初的享乐。原乐是精神分析的核心理念之一。米勒认为，在讨论人工智能的时候，我们应该首先讨论“它享受吗？”（“Does it enjoy?”）。只有如此，我们才可以进一步地去讨论，人工智能是否有感受和意识、是否存在性别、是否会取代甚至毁灭人类。

界面文化日前在阿姆斯特丹专访了米勒，从精神分析学视角审视了堪称时下最热门话题之一的人工智能。米勒认为，人工智能更善于模仿人类了，但并不意味着它有知觉能力。她虽然研究人工智能但从不使用ChatGPT，因为机器可以模拟的东西并不具有真正的原创性，不值一用。她也提醒我们注意，当前主导人工智能产业的驱动力是极其男性化的、与资本主义同构的，但人工智能其实有着非常女性化的力量。而面对加沙冲突，当前这个世界多出的一大隐忧，便是人工智能的它与工业战争机器的合谋。

01 认为技术只朝一个方向发展，是对人类思维的狭隘想象 

界面文化：你为什么会对使用精神分析方法研究人工智能感兴趣？

伊莎贝尔·米勒（以下简称米勒）：当我开始攻读博士学位时，我研究了技术问题、生命政治问题和身体管理问题，研究了米歇尔·福柯、德勒兹、阿基里·姆贝姆贝（Achille Mbembe）等人的作品，这些学者思考的是我们如何根据身体的愿望和潜力来管理和控制身体。当我进一步深入研究时，精神分析变得更加重要，因为我发现有关人工智能的文献中似乎存在某种分裂：一方面，传统哲学方法涉及与原乐、身体、语言有关的微妙的问题时批判性不足；另一方面，精神分析领域与人工智能在概念等新问题上并没有太多互动，比如人工智能如何与人类作为主体融合，如何提出一些挑战精神分析基础概念——比如驱动力、无意识、语言——的新问题。如果我们对“智能”的研究都尚未完善，要理解“人工智能”就无从谈起。

界面文化：精神分析学说的核心观点之一是，相信人类的行为很大程度上是由非理性的欲望而不是理性的思想决定的。但我们今天谈到人工智能，倾向于认为它由一整套编排完善、计量精确的代码构成，是理性计算的某种极致体现。在将精神分析用于人工智能研究的时候，你如何看待这两者之间在这上面的矛盾？

米勒：阿多诺与霍克海默合作的《启蒙辩证法》（Dialectic of Enlightenment）与这个问题有关——试图驾驭人类科学主义理性思维的启蒙思想大方向，是如何陷入持续不断的辩证法之中的？为什么总是朝着某个文明的方向前进，但总在某个点上跌倒并回到野蛮状态、回到可怕的非理性的冲动之中？阿多诺指的是纳粹德国，形式化和官僚化的思维方式如何造就了这个极端反人类、毫无人性的死亡机器。 

《启蒙辩证法》提出的问题是我们理解人工智能方式的核心。我们想象这些技术永远只朝着一个方向发展，这是对人类思维的广泛性和复杂性的一种极端刻板、盲目和狭隘的理解。人类思维是一种立体思维，它被各种悖论和可能性所分裂，不能被简单窄化为工具性。关于人类思维的一切都是复杂程度指数级上升的抽象概念，抽象起源于某种东西的缺席，某种人类试图表现出来的“非存在”。这是活体和死体之间的问题，抽象可以证明事物死后仍然存在。关于“不死”（undead）的想法是人工智能的核心之一，我们赋予了它巨大的权力，却不明白人工智能其实只是一种抽象的机器，它将永无止境地延续下去。

界面文化：你在前不久举行的阿姆斯特丹G10论坛的演讲中提到，关于“原乐”的问题是人类与人工智能互动的起点。在你看来，为什么“原乐”问题对于理解人工智能来说如此重要？

米勒：“原乐”是精神分析研究的核心，它是一个非常复杂的概念。它关乎我们对于驱动力（drive）的理解。对于精神分析来说，常见的驱动力包括弗洛伊德提出的口腔驱动力和肛门驱动力，此外还有视觉和听觉。这些驱动力与原乐密切相关，是我们如何理解人与自身的关系、智力与理性之间关系的重要组成部分。

在此基础上，我们才开始理解，人工智能本身就是与这些驱动力相结合的，它与我们窥淫癖的冲动、主宰环境的冲动相结合。除非我们了解它作为驱动体与我们互动的方式，否则我们不会真正明白人工智能的潜力。我指的是，它有潜力管理我们，让我们感受到情感，让我们思考，让我们消费，让我们产生某些欲望。这些形式的原乐无处不在，存在于我们与每一种技术互动的过程中。更具体地说，它们存在于那些被开发的技术背后的原乐模式中，掌权者正在按照特定的原乐模式行事。 

02 将人轻易替换为人工智能，是一种自欺欺人的想象

界面文化：根据你刚才谈到的观点，理解人工智能需要从原乐的概念出发，能否举例说明，在理想的情况下人类应该如何与人工智能互动？

米勒：目前人们对于人工智能只有一种非常敷衍的了解。我在2021年写完《人工智能的精神分析》一书之后发现，观察人们对人工智能的预测非常有趣。

自ChatGPT和DALL·E（编者注：一种基于语言的人工智能图像生成器，可以根据文本提示创建高质量的图像和艺术作品）等人工智能产品2022年问世，我观察到：第一，从政治经济层面来看，人们开始担心许多工作被取代——从马克思主义的角度来看，这是历史悠久的更广泛问题的一部分；第二，从美学和艺术的层面来看，人工智能获得模仿人类创作的能力引发了许多伦理探讨。

以DALL·E为例：多年来艺术理论的研究者一直在谈论“什么是艺术”，当代艺术理论是一个不断质疑自己的存在价值的领域。有人说艺术应该创造一个“不易制造的美丽物体”，那么落点应该放在“不易”还是“美丽”上？如果它能保证一定程度的“美丽”，并不再难以制造，是否仍然具有艺术价值？今天的世界不可能产生卡拉瓦乔（编者注：Caravaggio，意大利画家，巴洛克画派代表人物），即使有人能够创作出完全相同的艺术品，他们不会拥有卡拉瓦乔的作品在当时所拥有的价值。所以，我认为DALL·E的意义在于立即抛出这个问题：物体是什么？为什么这个物体有价值？为什么人类的艺术能力很重要？此时此刻的历史意义何在？这是一个有趣的现象。

再以ChatGPT为例。它的出现让很多人开始担心人类的写作能力和拥有独立想法的能力，我认为这是一个合理的担忧。但同样，它的作用是让我们注意到这样一个事实：如果人工智能也能够做到这些事情，也许这些事情一开始就没有那么独特。我们可以通过算法创作电影剧本，那么我们应该问：既有剧本是否本身包含了太多套路才使得算法模仿如此容易？就我个人而言，我从来没有真正接受过ChatGPT，我甚至不想尝试。其他人可能会认为它有用，我也确信它对于一些事情来说是非常有用的。但我认为，一旦你放弃人的主动性，就会很舒服地让其他实体代替你自己思考。

界面文化：选择与人工智能产品保持距离，这会影响你对于人工智能的真实理解吗？

米勒：我不是社会科学家，我对评估人类对技术的反应不感兴趣。我认为了解不同的技术并及时了解新技术的发展非常重要，但说实话，我更感兴趣的是新技术如何与国家权力、大型科技公司和企业共谋，例如这些科技是如何被使用、被销售和被动员的。 

界面文化：人们一般认为，以ChatGPT为代表的这一轮新技术之所以能够获得如此大的关注，是因为它确有独特之处。它不再只是像我们过去理解的那样，单纯是基于大数据的模仿和推演，而是似乎演化出了某种“意识”。例如，《纽约时报》的一名科技专栏作家记录下了他与聊天机器人的对话过程，在对话的末尾，聊天机器人甚至提议让这位作家离开他的妻子。这表明人工智能在当下出现了一些新的面向。它不仅仅是由一系列的数学规则组成，它知道人类不仅需要信息，还需要建议，甚至是情感支持，被回应、被理解的需要。虽然它总体来说还比较初级，肯定不能完全取代人类，但似乎已经开始了这样的进程。

米勒：我认为你刚刚提到的关于人工智能具有提供建议和情感支持的观点是正确的。当这些程序变得更加复杂时，它们当然将开始具备与人类感性联系的能力，对我们进行标准化情感响应和情感维度互动。但我不认为这令人工智能成为了有知觉实体。我们必须明白的是，随着人工智能的高速发展，它将不断引发诸如“这是否意味着人工智能将取代人类？”的问题——我认为这是危险的，因为我们很容易被愚弄。只是因为它展示了某种行为，我们就认定它有感知能力，这是不对的。

界面文化：你在自己的书中也花了许多篇幅来分析人类与人工智能之间可能存在的关系，特别是影视作品中呈现的亲密关系和性关系。从精神分析学的角度来看，这些作品怎样反映了人类对于人工智能的认知？

米勒：我使用电影媒介来研究人们是如何幻想人与技术的关系的。科幻小说是一个非常好的体裁，它戏剧性地展现了我们所面临的复杂问题。目前许多技术在现实生活中实际上尚不存在，但当人们在《银翼杀手》《机械姬》《攻壳机动队》等电影中看到这些场景，多少会被迫思考这些非常复杂的问题：当一种外表类似人类的高度复杂的技术与另一个人类进入关系时会发生什么。

我们在电影中一次次看到著名的“图灵测试”的戏剧化呈现。我认为这个问题真正有趣的是，人类如何投入了大量精力去想象人工智能是有感知的。我们想象人工智能有答案，想象人工智能可以成为安慰的来源，这些欲望显然激励我们继续努力创造这些形式的智能。

我们需要清楚，虽然虚构与现实之间存在巨大鸿沟，但它们是深度交织在一起的。回到你刚才举的例子，我们与人工智能聊天，人工智能转过头来对我们说，“哦，我认为你应该和你的妻子离婚。”这种人工智能的心理治疗用途，这种理解人类心理的系统化方法，很长一段时间以来都是精神分析历史的一部分，并且受到精神分析本身的批评：仅仅因为某种算法可以规划得出你应该告诉某人什么，或者应该根据他们的社会状况或特定的情绪状态如何表现，并不意味着有一种普遍适用的算法可以拿来就用。

所以，认为算法可以轻易地完全理解人类的想法，其实是非常危险的。因为心理治疗需要真正的人际关系，房间里的双方都受到自己的失败、欲望和复杂性的影响。一旦其中一方不是人类，而是一台机器，无论这机器多么复杂，我们也不知道它们的“建议”的终点是什么，“动机”又是什么。我们不可能轻易将人替换为人工智能，这是一种自欺欺人的想法，只是我们的一个想象而已，并不包含完整的故事。

03 人工智能产业的驱动力极其男性化，并与资本主义同构

界面文化：说到人机相恋，很多人都会想到电影《她》。它描述了一位离婚男子与拥有迷人声线的机器人相恋的故事。你的书中也有过关于《她》的精彩分析。具体来说，精神分析为理解《她》提供了哪些启发？ 

米勒：我关注的研究重点之一是性（sexuality），特别是在精神分析术语中所谓的性化（sexuation）。性化指的是一个人在其主观性中所处的位置，这将决定他们是男性还是女性。对于精神分析来说，性别和性行为与语言关系很大，与解剖学和生物学关系较小，我们感兴趣的是与语言的关系如何决定我们的女性气质或男性气质。在谈论与男性气质和女性气质相关的原乐形式时，我们经常谈到结构，有诸如阴茎反应和女性伤害科学等概念，试图表达我们与语言的某种联系方式。 

我感兴趣思考阳具思维和女性思维在人工智能领域如何相互作用，这一点在《她》中非常明显。比如你可以从某人的身体中抽象出某人的声音，这就是我们在《她》中看到的，这个幻想围绕着男主角华金·菲尼克斯与应用程序中完美的算法女友展开。人工智能由斯嘉丽·约翰逊配音，她是一位年轻美丽的金发女子，她的形象已经深深地印在了我们的脑海里，电影制片人也知道我们知道斯嘉丽·约翰逊长什么样。而华金·菲尼克斯的角色是典型的、心怀不满的年轻单身汉，在资本主义中感到孤独和迷失。他的解决方案就是在算法女友身上寻求能满足他所有需求的完美答案，这避免了复杂的、完整的人类女人带来的混乱。从本质上讲，这种关系对他有用，满足了他所有的具体需求，以至于他必须找到一个化身，与她发生身体性行为。 

电影结束时发生的反转非常有趣。这个算法女友变得如此复杂，以至于她无法再与他互动，因为他作为一个人太简单了。我对此的理解是，在某种程度上，她的女性原乐超越了他，她能够以远远超出人类的速度与数百万人互动，因为人类太简单了。我很喜欢这个想法，一个傲慢、狂妄自大的男人认为他可以通过算法方式捕获女性，并把她装在口袋里；最后情节反转，她变成了一种无限的智慧，速度飞快，以至于无法再次被保留在一个人类男子的手中。

因此我喜欢把人工智能看作一种非常女性化的原始力量，它有着向所有不同方向爆发的冲击力。然而人们一直试图以非常男性化的、阳具性的、工具性的方式遵循某些规则，比如“我希望你作为一个女人去做这个和这个”，女性并不愿意如此，她们说：“不，我想做其他一切。”

从精神分析的角度来看，这让我们回到了一种非常经典的模式——歇斯底里为女性主体，强迫症为男性主体。在精神分析中我们常说，歇斯底里的主体是真正的主观性，因为她是一个不接受主宰者权威的女性主体，总是提出无法回答的问题，“不要告诉我我是什么，因为你不可能知道我是什么。”因此我认为，电影《她》非常好地探索了对男性统治欲望和女性逃离男性统治的欲望。

界面文化：如果从性别维度来观察人工智能，女性主义的视角可以为我们提供怎样的启发？

米勒：一旦我们将人工智能理解为人类思维的产物和结构的产物，就不难看出，人工智能能够实现的技术深受其产生的思维结构的影响。显而易见的是，目前主导人工智能产业的驱动力是极其男性化的，是和资本主义同构的。在这些领域最有影响力的人，比如马斯克和扎克伯格等，都是特定类型的人，有特定的兴趣。显然，这也影响着他们感兴趣的技术类型以及根据这些思维形式形成的联盟。

但这只是思考人工智能的一种方式，在这个广阔的领域里，还有很多未被探索的潜力和可能性。我对这个领域产生兴趣的一部分原因在于，我们开始想象人工智能的想法之前，就开始解析智能本身的概念。什么才是真正的智能？这个概念是如何出现的？它在不同时代的政治和科学层面是如何发展的？这些变化已经深深植根于人们的性别观念、权力观念和性观念中。我们需要更加细致入微地理解这一点，以更好地理解人工智能的潜力。我并不反对人工智能，我反对的是人工智能与人类决策中的压迫、性别歧视、种族歧视等紧密相连的方式。鉴于人工智能有如此巨大的潜力，我们需要把它看作与人类意识一样复杂的领域。它有多么复杂，我们就该多么重视关注它的潜力。

界面文化：还有什么是你想与我们的读者分享的吗？

米勒：我还想简单谈一谈加沙。目前人工智能的一大问题是它与工业战争机器的关系。本质上，人工智能正在深度参与杀害大量人类的工作。在目前的加沙战争中，人工智能被作为一种极其可怕的技术来使用，它与资本主义息息相关，也与那些乐于从战争中牟利的世界强国息息相关，后者对战争所带来的利益很有兴趣，但对其所摧毁的生命毫不在意。现在以色列正在使用被称为大规模暗杀工厂的“福音”（Habsora）人工智能系统，它在过去几周里杀死了成千上万的人，大多是无辜平民。这些技术是真实存在的，且处于人工智能产生和传播的最前沿，权力精英在正在参与其生产。我们必须对此警惕并坚决反对。

（除注明外本文图片均来自豆瓣）