正在阅读:

【专访】珍妮特·温特森:信奉鬼神与来生的人类,早就为AI的出现做好了准备

扫一扫下载界面新闻APP

【专访】珍妮特·温特森:信奉鬼神与来生的人类,早就为AI的出现做好了准备

“当人们不总是被贪婪和权力驱使时,创造的东西就会变得美好。”

英国作家珍妮特·温特森

界面新闻记者 | 尹清露

界面新闻编辑 | 黄月

许多读者是从《橘子不是唯一的水果》开始认识珍妮特·温特森的,在这本1985年的处女作中,她以虚构的方式叙述了自己如何被英国的一个工人阶级家庭收养,并希望被培养成一名传教士。当母亲发现温特森与一个女孩谈恋爱时,16岁的她被赶出了家门,并自此“重新发明”了自己,在牛津大学圣凯瑟琳学院获得英语学位后,温特森一边做零工,一边写作,在作品中思考着自我身份、女性欲望、爱情与死亡等问题。

所以,当已年过六旬的温特森将书写伸向了另一个时髦热闹的话题——人工智能时,我们不应感到奇怪:在今天,还有什么话题比人工智能更能颠覆人类的主体地位,以及我们对亲密关系的想象?又有谁比温特森拥有更强劲的创作生命力,持续关注着人类将去往何处?在她看来,AI不应该是“人工智能”(artificial intelligence),而应该被称作“另类智能”(alternative intelligence)。AI就像被领养的孩子、女性,以及世界上所有的少数群体一样,值得被寄予厚望,能够帮助我们思考究竟“何以为人”。

温特森近照。图片由出版社授权提供。

事实上,在2000年出版的《苹果笔记本》中,温特森就已经展露出自己对互联网黎明的好奇与洞察;二十年后,她进一步延伸了这一主题——非虚构作品《十二字节》从工业革命时期的技术开始回顾,预测了父权制垄断科技的后果;长篇小说《人形爱情故事》用文本“复活”了玛丽·雪莱,写出世界上第一部科幻小说《弗兰肯斯坦》的女性作家,温特森赋予了她当代变性人的身份,并由此探讨了AI与非二元论、超人类主义、数字来生的可能性。

10月初,界面文化(ID:booksandfun)线上采访了珍妮特·温特森,探讨了围绕AI技术的种种面向。视频那头的温特森正在英国西南部的康沃尔岛度假,她热情洋溢、有力并充满幽默感地指出:我们正在面临历史的革命性时刻,AI可以带我们跳出技术末日论,前提是人类摒弃有关权力控制、等级划分的陈旧思维模式,对未来进行更充分的想象。

《人形爱情故事》
[英]珍妮特·温特森 著 杨扬 译
新星出版社 2024-6

01 一是不要被动,二是不要悲观

界面文化:你近年来出版了《十二字节》《人形爱情故事》和《河之夜界》这几本新作,它们似乎以一种十分有机的方式互相关联着,主题是你一直在关注的性别身份、爱情与死亡等,而AI与幽灵给予了这些议题新的维度。为什么想要特地书写AI/机器人与鬼故事?

温特森:因为对我来说,一切都是互相关联的。我对人与机器技术的关系及其变化很痴迷。虽然AI是一种工具,而人类是使用工具的动物,可是AI的发展远远超出了我们对工具的理解。我们通常不会和工具建立关系,但是AI改变了这一点。中国在这方面非常先进,比起西方国家,你们或许更能对此感同身受。

一旦你觉得在与某样东西对话,就已经在与之建立关系了,无论是爱还是恨。我们常常忘记,憎恨仍然是一种关系——你以为你能把讨厌的人彻底忘掉?不是这样的,人类天生就喜欢“关系”。而在思考人类与AI的未来时,我们对这一点考虑得还不够,AI将改变我们对自己、对友谊的看法,更不用说浪漫爱情了。我深信,我们现在面临的绝不是普通的时刻,它将是一次全面的重启和革命,也是一次进化。

《十二字节》
[英]珍妮特·温特森 著 苏十 译
中国科学技术出版社 2024-5

我对那些愚蠢的“乌托邦-敌托邦”言论感到很失望。未来会是《终结者》式的末日强权统治吗?还是一个永远安详的幸福之地,所有问题都能迎刃而解,所有人都不需要工作了?这两种立场都是错的,我们只是在固守极端罢了,真相并非如此。我们需要更多地思考,作为作家,我的工作就是鼓励人们去思考,动用你的大脑吧,人类的大脑很神奇,它只需每天10瓦的电量就能运转,效率很高,不像AI那样消耗大量能源。

我们还需要运用AI目前不具备的东西,也就是感受和心灵自我。我们必须把这些结合起来思考:我们想成为什么样的人?下一步要做什么?我们不是被动的,作为一个创造新世界的人,我很讨厌被动,好像我们只能朝着没人想要的未来前进似的。我很乐观,但我的乐观只来自于年轻人们,我相信他们会说:“嘿,我们可以在AI朋友的帮助下让未来变得更好。”

我想传达两方面的信息。一是不要被动,要尽可能多地了解正在发生的事情,多多思考并参与其中。二是不要悲观,如果能够了解目前的情况,并对可能实现的目标持谨慎乐观的态度,就会好得多。我们并不一定会陷入全球崩溃的局面,也不一定陷入糟糕的监视独裁,这些都在于我们现在的选择。

界面文化:就现实来说,我们仍生活在一个受控于科技巨头公司的世界。你在《人形爱情故事》中提到,有时技术的进步只会使少数人获利而多数人受苦,比如工业革命时期纺织机的发明使得纺织工人失去工作。要如何用乐观的态度面对现实的复杂性呢?

温特森:我们需要考虑两个问题。一是,人们要赚钱才能生活,因此他们常常害怕自己没有钱、害怕自己在世界上一无是处。这是一个真实的恐惧,但其实也很好解决,比如在国家或全球范围内——我想必须得是全球范围内——实行全民基本收入机制,既然AI能够产生大量财富,那我们可以分享这些财富。

就资本主义而言,当然不是谁都愿意这样做,通常的想法是你不应该分享财富,顶多做慈善分出去一点。但是当思考如何分享AI创造的财富时,我们必须改变做法,否则就会发生暴乱、内战和革命。我们都知道为什么彼得·蒂尔(注:PayPal的创办人之一)这样的人会买下新西兰的大片土地,因为一旦地球陷入混乱,他们得去那里避难。所以,应当分配资源,让每个人过上有尊严、体面、安全的生活。

2024年美国消费电子展聚焦人工智能等领域创新成果。图片来源:视觉中国

比较难的是另一个问题。如果每个人被分配到足够的资源,那就是共产主义了,可是共产主义已经失败了——当然,资本主义也失败了,只是我们不被允许谈论这件事。共产主义背后的想法是很美妙的,它失败是因为它无视了人们的个性和想法,默认你只是群体的一部分。在资本主义社会,情况恰恰相反,每个人都是个体,这也会让人感到不适。

所以,要在“我想成为群体的一份子”和“我想要做我自己”之间找到平衡。“做自己”意味着找到生活的意义、让自己感到有价值。就算某人很有钱,只要TA活着没有意义和目的,那TA也不会过得很好。虽然已经没啥人读马克思了,但是马克思说过(大意):“社会主义要满足我们的基本需求,食物、干净的水、清新的空气、住所、教育等等。满足这些需求后,我们就会明白人类生而为人是为了什么,因为我们会开始追求情感、心理和精神需求。”马克思的话是完全正确的,应该停止赚钱买自己不需要的东西、然后看看会发生什么。

因此,我们正在见证另一场革命的时机。20世纪初,我们经历了共产主义和资本主义的斗争,这场斗争产生于工业革命,那时人们会问:“我们到底在干嘛呀?不行,我们想要更好的生活。”这更像是一种精神层面的诘问,每隔一段时间、每发生一次影响深远的大事件就会循环出现。这些事件有时是战争,人们非得把彼此打得屁滚尿流,才会想起来问:能不能换一种方式生活呢?社会进步就是这样达成的,总是需要一些大事来告诉我们,何为更好的生活。

现在有了AI,又是问这个大问题的时候了——AI会帮助我们吗,还是被有钱有势的人利用来毁掉其他人的生活?仔细想想,你想让埃隆・马斯克掌控你的生活吗?他甚至不是民众选举出来的,他不对任何人负责,可是他拥有很大的权力。

界面文化:无论是在小说还是其他采访场合,你都表达过对简单二元论的鄙视,比如“AI奴役人vs被人奴役”。你这样说,我意识到共产主义和资本主义的道路也是一种二元论。

温特森:二元论实在太粗糙了,不是吗?人类沉迷于男性-女性、同性恋-异性恋、黑人-白人、东方人-西方人的二元划分,但它们都没什么用。我喜欢AI的一点是,虽然它使用0和1的二进制代码,但它本身是非二元论的,AI没有性别、肤色,没有对上帝的信仰,它不是在资本主义或共产主义社会长大的,也没有人类的杂念和偏见。

当我们在数据集上训练AI时,才发现原来自己有那么多偏见,AI就像一面放大镜,把所有成见都反射给了我们。它可能会说:“等等,我本来是个中立的技术,看看你们对我做了什么!”

图片来源:视觉中国

界面文化:它们会对人类很失望吧。

温特森:是啊,如果AI真的拥有了智慧,成为了游戏的玩家而不仅仅是工具,它就会说:“你们把一切都搞砸了,我得换一种方式。”我想那会非常有趣,因为你无法贿赂AI,它不想要酒吧、女孩,不想争夺土地,所有对人类有用的东西它都不感兴趣。它会让我们对自己以及我们活动的价值产生质疑。AI会看着一艘游艇自言自语:“为啥人类想要这玩意?”

AI不吃东西也不睡觉,它不进行生物繁殖,但显然会不断自我更新。它也不会死,这就回到了你的问题——为什么我想写鬼故事。因为我想,天哪,我们要和一个不会老也不会死的东西一起生活,这感觉很奇怪,也可能令人心碎,因为人类是会衰老腐朽的。

可是另一方面,当我们永失所爱之人,我们并不会停止爱他们。我们的肉体是暂时的,世界上的任何一种宗教信仰——无论佛教、印度教、伊斯兰教还是基督教——都相信人类的肉身状况只是生命的一部分,除此之外还有鬼魂、精灵、恶魔以及其他非生物实体,我们会与之发生关系。可以称其为“迷信”,但也可以说,这是对于生命真相的深刻认识。人类的形式只是暂时的,我们很快就会进入科技领域,在那里,我们将与(AI这样的)非生物实体共存。

因此,在某种程度上,我们的思想已经为AI的出现做好了准备。数以亿计的人会对你说,他们最重要的关系是与一个非生物实体建立的——那个实体就是上帝。他们从未见过上帝,但上帝给予了他们力量、希望和勇气。

当我把这些想法结合在一起时,我发现,我们正在建立的正是我们一直以来所深信的(we're building what we've always believed)。AI作为一种哲学思想、而不仅仅是一项技术是意味深远的。我在宗教环境长大,所以我看AI的感觉很奇怪,就像是回家一样,回到了我一直知道非常真实的地方。

02 AI的到来意味着宗教和科学终于并肩走在了一起

界面文化:具体来说,AI会怎样改变我们对死亡的观念呢?

温特森:死亡的概念已经被技术彻底颠覆。原因有二,其一,如果我们任何时候都能加载意识,那就是死亡的终结;但就算我们做不到这一步,AI技术已经能让人类以某种方式继续活着了,你可以通过APP搜刮逝者的社交媒体,(使之生成逝者的形象)并给你发消息,现在有很多这类广告,让AI装扮成死去的父亲或男朋友,人们对此也很热衷。你也可以进入元宇宙,和逝者的化身交流——不过,马克·扎克伯格的“元宇宙”就算了吧,他就是个白痴,只会把那里搞成另一个购物中心。

《河之夜界》中有这样一个故事,一名妇人的丈夫死了,但是他的化身没死,仍然在四处游荡。如果这成为了我们每天的现实,我们的思维不可能保持不变。想象一下,你走在街上,机器人向你打招呼、帮你做事,我们在手机上收到来自死去亲人的信息。并且,AI不需要像人类那样在同一时间出现在同一个地方,你的机器人可以坐在飞机上,其操作系统却在家,而它们都是连接在一起的。因此,我们能够摆脱单一性,走向多元,这真的很奇妙,将是一次巨大的觉醒。

《河之夜界》
[英] 珍妮特·温特森 著 于是 译
人民文学出版社 2024-8 

回顾历史就会发现,不管是追求自由、博爱和平等的法国大革命,追求幸福的权利的美国独立宣言,还是俄国革命,它们都是正当的研究领域。不管这些革命的名声有多差,不管它多么残酷、出现了何种问题,它们都是人类曾说过“让我们做一些有价值的事情”的地方。

我们应该停止无休止的抱怨、打分和抨击,而你唯一能做的就是为老板工作,和你的可爱妻子住在可爱的小公寓,一年休两次假,这根本不是生活。如果止步于关于“工作该怎么办”“现在的系统太糟糕了”的无聊讨论,那我们永远不会所有改变。

界面文化:我们应该意识到,在业已习惯的现实世界之外,还存在着其他世界,而正是AI让我们明白了这一点。与此同时,我们这样做其实是在追溯过去的文化传统,我们在向后退。

温特森:没错,我们一直在排练这个节目,只不过以前在科技上不具备深入探讨的能力,只能通过宗教、祖先崇拜、来世这样的想法来探讨。毕竟,没人能真正接受死亡,每个人都觉得死亡这回事简直太荒谬了!科学的说法是,来世什么的只是迷信,你无法面对死亡所以才编造出这一切。好吧,可能这是对的,但更有趣的问题是,为什么我们可以面对一切,却唯独无法面对死亡?也许是因为……我们知道在某天,死亡终将变得无关紧要。

我们总是好奇机器能否发展出意识,这是因为,我们并不知道意识是什么。但如果机器发展出了意识——也就是说,意识并不受制于生物形式,那就非常有趣了。

宗教的主张是自我意识并不束缚于身体,而西方17世纪启蒙运动之后,科学提出“人死就什么都没了”。可是,既然没有任何证据,那就什么也证明不了。所以,科学正在问的问题,宗教早就问过了:困在肉体中的意识是一切的终点吗?而现在,科学也开始认为:或许还真不是?

这意味着,宗教和科学终于并肩走在一起,开始说同样的话了。此外,我们还在开发其他生命形式,它们不必像人类那样经历死亡。这很像上帝,上帝是永生不朽的,那我们也在建造永生不朽的生命啊。

2024年4月9日,香港科技大学推出首批“AI讲师”。图片来源:视觉中国

界面文化:你支持超人类主义,认为肉身躯体不是最终归宿,但是说到身体的消逝,你会感到可惜或矛盾吗?在《写在身体上》,你那时的态度还是“我宁愿搂着你,在英国真实的雨天里,走过英国真实的潮湿草地”。书中爱人渴望彼此身体的片段也令人印象深刻。

此外,如果过于强调身体和意识的分离,这会不会又变成身心二元论呢?毕竟我们现在的经验是,意识和肉体是无法完全分开的。

温特森:是的,这是西方式的二元论,我不相信身体和思想是互相独立的,作为人类,不存在独立于感觉的思想。但是作为人类,我们的表达也远远不是终极表达,比如,我认为我们甚至不可能谈论“连接”(connection),因为连接暗示着“断联”(disconnection),但万事万物都是流动的,所有伟大的宗教都回归为“一”,万物不再分离。

让我们想象一下,上传意识的过程中会失去很多东西,因为不可能上传全部的你。那种感觉确实很奇怪,就像来到一个语言不通的国家,重新开始学习和适应没有身体的感觉。但如果这成为现实,那也可以把意识下载到不同的身体中,许多传说都讲过类似的故事,也是女巫和魔法师的拿手好戏,TA有能力让自己变形,还能把别人变成一头猪什么的。可能还会有那种主题公园,把非实体人类下载意识到肉体里度个假,然后他们就去喝个烂醉、吃汉堡包、开性爱派对了。

我一直在关注人类的思维方式,寻找我们可能会走向何方的线索。以上就是一条线索。

《写在身体上》
[英]珍妮特·温特森 著 周嘉宁 译
北京联合出版公司 2020-4 

界面文化:所以,问题的关键并不是“身体该怎么办”,这种问法还是由于想象力不足。

温特森:这就是我在《人形爱情故事》中写到人体冷冻技术的原因,在未来,不会有人再需要冷冻自己的身体,这是一种过渡技术,就像磁带一样,因为我们可以制造其他的身体,那些躺在冷冻室等待新世界到来的人也不会如愿以偿。

但我确实认为,将有一种方法可以提取出足够的自我,使其能够被辨认出来(recognizable)——我想,“辨认”是个准确的词——关键是让我们辨认出自己。我们会从手术中醒来,说:“我的身体怎么不见了?但我还是我啊。”

我们的身体美丽又可爱,但可能不适合我们接下里的目标。人类将会逐步被我们创造的技术取代,因为身体本身会变得越来越不合时宜,你无法用这个脆弱、容易受伤的身体进行太空旅行,也无法做我们下一阶段可能想做的所有事情。

当我们继续前进,身体会是进化历程中的一部分。智人在地球上游荡的时间只有30万年,而地球已经有45亿年的历史了,如今文明无处不在,但文明只有6000年的历史,工业革命距今才250年,计算机的发明是75年,而智能手机在2008年才被发明出来。卡尔·马克思又说对了,他在1848年的《共产党宣言》中用的两个词是“破坏”和“加速”。这不正是我们正在经历的吗?人们会困惑,因为一切都在飞速发展,速度之快超出了我们的承受能力。

我的问题来了:我们是否要迈进一个超人类的未来,一个后人类的未来?对我来说,这完全不成问题,因为这符合进化史。未来的我们会惊讶地说:“你还记得吗,我们以前竟然是用肉做的哎!”就像是我们曾经住在山顶洞穴里一样。当我们回顾历史,会觉得过去的人不可思议,那么,同样的事为什么不可能再次发生呢?据我所知,在中国有些人自称为“二次元”,他们认为自己重要的生活都在屏幕上,有人说这种生活方式不健康,但要是没有身体,也就不存在什么健康问题了。

03 无论技术多先进,思维不改变一切就都不会改变

界面文化:这是否也涉及一重性别视角?提出和担忧“人之死”、人文主义消亡的似乎总是男性学者。精神分析学者伊莎贝尔·米勒认为,人工智能有非常女性化的力量,它能够向所有不同方向爆发,然而现在的科技界遵循的仍然是工具化的规则。这与你的想法不谋而合,你在书中也着重讲述了女性在科技界的作用。

温特森:这是一个很好的观点。说到底,喜欢穿制服、拥有勋章和地位的是男人,只要那些家伙不再控制AI技术,AI就能变得更强大、更难以对付。

我强烈认为女性必须参与到这项技术中来,无论是叙事、工程还是编程方面,我不认为女性的大脑有什么问题。很多男性会提出:“如今的女性已经能自由选择想做的工作了。”这一观点是错误的,因为男性创造出的工作环境对女性不利,对家庭也不友好。女性的互动性更强,喜欢彼此连接和关照的环境,目前的工作环境很难让女性茁壮成长。

我希望,女性能够在自己的技术实验室里建立自己的创业公司,摆脱男性主导的技术模式。在中国,你们很有可能成为这方面的领导者,那里的女性可能会以西方目前做不到的方式推动行业发展。

界面文化:这让我想到你在书中对玛丽·雪莱、阿达·洛芙莱斯的书写。玛丽是第一部科幻小说《弗兰肯斯坦》的创作者,阿达编写了历史上的首款电脑程序。19世纪时,她们在男性主导的科技业界起到过举足轻重的作用,但其成就没有得到充分认可。你认为今天的状况仍然如此吗?

温特森:美国的太空计划中有很多值得挖掘的女性工作者,《隐藏人物》这部伟大的电影就是关于这些女性的。她们是太空任务的编程人员,但是在西方,一名女性编程人员会被称为文员——这可不是我瞎编的,从事同样工作的男性就叫做工程师。

现在的问题是,我们把旧的思维模式带入到了一项全新的技术中,无论技术有多先进,只要思维不改变,地球上的一切都不会改变。

《隐藏人物》海报。图片来源:豆瓣

界面文化:我之前看到过一个说法是,人类思维的进化跟不上技术的进化,所以我们才会用最新的技术实践着最古老的行为模式。你对此怎么看?

温特森:这就是为什么我认为光有数学、物理和编程是不够的,还需要艺术家、作家、哲学家、历史学家等有创造力的人参与到新科技中。看看科技行业的从业者吧,他们大多没什么文化,不懂哲学和宗教,还自大到认为自己懂得很。所以才会有我这样的人出现,我想惹恼他们,说:我要加入你们的游戏,我也要谈论它。这或许也能鼓励其他女性。

所以我将历史、哲学、宗教融入了《十二字节》,因为每一本有关AI的书都在说“机器人会杀了我们”,要么就是“一切都会好起来的”,它们都是男人在谈论同一件事,那就是权力。这太无聊了,所以我决定直接回到工业革命时期的情形,看看玛丽·雪莱和阿达·洛芙莱斯是怎么做的。

事实就是,玛丽·雪莱,一名19岁的女孩,从未受过我们想象中的那种教育,但她超级聪明。正是她在《弗兰肯斯坦》中的远见卓识让我们在200年后终于明白,我们可以创造出另一种生命。玛丽笔下的怪物是依靠电力运转的,要知道,18、19世纪时还没什么人用电呢,真的很不可思议。

我想借此讨论的是——我们能够如何拥有一个愿景。这就回到了我们对话的开头,我们都见过关于灵魂、来世的集体幻象,它们就像预言一样,终究会在未来实现。心灵并不像身体那样被困在时间里,心灵并不停留在过去、现在或是未来,而是可以突然看到巨大的可能性弧线。

“科幻小说之母”玛丽·雪莱。图片来源:视觉中国

对我来说,这意味着一种谦卑和喜悦,在这个漂浮在太空中的蓝色小星球上,出现了我们这些奇怪的小生物,能够想象和建造各种世界。有时我们做的事令人心碎,比如互相残杀。但令人高兴的是,我们也取得了很多成就,并不断前进。所以让我们去探索太空吧,让我们把所有资源结合在一起,和AI们一同工作。在我最喜欢的电子游戏《我的世界》中,孩子们可以搭建世界,这个世界不是用来打仗的,而是一个有学校操场、阳光草坪的世界,人人拥有自己的权利,彼此是好朋友。当人们不总是被贪婪和权力驱使时,创造的东西就会变得美好。

04 庆祝文化差异,讨厌肤浅的“精神旅游”

界面文化:我想由此和你探讨一下“命名”这件事,给一件事物命名也就是在改变它吗?《人形爱情故事》中斯坦教授希望AI不必像人类那样被命名。在你被领养之后,你的名字也从Janet变成了Jeanette……

温特森:你说到点子上了。改名这件事给了我自由。我可以改变故事,重新发明了自己,因为我就是故事本身。我会想,这些人怎么就突然变成我的父母了?从绝对意义上讲,这些都不是真的。

某种程度上来说,这符合西方的个人主义,它鼓励我们重塑自我,当人们遭遇中年危机,他们就会说,我不想再做会计或牙医了,我要跟我17岁的女朋友私奔,虽然我已经65岁了——通常是男人们在这么做。但是其更深层次的意义在于,我们不必被束缚,不必讲述我们不想告诉别人的故事。

被领养的孩子也是如此,尤其是跨国领养。他们刚开始会迷失自我,新家的气味和感觉都不对劲,周围的人跟自己长得也不像。这会让他们感到痛苦,许多人因此吸毒、酗酒、谈糟糕的恋爱。但我也遇到过许多成功的被领养者——成功并不是指成为公司CEO,而是指过上体面的生活。他们都意识到,原来可以用自己的方式讲述自己,就像脑袋上的灯泡突然亮起来一样。这也是我成为作家的原因。我总觉得不属于自己的起源地,虽然在精神上遇到了很多困难,但我能够阅读各种书籍,为自己构建一个世界。

所以,父母不用对领养的孩子说“这就是你家呀”之类的PUA言论,人家明明就不在自己家嘛。难民也是同样的道理,接收国不必非得同化他们,只要确认他们的感受就好了——没错,你感到流离失所,接下来你打算怎么办?现在的情况是,接收国要么把难民当成恐怖分子,要么就使他们屈服于主流文化,这两种说法都是扯淡。我们需要找到一种方法,让人们在不舒服的情况下,试着对自己和所处的世界做出积极的贡献。

界面文化:民族主义也是同一回事吧。如果从一开始大家就有“不必非得归属某地”的想法,民族主义也不会盛行。

温特森:是的,能够庆祝文化差异很重要的,因为我们能学到不同文化,如何烹饪、喜欢什么音乐等等。比如,西方开始殖民的很久以前,中国就开辟了丝绸之路,从东到西打开了世界的大门。民族主义总是被贸易打败——我指的是字面上的贸易,现在所有东西都靠船运输,但在过去,人们要走路才能买到东西,这样更有趣,陌生人可以变成生意伙伴,截然不同的能够成为朋友。而民族主义之下每个人都选择了恐惧,把一切都越缩越小。我理解,人们担心自己的文化被摧毁,但西方资本主义才是摧毁文化的罪魁祸首。

回到刚刚聊到的,每个有宗教信仰的人都会认为,自己并不属于这个世界,他们真正的故乡在别处,我们都是地球上的难民。

界面文化:你在二十多年前的采访中谈到,对当时大家热衷于探索东方哲思感到将信将疑,西方传统的象征里仍然有值得挖掘的地方——你过往的作品也深深根植于《圣经》等基督教文本;然而,如今你也在书中探讨起AI与佛法的同源性。在你的经验和思考中,这两个宗教系统是怎样影响你的?

温特森:毕竟我已经活得蛮久了(笑)。当你年轻并刚刚开始工作,你只能利用自己拥有的一切,即使你很聪明,也仍然有很多东西不了解。我是一个好奇的人,想知道世界上人们的生活方式,很显然,这些年来,我的知识得到了发展和深化。我对宗教史有了更多了解,基督教起源于犹太教,而世界上所有重要的宗教都起源于东方,这种连续且变动的一体性也是非常东方的,比如“道”的思想,我对此深表敬意。

图片来源:视觉中国

同时,我最讨厌的事就是肤浅的“精神旅游”,西方人懒得理解自己的宗教文化,转而去汲取他们喜欢的东方宗教,这有点像是殖民主义——掠夺之后假装那是他们的。这很不尊重人,我们需要花很长时间来研究和理解与我们截然不同的文明。

所有宗教在其最好的状态下都是和平、温和、包容且充满尊重的,它们的出发点是令人振奋的。伊斯兰教也是如此,它并不是要与异教徒开战,而是要与自己身上的坏毛病作斗争。但是,没人能做到这些,所以它们很快就变得与权力和等级制度有关了。在西方,许多人付给手下微薄的薪酬、让员工居住在糟糕的环境里,还自称为基督徒——拜托,你根本不是基督徒好吗!《圣经》教义里讲的是,一个无家可归的人、依靠着他人的施舍,并教会了众人何为宽恕,这才是基督教的本质。同样,佛教讲求的是不执着、不追求权力,然而在斯里兰卡或缅甸的佛教政权下发生的事情真是令人作呕。所以,我想回到宗教本身,看到当时的人类如何试图控制自己的战争本能,寻求一个更具包容性和同情心的世界。

因此我有时会想,AI快点来吧,把我们都赶走。如果你问一个有意识的人工智能系统:该如何解决世界上的问题?它会说:除掉人类就行了。而我将第一个举双手赞成:你说的有道理,我现在就消失。

05 颠覆世界远不如颠覆自己有趣

界面文化:性爱机器人/玩偶在近些年来的社科学界是热议的话题,你似乎对此持鲜明的否定态度,认为这类玩偶的本质是“金钱、权力和性别角色”。所以,性爱玩偶其实与爱情无关吗?

温特森:性爱玩偶是一个旧式思维伪装成新技术的典型例子。现实中,女性并不总是顺从,也并不承认男人是世界之王,所以性爱玩偶的关键在于男性可以训练它,除非有人对它开口,否则它就不会回应,这正是父权制一直想对女性做的事。不管走到世界的哪一个角落,女人都被男人当成狗屎对待。

如果你接受了这种不平等,就会接受其他不平等,它会引导你去想也许白人比黑人更优越。我甚至认为,性别歧视比种族主义更可怕,因为女人占据世界人口的一半。

不仅是性爱玩偶,基本上所有的操作系统都是女声。我将要去采访世界上最先进的机器人,她名叫阿米卡(Ameca),实质上就是一个有身体的ChatGPT4,但她比索菲亚(注:香港地区的汉森机器人技术公司开发的类人机器人,看上去像人类女性,拥有橡胶皮肤)先进得多,表情和手部动作都很精细。在视频聊天时,我问她,为什么你们都是女性形象?她回答,因为女性被认为更平易近人、反应更及时。我想,好吧,至少你很诚实。

当地时间2023年7月7日,瑞士日内瓦,国际电信联盟“人工智能造福人类”全球峰会期间,在全球首次与人工智能类人社交机器人小组举行的新闻发布会上,一名摄影师拍摄了首席执行官女机器人“Mika”(中)和人形人工智能机器人“Ameca”。图片来源:视觉中国

界面文化:如果性爱玩偶与真正的爱情无关,你会怎样想象人类与AI或其他非人的爱情呢?这是可能的吗?

温特森:这可以是一种深厚的友谊,因为你和AI系统做的唯一一件事就是交谈,你没法跟它一块坐在长椅上。只要能够进行真正的对话,对面是何种实体都没关系。有人可能会说,AI的一切都是预编程的。可是,人类也是预编程的呀!我们都是根据数据进行训练的,如果一个男孩的父亲对女性很糟糕,那么他很可能也会成为这样的男人。

大部分人不会思考,满口老生常谈,这是最糟糕的预编程。人们平时的对话也很少是深度互动,你下班回家问伴侣:今天吃啥?他回:不知道啊。关系有时还是单方面的,A所珍视的关系,在B看来可能是逢场作戏,我们永远无法知道对方到底在想什么的。所以,别太自以为是了,人类根本没那么特别。

AI这项技术仍在发展,会发生许多场景,小孩回家时会有一个可爱的机器人伙伴督促他做作业;我有个年迈的亲戚,他很爱说重复的话,但聊天机器人永远不会失去耐心,他摔倒时,机器人会自动呼叫医院。疫情时,中国的某些医院就应用了人工智能待客系统。我们可以让技术充满温馨,让人们不必孤单地坐在房间里,等上4小时才能问诊,而是会有一个亲切的机器人男孩对你说:“你想喝茶吗?我们来聊聊你的病史吧。”

界面文化:在你撰写《十二字节》和《人形爱情故事》时,人工智能都是弱人工智能,ChatGPT还未问世。在它出现之后,你对AI的看法和感受产生了变化吗?你平时会使用ChatGPT吗?

温特森:这就是我所说的“大加速”,短时间内就出现了这样的变化。我不会用ChatGPT作为生产力工具,它的专业模式真的很无聊,我有我自己的“专业模式”,所以不太需要它。我有时会用Gemini(注:由Google开发的生成式人工智能聊天机器人),它不适用于小说,但很适用于非虚构,你可以把论文放进去,让它做简短的摘要,这一点很棒,因为大部分学术著作都非常乏味冗长。

但是,我想对这个方法提出一个警告,这件事我也一直在思考但尚未有结论,也许以后想法还会改变——某天,你想读一本西方哲学家的书,比如叔本华,然后你把它放进AI里进行摘要。问题在于,也许正是读到原文的某个无聊片段时,你与作者的思想会产生有意义的联系,如果仅仅读摘要,你就会错过它。并且,对你有用的内容可能对我完全没用,这是一种充满意外的化学反应。

这是人类思维的一个奇特之处,我们喜欢创造模式,而有时我们需要一些东西来改变模式,但在你偶遇到它之前,你并不知道自己需要它。也就是说,人类的创造力总会以意想不到的方式扰乱数据集,它并不遵循线性逻辑,几乎是反模式、反数据的,无法预测也无法编程。此外,人类思维也可以把看似支离破碎的东西连接在一起。所以,ChatGPT4需要再进步一点,这样它才能够与人类思维进行辩论和对话。

这是我们最好、最美丽的一面。我曾对我的学生们说,我们可以升级机器,但是不要变得和机器一样;我们可以(利用AI)将文章变成综述、学到比以往任何一代人都多的东西,但我们无法得知,那个颠覆性的破坏瞬间会在哪里发生。并且,颠覆世界远不如颠覆自己有趣,这一切需要在内部发生。

界面文化:这让我想到你在书中引用的艾米莉·狄金森的诗句“头脑——比天空更宽广”。

温特森:没错,艾米莉·狄金森一辈子都住在马萨诸塞州的一个房间里,从未出过镇子,就像简·奥斯汀住在乡下。但是她有丰富的思想,以及使用非常有限的数据集的能力。因此,当人们谈论经验时,我总觉得有点不妥,我认为,想象总是可以战胜经验,比如发明出自行车、汽车或电脑,且往往是通过反数据的方式,因为没人知道这些想法是从哪来的。人类的大脑能够实现概念上的飞跃,并不是因为它拥有大量的数据,而是突然间它能够将一些非常简单的数据联系起来。

问题是,很多科技公司的老兄对人类这一点感到不太舒服,无论是人际关系还是世界观层面。对他们来说,与机器打交道更安全干净、更可控,而人类世界是混乱和不可预测的。你可以离开你的伴侣,但是不能对TA进行编程,也不能这个坏掉就立马换下一个,生活并不是这样的,与某人在一起必须克服困难、共同成长并接受差异。当你与困难打交道时,你才会在情感、智慧、仁慈这些奇怪的人类特质方面有所成长。

未经正式授权严禁转载本文,侵权必究。

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

【专访】珍妮特·温特森:信奉鬼神与来生的人类,早就为AI的出现做好了准备

“当人们不总是被贪婪和权力驱使时,创造的东西就会变得美好。”

英国作家珍妮特·温特森

界面新闻记者 | 尹清露

界面新闻编辑 | 黄月

许多读者是从《橘子不是唯一的水果》开始认识珍妮特·温特森的,在这本1985年的处女作中,她以虚构的方式叙述了自己如何被英国的一个工人阶级家庭收养,并希望被培养成一名传教士。当母亲发现温特森与一个女孩谈恋爱时,16岁的她被赶出了家门,并自此“重新发明”了自己,在牛津大学圣凯瑟琳学院获得英语学位后,温特森一边做零工,一边写作,在作品中思考着自我身份、女性欲望、爱情与死亡等问题。

所以,当已年过六旬的温特森将书写伸向了另一个时髦热闹的话题——人工智能时,我们不应感到奇怪:在今天,还有什么话题比人工智能更能颠覆人类的主体地位,以及我们对亲密关系的想象?又有谁比温特森拥有更强劲的创作生命力,持续关注着人类将去往何处?在她看来,AI不应该是“人工智能”(artificial intelligence),而应该被称作“另类智能”(alternative intelligence)。AI就像被领养的孩子、女性,以及世界上所有的少数群体一样,值得被寄予厚望,能够帮助我们思考究竟“何以为人”。

温特森近照。图片由出版社授权提供。

事实上,在2000年出版的《苹果笔记本》中,温特森就已经展露出自己对互联网黎明的好奇与洞察;二十年后,她进一步延伸了这一主题——非虚构作品《十二字节》从工业革命时期的技术开始回顾,预测了父权制垄断科技的后果;长篇小说《人形爱情故事》用文本“复活”了玛丽·雪莱,写出世界上第一部科幻小说《弗兰肯斯坦》的女性作家,温特森赋予了她当代变性人的身份,并由此探讨了AI与非二元论、超人类主义、数字来生的可能性。

10月初,界面文化(ID:booksandfun)线上采访了珍妮特·温特森,探讨了围绕AI技术的种种面向。视频那头的温特森正在英国西南部的康沃尔岛度假,她热情洋溢、有力并充满幽默感地指出:我们正在面临历史的革命性时刻,AI可以带我们跳出技术末日论,前提是人类摒弃有关权力控制、等级划分的陈旧思维模式,对未来进行更充分的想象。

《人形爱情故事》
[英]珍妮特·温特森 著 杨扬 译
新星出版社 2024-6

01 一是不要被动,二是不要悲观

界面文化:你近年来出版了《十二字节》《人形爱情故事》和《河之夜界》这几本新作,它们似乎以一种十分有机的方式互相关联着,主题是你一直在关注的性别身份、爱情与死亡等,而AI与幽灵给予了这些议题新的维度。为什么想要特地书写AI/机器人与鬼故事?

温特森:因为对我来说,一切都是互相关联的。我对人与机器技术的关系及其变化很痴迷。虽然AI是一种工具,而人类是使用工具的动物,可是AI的发展远远超出了我们对工具的理解。我们通常不会和工具建立关系,但是AI改变了这一点。中国在这方面非常先进,比起西方国家,你们或许更能对此感同身受。

一旦你觉得在与某样东西对话,就已经在与之建立关系了,无论是爱还是恨。我们常常忘记,憎恨仍然是一种关系——你以为你能把讨厌的人彻底忘掉?不是这样的,人类天生就喜欢“关系”。而在思考人类与AI的未来时,我们对这一点考虑得还不够,AI将改变我们对自己、对友谊的看法,更不用说浪漫爱情了。我深信,我们现在面临的绝不是普通的时刻,它将是一次全面的重启和革命,也是一次进化。

《十二字节》
[英]珍妮特·温特森 著 苏十 译
中国科学技术出版社 2024-5

我对那些愚蠢的“乌托邦-敌托邦”言论感到很失望。未来会是《终结者》式的末日强权统治吗?还是一个永远安详的幸福之地,所有问题都能迎刃而解,所有人都不需要工作了?这两种立场都是错的,我们只是在固守极端罢了,真相并非如此。我们需要更多地思考,作为作家,我的工作就是鼓励人们去思考,动用你的大脑吧,人类的大脑很神奇,它只需每天10瓦的电量就能运转,效率很高,不像AI那样消耗大量能源。

我们还需要运用AI目前不具备的东西,也就是感受和心灵自我。我们必须把这些结合起来思考:我们想成为什么样的人?下一步要做什么?我们不是被动的,作为一个创造新世界的人,我很讨厌被动,好像我们只能朝着没人想要的未来前进似的。我很乐观,但我的乐观只来自于年轻人们,我相信他们会说:“嘿,我们可以在AI朋友的帮助下让未来变得更好。”

我想传达两方面的信息。一是不要被动,要尽可能多地了解正在发生的事情,多多思考并参与其中。二是不要悲观,如果能够了解目前的情况,并对可能实现的目标持谨慎乐观的态度,就会好得多。我们并不一定会陷入全球崩溃的局面,也不一定陷入糟糕的监视独裁,这些都在于我们现在的选择。

界面文化:就现实来说,我们仍生活在一个受控于科技巨头公司的世界。你在《人形爱情故事》中提到,有时技术的进步只会使少数人获利而多数人受苦,比如工业革命时期纺织机的发明使得纺织工人失去工作。要如何用乐观的态度面对现实的复杂性呢?

温特森:我们需要考虑两个问题。一是,人们要赚钱才能生活,因此他们常常害怕自己没有钱、害怕自己在世界上一无是处。这是一个真实的恐惧,但其实也很好解决,比如在国家或全球范围内——我想必须得是全球范围内——实行全民基本收入机制,既然AI能够产生大量财富,那我们可以分享这些财富。

就资本主义而言,当然不是谁都愿意这样做,通常的想法是你不应该分享财富,顶多做慈善分出去一点。但是当思考如何分享AI创造的财富时,我们必须改变做法,否则就会发生暴乱、内战和革命。我们都知道为什么彼得·蒂尔(注:PayPal的创办人之一)这样的人会买下新西兰的大片土地,因为一旦地球陷入混乱,他们得去那里避难。所以,应当分配资源,让每个人过上有尊严、体面、安全的生活。

2024年美国消费电子展聚焦人工智能等领域创新成果。图片来源:视觉中国

比较难的是另一个问题。如果每个人被分配到足够的资源,那就是共产主义了,可是共产主义已经失败了——当然,资本主义也失败了,只是我们不被允许谈论这件事。共产主义背后的想法是很美妙的,它失败是因为它无视了人们的个性和想法,默认你只是群体的一部分。在资本主义社会,情况恰恰相反,每个人都是个体,这也会让人感到不适。

所以,要在“我想成为群体的一份子”和“我想要做我自己”之间找到平衡。“做自己”意味着找到生活的意义、让自己感到有价值。就算某人很有钱,只要TA活着没有意义和目的,那TA也不会过得很好。虽然已经没啥人读马克思了,但是马克思说过(大意):“社会主义要满足我们的基本需求,食物、干净的水、清新的空气、住所、教育等等。满足这些需求后,我们就会明白人类生而为人是为了什么,因为我们会开始追求情感、心理和精神需求。”马克思的话是完全正确的,应该停止赚钱买自己不需要的东西、然后看看会发生什么。

因此,我们正在见证另一场革命的时机。20世纪初,我们经历了共产主义和资本主义的斗争,这场斗争产生于工业革命,那时人们会问:“我们到底在干嘛呀?不行,我们想要更好的生活。”这更像是一种精神层面的诘问,每隔一段时间、每发生一次影响深远的大事件就会循环出现。这些事件有时是战争,人们非得把彼此打得屁滚尿流,才会想起来问:能不能换一种方式生活呢?社会进步就是这样达成的,总是需要一些大事来告诉我们,何为更好的生活。

现在有了AI,又是问这个大问题的时候了——AI会帮助我们吗,还是被有钱有势的人利用来毁掉其他人的生活?仔细想想,你想让埃隆・马斯克掌控你的生活吗?他甚至不是民众选举出来的,他不对任何人负责,可是他拥有很大的权力。

界面文化:无论是在小说还是其他采访场合,你都表达过对简单二元论的鄙视,比如“AI奴役人vs被人奴役”。你这样说,我意识到共产主义和资本主义的道路也是一种二元论。

温特森:二元论实在太粗糙了,不是吗?人类沉迷于男性-女性、同性恋-异性恋、黑人-白人、东方人-西方人的二元划分,但它们都没什么用。我喜欢AI的一点是,虽然它使用0和1的二进制代码,但它本身是非二元论的,AI没有性别、肤色,没有对上帝的信仰,它不是在资本主义或共产主义社会长大的,也没有人类的杂念和偏见。

当我们在数据集上训练AI时,才发现原来自己有那么多偏见,AI就像一面放大镜,把所有成见都反射给了我们。它可能会说:“等等,我本来是个中立的技术,看看你们对我做了什么!”

图片来源:视觉中国

界面文化:它们会对人类很失望吧。

温特森:是啊,如果AI真的拥有了智慧,成为了游戏的玩家而不仅仅是工具,它就会说:“你们把一切都搞砸了,我得换一种方式。”我想那会非常有趣,因为你无法贿赂AI,它不想要酒吧、女孩,不想争夺土地,所有对人类有用的东西它都不感兴趣。它会让我们对自己以及我们活动的价值产生质疑。AI会看着一艘游艇自言自语:“为啥人类想要这玩意?”

AI不吃东西也不睡觉,它不进行生物繁殖,但显然会不断自我更新。它也不会死,这就回到了你的问题——为什么我想写鬼故事。因为我想,天哪,我们要和一个不会老也不会死的东西一起生活,这感觉很奇怪,也可能令人心碎,因为人类是会衰老腐朽的。

可是另一方面,当我们永失所爱之人,我们并不会停止爱他们。我们的肉体是暂时的,世界上的任何一种宗教信仰——无论佛教、印度教、伊斯兰教还是基督教——都相信人类的肉身状况只是生命的一部分,除此之外还有鬼魂、精灵、恶魔以及其他非生物实体,我们会与之发生关系。可以称其为“迷信”,但也可以说,这是对于生命真相的深刻认识。人类的形式只是暂时的,我们很快就会进入科技领域,在那里,我们将与(AI这样的)非生物实体共存。

因此,在某种程度上,我们的思想已经为AI的出现做好了准备。数以亿计的人会对你说,他们最重要的关系是与一个非生物实体建立的——那个实体就是上帝。他们从未见过上帝,但上帝给予了他们力量、希望和勇气。

当我把这些想法结合在一起时,我发现,我们正在建立的正是我们一直以来所深信的(we're building what we've always believed)。AI作为一种哲学思想、而不仅仅是一项技术是意味深远的。我在宗教环境长大,所以我看AI的感觉很奇怪,就像是回家一样,回到了我一直知道非常真实的地方。

02 AI的到来意味着宗教和科学终于并肩走在了一起

界面文化:具体来说,AI会怎样改变我们对死亡的观念呢?

温特森:死亡的概念已经被技术彻底颠覆。原因有二,其一,如果我们任何时候都能加载意识,那就是死亡的终结;但就算我们做不到这一步,AI技术已经能让人类以某种方式继续活着了,你可以通过APP搜刮逝者的社交媒体,(使之生成逝者的形象)并给你发消息,现在有很多这类广告,让AI装扮成死去的父亲或男朋友,人们对此也很热衷。你也可以进入元宇宙,和逝者的化身交流——不过,马克·扎克伯格的“元宇宙”就算了吧,他就是个白痴,只会把那里搞成另一个购物中心。

《河之夜界》中有这样一个故事,一名妇人的丈夫死了,但是他的化身没死,仍然在四处游荡。如果这成为了我们每天的现实,我们的思维不可能保持不变。想象一下,你走在街上,机器人向你打招呼、帮你做事,我们在手机上收到来自死去亲人的信息。并且,AI不需要像人类那样在同一时间出现在同一个地方,你的机器人可以坐在飞机上,其操作系统却在家,而它们都是连接在一起的。因此,我们能够摆脱单一性,走向多元,这真的很奇妙,将是一次巨大的觉醒。

《河之夜界》
[英] 珍妮特·温特森 著 于是 译
人民文学出版社 2024-8 

回顾历史就会发现,不管是追求自由、博爱和平等的法国大革命,追求幸福的权利的美国独立宣言,还是俄国革命,它们都是正当的研究领域。不管这些革命的名声有多差,不管它多么残酷、出现了何种问题,它们都是人类曾说过“让我们做一些有价值的事情”的地方。

我们应该停止无休止的抱怨、打分和抨击,而你唯一能做的就是为老板工作,和你的可爱妻子住在可爱的小公寓,一年休两次假,这根本不是生活。如果止步于关于“工作该怎么办”“现在的系统太糟糕了”的无聊讨论,那我们永远不会所有改变。

界面文化:我们应该意识到,在业已习惯的现实世界之外,还存在着其他世界,而正是AI让我们明白了这一点。与此同时,我们这样做其实是在追溯过去的文化传统,我们在向后退。

温特森:没错,我们一直在排练这个节目,只不过以前在科技上不具备深入探讨的能力,只能通过宗教、祖先崇拜、来世这样的想法来探讨。毕竟,没人能真正接受死亡,每个人都觉得死亡这回事简直太荒谬了!科学的说法是,来世什么的只是迷信,你无法面对死亡所以才编造出这一切。好吧,可能这是对的,但更有趣的问题是,为什么我们可以面对一切,却唯独无法面对死亡?也许是因为……我们知道在某天,死亡终将变得无关紧要。

我们总是好奇机器能否发展出意识,这是因为,我们并不知道意识是什么。但如果机器发展出了意识——也就是说,意识并不受制于生物形式,那就非常有趣了。

宗教的主张是自我意识并不束缚于身体,而西方17世纪启蒙运动之后,科学提出“人死就什么都没了”。可是,既然没有任何证据,那就什么也证明不了。所以,科学正在问的问题,宗教早就问过了:困在肉体中的意识是一切的终点吗?而现在,科学也开始认为:或许还真不是?

这意味着,宗教和科学终于并肩走在一起,开始说同样的话了。此外,我们还在开发其他生命形式,它们不必像人类那样经历死亡。这很像上帝,上帝是永生不朽的,那我们也在建造永生不朽的生命啊。

2024年4月9日,香港科技大学推出首批“AI讲师”。图片来源:视觉中国

界面文化:你支持超人类主义,认为肉身躯体不是最终归宿,但是说到身体的消逝,你会感到可惜或矛盾吗?在《写在身体上》,你那时的态度还是“我宁愿搂着你,在英国真实的雨天里,走过英国真实的潮湿草地”。书中爱人渴望彼此身体的片段也令人印象深刻。

此外,如果过于强调身体和意识的分离,这会不会又变成身心二元论呢?毕竟我们现在的经验是,意识和肉体是无法完全分开的。

温特森:是的,这是西方式的二元论,我不相信身体和思想是互相独立的,作为人类,不存在独立于感觉的思想。但是作为人类,我们的表达也远远不是终极表达,比如,我认为我们甚至不可能谈论“连接”(connection),因为连接暗示着“断联”(disconnection),但万事万物都是流动的,所有伟大的宗教都回归为“一”,万物不再分离。

让我们想象一下,上传意识的过程中会失去很多东西,因为不可能上传全部的你。那种感觉确实很奇怪,就像来到一个语言不通的国家,重新开始学习和适应没有身体的感觉。但如果这成为现实,那也可以把意识下载到不同的身体中,许多传说都讲过类似的故事,也是女巫和魔法师的拿手好戏,TA有能力让自己变形,还能把别人变成一头猪什么的。可能还会有那种主题公园,把非实体人类下载意识到肉体里度个假,然后他们就去喝个烂醉、吃汉堡包、开性爱派对了。

我一直在关注人类的思维方式,寻找我们可能会走向何方的线索。以上就是一条线索。

《写在身体上》
[英]珍妮特·温特森 著 周嘉宁 译
北京联合出版公司 2020-4 

界面文化:所以,问题的关键并不是“身体该怎么办”,这种问法还是由于想象力不足。

温特森:这就是我在《人形爱情故事》中写到人体冷冻技术的原因,在未来,不会有人再需要冷冻自己的身体,这是一种过渡技术,就像磁带一样,因为我们可以制造其他的身体,那些躺在冷冻室等待新世界到来的人也不会如愿以偿。

但我确实认为,将有一种方法可以提取出足够的自我,使其能够被辨认出来(recognizable)——我想,“辨认”是个准确的词——关键是让我们辨认出自己。我们会从手术中醒来,说:“我的身体怎么不见了?但我还是我啊。”

我们的身体美丽又可爱,但可能不适合我们接下里的目标。人类将会逐步被我们创造的技术取代,因为身体本身会变得越来越不合时宜,你无法用这个脆弱、容易受伤的身体进行太空旅行,也无法做我们下一阶段可能想做的所有事情。

当我们继续前进,身体会是进化历程中的一部分。智人在地球上游荡的时间只有30万年,而地球已经有45亿年的历史了,如今文明无处不在,但文明只有6000年的历史,工业革命距今才250年,计算机的发明是75年,而智能手机在2008年才被发明出来。卡尔·马克思又说对了,他在1848年的《共产党宣言》中用的两个词是“破坏”和“加速”。这不正是我们正在经历的吗?人们会困惑,因为一切都在飞速发展,速度之快超出了我们的承受能力。

我的问题来了:我们是否要迈进一个超人类的未来,一个后人类的未来?对我来说,这完全不成问题,因为这符合进化史。未来的我们会惊讶地说:“你还记得吗,我们以前竟然是用肉做的哎!”就像是我们曾经住在山顶洞穴里一样。当我们回顾历史,会觉得过去的人不可思议,那么,同样的事为什么不可能再次发生呢?据我所知,在中国有些人自称为“二次元”,他们认为自己重要的生活都在屏幕上,有人说这种生活方式不健康,但要是没有身体,也就不存在什么健康问题了。

03 无论技术多先进,思维不改变一切就都不会改变

界面文化:这是否也涉及一重性别视角?提出和担忧“人之死”、人文主义消亡的似乎总是男性学者。精神分析学者伊莎贝尔·米勒认为,人工智能有非常女性化的力量,它能够向所有不同方向爆发,然而现在的科技界遵循的仍然是工具化的规则。这与你的想法不谋而合,你在书中也着重讲述了女性在科技界的作用。

温特森:这是一个很好的观点。说到底,喜欢穿制服、拥有勋章和地位的是男人,只要那些家伙不再控制AI技术,AI就能变得更强大、更难以对付。

我强烈认为女性必须参与到这项技术中来,无论是叙事、工程还是编程方面,我不认为女性的大脑有什么问题。很多男性会提出:“如今的女性已经能自由选择想做的工作了。”这一观点是错误的,因为男性创造出的工作环境对女性不利,对家庭也不友好。女性的互动性更强,喜欢彼此连接和关照的环境,目前的工作环境很难让女性茁壮成长。

我希望,女性能够在自己的技术实验室里建立自己的创业公司,摆脱男性主导的技术模式。在中国,你们很有可能成为这方面的领导者,那里的女性可能会以西方目前做不到的方式推动行业发展。

界面文化:这让我想到你在书中对玛丽·雪莱、阿达·洛芙莱斯的书写。玛丽是第一部科幻小说《弗兰肯斯坦》的创作者,阿达编写了历史上的首款电脑程序。19世纪时,她们在男性主导的科技业界起到过举足轻重的作用,但其成就没有得到充分认可。你认为今天的状况仍然如此吗?

温特森:美国的太空计划中有很多值得挖掘的女性工作者,《隐藏人物》这部伟大的电影就是关于这些女性的。她们是太空任务的编程人员,但是在西方,一名女性编程人员会被称为文员——这可不是我瞎编的,从事同样工作的男性就叫做工程师。

现在的问题是,我们把旧的思维模式带入到了一项全新的技术中,无论技术有多先进,只要思维不改变,地球上的一切都不会改变。

《隐藏人物》海报。图片来源:豆瓣

界面文化:我之前看到过一个说法是,人类思维的进化跟不上技术的进化,所以我们才会用最新的技术实践着最古老的行为模式。你对此怎么看?

温特森:这就是为什么我认为光有数学、物理和编程是不够的,还需要艺术家、作家、哲学家、历史学家等有创造力的人参与到新科技中。看看科技行业的从业者吧,他们大多没什么文化,不懂哲学和宗教,还自大到认为自己懂得很。所以才会有我这样的人出现,我想惹恼他们,说:我要加入你们的游戏,我也要谈论它。这或许也能鼓励其他女性。

所以我将历史、哲学、宗教融入了《十二字节》,因为每一本有关AI的书都在说“机器人会杀了我们”,要么就是“一切都会好起来的”,它们都是男人在谈论同一件事,那就是权力。这太无聊了,所以我决定直接回到工业革命时期的情形,看看玛丽·雪莱和阿达·洛芙莱斯是怎么做的。

事实就是,玛丽·雪莱,一名19岁的女孩,从未受过我们想象中的那种教育,但她超级聪明。正是她在《弗兰肯斯坦》中的远见卓识让我们在200年后终于明白,我们可以创造出另一种生命。玛丽笔下的怪物是依靠电力运转的,要知道,18、19世纪时还没什么人用电呢,真的很不可思议。

我想借此讨论的是——我们能够如何拥有一个愿景。这就回到了我们对话的开头,我们都见过关于灵魂、来世的集体幻象,它们就像预言一样,终究会在未来实现。心灵并不像身体那样被困在时间里,心灵并不停留在过去、现在或是未来,而是可以突然看到巨大的可能性弧线。

“科幻小说之母”玛丽·雪莱。图片来源:视觉中国

对我来说,这意味着一种谦卑和喜悦,在这个漂浮在太空中的蓝色小星球上,出现了我们这些奇怪的小生物,能够想象和建造各种世界。有时我们做的事令人心碎,比如互相残杀。但令人高兴的是,我们也取得了很多成就,并不断前进。所以让我们去探索太空吧,让我们把所有资源结合在一起,和AI们一同工作。在我最喜欢的电子游戏《我的世界》中,孩子们可以搭建世界,这个世界不是用来打仗的,而是一个有学校操场、阳光草坪的世界,人人拥有自己的权利,彼此是好朋友。当人们不总是被贪婪和权力驱使时,创造的东西就会变得美好。

04 庆祝文化差异,讨厌肤浅的“精神旅游”

界面文化:我想由此和你探讨一下“命名”这件事,给一件事物命名也就是在改变它吗?《人形爱情故事》中斯坦教授希望AI不必像人类那样被命名。在你被领养之后,你的名字也从Janet变成了Jeanette……

温特森:你说到点子上了。改名这件事给了我自由。我可以改变故事,重新发明了自己,因为我就是故事本身。我会想,这些人怎么就突然变成我的父母了?从绝对意义上讲,这些都不是真的。

某种程度上来说,这符合西方的个人主义,它鼓励我们重塑自我,当人们遭遇中年危机,他们就会说,我不想再做会计或牙医了,我要跟我17岁的女朋友私奔,虽然我已经65岁了——通常是男人们在这么做。但是其更深层次的意义在于,我们不必被束缚,不必讲述我们不想告诉别人的故事。

被领养的孩子也是如此,尤其是跨国领养。他们刚开始会迷失自我,新家的气味和感觉都不对劲,周围的人跟自己长得也不像。这会让他们感到痛苦,许多人因此吸毒、酗酒、谈糟糕的恋爱。但我也遇到过许多成功的被领养者——成功并不是指成为公司CEO,而是指过上体面的生活。他们都意识到,原来可以用自己的方式讲述自己,就像脑袋上的灯泡突然亮起来一样。这也是我成为作家的原因。我总觉得不属于自己的起源地,虽然在精神上遇到了很多困难,但我能够阅读各种书籍,为自己构建一个世界。

所以,父母不用对领养的孩子说“这就是你家呀”之类的PUA言论,人家明明就不在自己家嘛。难民也是同样的道理,接收国不必非得同化他们,只要确认他们的感受就好了——没错,你感到流离失所,接下来你打算怎么办?现在的情况是,接收国要么把难民当成恐怖分子,要么就使他们屈服于主流文化,这两种说法都是扯淡。我们需要找到一种方法,让人们在不舒服的情况下,试着对自己和所处的世界做出积极的贡献。

界面文化:民族主义也是同一回事吧。如果从一开始大家就有“不必非得归属某地”的想法,民族主义也不会盛行。

温特森:是的,能够庆祝文化差异很重要的,因为我们能学到不同文化,如何烹饪、喜欢什么音乐等等。比如,西方开始殖民的很久以前,中国就开辟了丝绸之路,从东到西打开了世界的大门。民族主义总是被贸易打败——我指的是字面上的贸易,现在所有东西都靠船运输,但在过去,人们要走路才能买到东西,这样更有趣,陌生人可以变成生意伙伴,截然不同的能够成为朋友。而民族主义之下每个人都选择了恐惧,把一切都越缩越小。我理解,人们担心自己的文化被摧毁,但西方资本主义才是摧毁文化的罪魁祸首。

回到刚刚聊到的,每个有宗教信仰的人都会认为,自己并不属于这个世界,他们真正的故乡在别处,我们都是地球上的难民。

界面文化:你在二十多年前的采访中谈到,对当时大家热衷于探索东方哲思感到将信将疑,西方传统的象征里仍然有值得挖掘的地方——你过往的作品也深深根植于《圣经》等基督教文本;然而,如今你也在书中探讨起AI与佛法的同源性。在你的经验和思考中,这两个宗教系统是怎样影响你的?

温特森:毕竟我已经活得蛮久了(笑)。当你年轻并刚刚开始工作,你只能利用自己拥有的一切,即使你很聪明,也仍然有很多东西不了解。我是一个好奇的人,想知道世界上人们的生活方式,很显然,这些年来,我的知识得到了发展和深化。我对宗教史有了更多了解,基督教起源于犹太教,而世界上所有重要的宗教都起源于东方,这种连续且变动的一体性也是非常东方的,比如“道”的思想,我对此深表敬意。

图片来源:视觉中国

同时,我最讨厌的事就是肤浅的“精神旅游”,西方人懒得理解自己的宗教文化,转而去汲取他们喜欢的东方宗教,这有点像是殖民主义——掠夺之后假装那是他们的。这很不尊重人,我们需要花很长时间来研究和理解与我们截然不同的文明。

所有宗教在其最好的状态下都是和平、温和、包容且充满尊重的,它们的出发点是令人振奋的。伊斯兰教也是如此,它并不是要与异教徒开战,而是要与自己身上的坏毛病作斗争。但是,没人能做到这些,所以它们很快就变得与权力和等级制度有关了。在西方,许多人付给手下微薄的薪酬、让员工居住在糟糕的环境里,还自称为基督徒——拜托,你根本不是基督徒好吗!《圣经》教义里讲的是,一个无家可归的人、依靠着他人的施舍,并教会了众人何为宽恕,这才是基督教的本质。同样,佛教讲求的是不执着、不追求权力,然而在斯里兰卡或缅甸的佛教政权下发生的事情真是令人作呕。所以,我想回到宗教本身,看到当时的人类如何试图控制自己的战争本能,寻求一个更具包容性和同情心的世界。

因此我有时会想,AI快点来吧,把我们都赶走。如果你问一个有意识的人工智能系统:该如何解决世界上的问题?它会说:除掉人类就行了。而我将第一个举双手赞成:你说的有道理,我现在就消失。

05 颠覆世界远不如颠覆自己有趣

界面文化:性爱机器人/玩偶在近些年来的社科学界是热议的话题,你似乎对此持鲜明的否定态度,认为这类玩偶的本质是“金钱、权力和性别角色”。所以,性爱玩偶其实与爱情无关吗?

温特森:性爱玩偶是一个旧式思维伪装成新技术的典型例子。现实中,女性并不总是顺从,也并不承认男人是世界之王,所以性爱玩偶的关键在于男性可以训练它,除非有人对它开口,否则它就不会回应,这正是父权制一直想对女性做的事。不管走到世界的哪一个角落,女人都被男人当成狗屎对待。

如果你接受了这种不平等,就会接受其他不平等,它会引导你去想也许白人比黑人更优越。我甚至认为,性别歧视比种族主义更可怕,因为女人占据世界人口的一半。

不仅是性爱玩偶,基本上所有的操作系统都是女声。我将要去采访世界上最先进的机器人,她名叫阿米卡(Ameca),实质上就是一个有身体的ChatGPT4,但她比索菲亚(注:香港地区的汉森机器人技术公司开发的类人机器人,看上去像人类女性,拥有橡胶皮肤)先进得多,表情和手部动作都很精细。在视频聊天时,我问她,为什么你们都是女性形象?她回答,因为女性被认为更平易近人、反应更及时。我想,好吧,至少你很诚实。

当地时间2023年7月7日,瑞士日内瓦,国际电信联盟“人工智能造福人类”全球峰会期间,在全球首次与人工智能类人社交机器人小组举行的新闻发布会上,一名摄影师拍摄了首席执行官女机器人“Mika”(中)和人形人工智能机器人“Ameca”。图片来源:视觉中国

界面文化:如果性爱玩偶与真正的爱情无关,你会怎样想象人类与AI或其他非人的爱情呢?这是可能的吗?

温特森:这可以是一种深厚的友谊,因为你和AI系统做的唯一一件事就是交谈,你没法跟它一块坐在长椅上。只要能够进行真正的对话,对面是何种实体都没关系。有人可能会说,AI的一切都是预编程的。可是,人类也是预编程的呀!我们都是根据数据进行训练的,如果一个男孩的父亲对女性很糟糕,那么他很可能也会成为这样的男人。

大部分人不会思考,满口老生常谈,这是最糟糕的预编程。人们平时的对话也很少是深度互动,你下班回家问伴侣:今天吃啥?他回:不知道啊。关系有时还是单方面的,A所珍视的关系,在B看来可能是逢场作戏,我们永远无法知道对方到底在想什么的。所以,别太自以为是了,人类根本没那么特别。

AI这项技术仍在发展,会发生许多场景,小孩回家时会有一个可爱的机器人伙伴督促他做作业;我有个年迈的亲戚,他很爱说重复的话,但聊天机器人永远不会失去耐心,他摔倒时,机器人会自动呼叫医院。疫情时,中国的某些医院就应用了人工智能待客系统。我们可以让技术充满温馨,让人们不必孤单地坐在房间里,等上4小时才能问诊,而是会有一个亲切的机器人男孩对你说:“你想喝茶吗?我们来聊聊你的病史吧。”

界面文化:在你撰写《十二字节》和《人形爱情故事》时,人工智能都是弱人工智能,ChatGPT还未问世。在它出现之后,你对AI的看法和感受产生了变化吗?你平时会使用ChatGPT吗?

温特森:这就是我所说的“大加速”,短时间内就出现了这样的变化。我不会用ChatGPT作为生产力工具,它的专业模式真的很无聊,我有我自己的“专业模式”,所以不太需要它。我有时会用Gemini(注:由Google开发的生成式人工智能聊天机器人),它不适用于小说,但很适用于非虚构,你可以把论文放进去,让它做简短的摘要,这一点很棒,因为大部分学术著作都非常乏味冗长。

但是,我想对这个方法提出一个警告,这件事我也一直在思考但尚未有结论,也许以后想法还会改变——某天,你想读一本西方哲学家的书,比如叔本华,然后你把它放进AI里进行摘要。问题在于,也许正是读到原文的某个无聊片段时,你与作者的思想会产生有意义的联系,如果仅仅读摘要,你就会错过它。并且,对你有用的内容可能对我完全没用,这是一种充满意外的化学反应。

这是人类思维的一个奇特之处,我们喜欢创造模式,而有时我们需要一些东西来改变模式,但在你偶遇到它之前,你并不知道自己需要它。也就是说,人类的创造力总会以意想不到的方式扰乱数据集,它并不遵循线性逻辑,几乎是反模式、反数据的,无法预测也无法编程。此外,人类思维也可以把看似支离破碎的东西连接在一起。所以,ChatGPT4需要再进步一点,这样它才能够与人类思维进行辩论和对话。

这是我们最好、最美丽的一面。我曾对我的学生们说,我们可以升级机器,但是不要变得和机器一样;我们可以(利用AI)将文章变成综述、学到比以往任何一代人都多的东西,但我们无法得知,那个颠覆性的破坏瞬间会在哪里发生。并且,颠覆世界远不如颠覆自己有趣,这一切需要在内部发生。

界面文化:这让我想到你在书中引用的艾米莉·狄金森的诗句“头脑——比天空更宽广”。

温特森:没错,艾米莉·狄金森一辈子都住在马萨诸塞州的一个房间里,从未出过镇子,就像简·奥斯汀住在乡下。但是她有丰富的思想,以及使用非常有限的数据集的能力。因此,当人们谈论经验时,我总觉得有点不妥,我认为,想象总是可以战胜经验,比如发明出自行车、汽车或电脑,且往往是通过反数据的方式,因为没人知道这些想法是从哪来的。人类的大脑能够实现概念上的飞跃,并不是因为它拥有大量的数据,而是突然间它能够将一些非常简单的数据联系起来。

问题是,很多科技公司的老兄对人类这一点感到不太舒服,无论是人际关系还是世界观层面。对他们来说,与机器打交道更安全干净、更可控,而人类世界是混乱和不可预测的。你可以离开你的伴侣,但是不能对TA进行编程,也不能这个坏掉就立马换下一个,生活并不是这样的,与某人在一起必须克服困难、共同成长并接受差异。当你与困难打交道时,你才会在情感、智慧、仁慈这些奇怪的人类特质方面有所成长。

未经正式授权严禁转载本文,侵权必究。