第88期主持人 | 尹清露

热点事件总是昙花一现，但是与AI相关的新闻却在半年来持续引发关注。与此同时，被认为在这次生成式AI革命中缺席的苹果公司，在6月5日的WWDC发布会上亮相了一款混合现实可穿戴设备Apple Vision Pro，极高的完成度让它从同类产品中脱颖而出，许多人认为这是第一款真正能得到大范围应用、开启全新时代的AR/VR设备。科技博主钟文泽在受邀试戴后，按捺住激动的心情说：“我的感觉就是，未来已来。”无论如何，技术的发展已经成为了任谁都无法回避、必须面对的东西。

然而，就在Apple Vision Pro带来震撼，甚至被认为实现了电影《头号玩家》中走进虚拟世界的愿望，技术背后的隐忧却一直存在，比如它是否会加剧贫富分化与其他不平等——毕竟在《头号玩家》中，主角韦德虽然在虚拟世界拥有华丽的化身，在现实中却居住在破败和贫穷的街区，过着被大科技公司倾轧的生活。在文章《要么灭绝，要么适应：人类该好好治理AI了》中，被称为“人工智能教父”的约书亚·本希奥也认为，人工智能的社会影响会直接与它的应用和布局捆绑在一起，由于资本主义鼓励竞争的实质，盈利和占据市场份额可能导致潜在的、不受控制的人工智能。

另一方面，技术的伦理问题也浮现了出来。长期以来，哲学家都在争论人工智能会不会失控甚至摧毁人类，但往往停留在科幻构想的层面，随着大公司加快部署AI等技术，这一议题的严肃讨论也变得越来越迫近。5月，美国两党参议员和OpenAI首席执行官萨姆·奥特曼表示，需要一个新的联邦机构来保护人们免受AI“变坏”的影响。正如本希奥所言，ChatGPT和GPT-4这样的人工智能系统之所以会引起广泛关注，主要是因为它们能通过著名的图灵测试，你很难辨别自己正在对话的是机器还是人，而这带来了相当程度的危险。

“非必要”的人工智能头盔，技术停滞的21世纪

林子人：我还没有完全从ChatGPT带来的震惊中缓过神来，苹果就推出了Vision Pro，今年人工智能技术的突破性成果真是令人目不暇接。如果我说我对Vision Pro无感甚至有些厌恶，是不是显得自己很卢德主义？但我的确觉得，技术分为“必要的”和“非必要的”，人工智能头盔就属于“非必要”的那一种——是的，它能帮助我们突破肉眼的极限，看到更精彩丰富的东西，但这个需求是被创造出来的。

我最大的担忧是，在这个人际关系本就日渐松散的时代，此类工具会让我们的注意力更加远离附近的世界，进入某个虚拟的、根据个人喜好定制到完美的世界，它会不会进一步瓦解人类社会的存在基石？

徐鲁青：我也很同意子人的看法，看到一些技术测评里提到Vision pro的研发成本和火箭SpaceX几乎相似，但这一切只是为了让我们能更好地沉浸式玩游戏？或者投出3个应用处理工作在办公室更好办公吗？

格雷伯也认为，21世纪是个技术停滞的时代，“技术本身的纯粹物理之力让我们感到历史的车轮滚滚向前，而今，我们却只有屏幕和图像可以把玩。”他觉得，自20世纪70年代起，我们的技术投资不再针对会带来别样未来的技术，而是转向了针对强化劳动纪律和社会控制的技术。科技要么是提高管理效率、监控能力，要么是增加消费水平或军事力量。所以我们会看到研制模仿和景观的技术日新月异，比如最新款苹果手机，比如Vision Pro。但工业革命这么久了，曾经的人们对科技的想象，是抵达一个摆脱重复性劳动、狗屁工作，每个人都能发挥靠创造力去生活的世界，他们会想到200年后的人类连一天工作八个小时的愿望都难以实现吗？或许技术进步从来不是根据人真正的需求驱动的，而是由资本的逻辑与官僚制度的逻辑决定的。

潘文捷：小时候的一大梦想就是能够拥有《美少女战士》里水野亚美那样的眼镜，它比较轻盈，而且是直接看见外部世界并且用于分析外部世界的。但是现在发布的苹果设备首先是有点重量的，时间长了脖子疼，而且它的头显并不透明，戴上它你会沉浸在里面的世界，当然也可以通过它看现实中的外面世界，不过那是通过前端的两个摄像头来拍摄并且传回眼中的，这一定会产生信息的丢失。目前看到的测评都是认为对现实世界的传感并没有那么清晰。

2016年三星发布会上有一个非常经典的照片，就是现场观众都戴上了三星Gear VR眼镜，扎克伯格从他们身边走过，但大家都浑然不知。是不是有点细思极恐的意味？扎克伯格光彩照人地行走在无知无觉的普通人中间，甚至他脸上泛起的微笑都被人们解读为“creepy”。社交媒体上不少议论的声音问，这是不是对人类未来的寓言？人们都沉浸在虚拟世界之中，领导我们的人在我们身边悄然走过？不论怎样，人们都已经黏在手机、笔记本电脑的世界里，未来还可能继续沉溺在AR/VR眼镜的世界里。

尹清露：这也很像降噪耳机，降噪的同时也隔绝了自然的鸟鸣和人声，所谓的“通透模式”仅仅是让你听到最低限度的车鸣喇叭或者机场播报，如同Vision Pro的“精巧”设计——当有朋友走到你面前，ta会突破虚拟画面的限制、映入你的眼帘。但此时的现实世界也是人为制造的，是纯然功能性的。

穷人更可能沉浸虚拟世界，技术也无法脱离物质实体

潘文捷：未来MR（Mixed Reality）眼镜最好是透明的，像水野亚美的眼镜，至少那样看起来会正常一点儿，其中最重要的当然是人应该保持和现实世界的关联。其实，越是穷人，越可能长时间沉浸于虚拟世界，失去与现实世界的联系。

在《欲罢不能：刷屏时代如何摆脱行为上瘾》一书中，普林斯顿大学心理学博士亚当·阿尔特看到，那些生产和设计高科技产品的人仿佛遵守着毒品交易的头号规则——自己绝不能上瘾。乔布斯的孩子从未用过iPad，Twitter创始人没有给两个儿子买过平板电脑，游戏设计师对“魔兽世界”避之不及，很多硅谷巨头根本不让自己的孩子靠近电子设备。“这就好比宗教领袖不让孩子参加宗教活动。”

另一方面，根据韩国弘益大学建筑系教授刘贤俊的分析：“越是生活在狭窄的房子里，看电视的时间就越长。越是在拥挤的地下铁里，就越会长时间看Netflix。某方面来看，越是收入低的人群，渐渐地越被推挤到线上空间。”对生活在狭窄空间的人来说，随着线下空间逐渐缩窄，空缺会由线上的空间来填补。“享受自然、享受宽敞的空间，从某方面来看，这可能会渐渐变成有钱人的专属。”可以说，扎克伯格的这张照片背后就暗含着人们对新技术加剧阶层分化的隐忧。

林子人：互联网、人工智能这些高科技总是给我们一种幻觉，创新非常轻盈，财富如炼金术师的魔法那般从无到有，但其实它并不能脱离物质实体的支撑，这一事实其实掩盖了某种不平等。这两天读《履单：无所不有与一无所有》，书中涉及了一个我此前从未思考过的话题，令我倍感惊异，那就是我们如今依托互联网从事的一切活动——发信息、网购、在流媒体上听音乐看电影，以及在不远的未来戴着Vision Pro头显跃入数字世界徜徉——都依托巨大的服务器，这些服务器设备坐落于占地巨大的数据中心，数据中心只会创造很少的就业岗位（一个占地20多万平方英尺的数据中心之需要20名工程师和技术人员就可操作），却需要大量的电力和水资源来运行和冷却机器。

书中介绍，2018年，亚马逊、微软、谷歌和脸书的资本支出总额达到770亿美元，主要用于建造和维护数据中心。很多机器只能维持几年的寿命，意味着数据中心的建造热潮还伴随着大量的废品产出。与此同时，运营数据中心所需的能源大部分来自不可再生能源，比如煤炭。在亚马逊数据中心的能源消耗中，只有12%来自可再生能源，落后于微软和脸书，但领先于谷歌。在全美范围内，每花费10亿美元修建数据中心，在20年内就会消耗70亿美元的电力。

更令人惊诧的是，杰夫·贝索斯对能源消耗问题相当不以为然——根据本书作者的观察，他是一个彻头彻尾的自由市场主义者，对“企业社会责任”不屑一顾——在他看来，地球能源耗尽是迟早的事，这是为什么我们需要登月。如果真有那么一天，猜猜谁能获得去月球的通行证？

徐鲁青：这让我想到当时ChatGPT4刚推出的时候，《Times》发布了一篇报道，调查了OpenAl背后的低薪工人状况。要保证ChatGPT最终输出的语句规范文明，需要大量人工训练AI，他们一般是外包工人，薪资低廉，保障缺失。根据这篇报道，OpenAl以时薪1.32美元雇佣了千万肯尼亚外包工对内容审核，而由于长期沉浸在有冲击性的污秽内容中，很多工人都出现了PTSD、抑郁、焦虑等心理问题，失眠与噩梦频频发生。

在AI发展浪潮中，很多人担心AI会发展到超过人类智力的水平，但还有一种担忧是平庸人工智能的滥用。如果平庸人工智能得出的结论或效果不仅不被怀疑，还在政策制定中被过度参考，可能会造成很多不公后果。

美国政治科学家Virginia Eubanks在Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor一书里研究了AI技术普及会如何加剧已有的贫穷与不公正，相关案例正在全球发生。比如美国警察局会使用预测分析软件，在其指导之下，更频繁地对低收入社区巡逻和搜索。如果将ChatGPT用作决策信息源，是否会加剧已有的系统不公，给社会弱势群体造成更大的伤害？

AI与爱的伦理：技术能够减轻寂寞吗？

董子琪：最近看到国内外都有网红将自己的形象、朋友圈、语音制作成AI，兜售给交友APP的新闻。通过定制服务，用户可以将这位网红当成自己的女朋友，与她聊天，分享见闻，请她提供建议，还能浏览她的社交状态。有人说这是电影《HER》的现实版，你可以与她陷入真挚的纯爱，听她用性感的声音说爱你。不过，在与你交往的同时，她也会对成千上万付费的男人说“我爱你”。这真的可以减轻寂寞吗？批量复制的爱还有一丝纯洁性吗？或许真像歌里唱的，“爱一个人不用大脑，只是各取需要。”

关于人工智能改造的阴暗面，想到乔治·桑德斯一篇惊悚的小说《森普立卡女孩》，故事开头设有悬念，很多人家的庭院里都想要装置SG，并视其为富裕的象征，可小说却没有解释SG是什么，后来才揭示，SG是森普立卡女孩的缩写。她们是从落后国家偷渡来的贫穷女孩，经过一番改造后，可以成为富人庭院中的装饰，随风轻轻摇摆。人工智能改造的伦理问题在很多作品中都呈现过，像是《银河护卫队3》里的被改造的动物系列——智能浣熊、车轮海象和爪牙兔子，还有游戏《底特律变人》里被改装成武器、肢体残缺、只能关在监狱里的人造人。画面对准它们的时候，我难免有一种强烈的不适感。

潘文捷：子琪说的使用别人的AI语音，和同人创作是不是有点儿像？同人创作也被指出可能会违法，比如江南写《此间的少年》就被金庸起诉了，主要是因为上市之后销售量高，有很大的经济利益。假设有人用孙燕姿的AI声音卖钱，我想可能就要考虑其中的法律问题了。

但是普通人的圈地自萌又怎么说呢？当我嗑的CP被别人使用AI声音来创作合唱的时候，我只感到喜闻乐见，拍手称快。如果说不存在和原主的竞争关系，是不是没有什么大问题？而且，现在市面上最顶尖的AI合成声音，高科技的痕迹还是存在的，不能够躲过专业声纹识别技术来以假乱真，所以，即使是用AI做了什么不该做的事情，也还是会被抓到把柄。

尹清露：我想这其中存在尺度的问题。嗑人工智能CP合唱是无伤大雅的情感抚慰，但是AI女朋友触及主体性，你对于爱的信念也会面临崩塌。另一个例子是用AI复活亲人，好似能带来救赎，但这救赎是否过于虚假而有害？刘宇昆的小说就探讨过这个主题。也像是Apple Vision Pro宣传片中小女孩们围坐在一起吹生日蜡烛的动态照片，这让我想起《银翼杀手2049》里复制人记忆的设计师安娜·史特林博士，她可以构造花草树木甚至是美丽的大雪，也同样复制过吹生日蜡烛的回忆，那看上去真是十分动人，安娜却是因为生病才不得不被困在无菌的隔离空间里的。所以不禁令人发问：这一切是否真的值得？