第四部分 真相
第十八章 未来不是科幻小说:无法逃离的母体
目录
第一部分 科技颠覆
第二部分 政治挑战
第二部分 政治挑战
第三部分 绝望与希望
第三部分 绝望与希望
第四部分 真相
第四部分 真相
第十八章 未来不是科幻小说:无法逃离的母体
第五部分 生存下去
上一页下一页
“那里面确实包含很多东西,”控制者说,“男人和女人的肾上腺素需要定期地来刺激一下。”
“这是个动人的故事!但在我们的文明世界,”控制者说,“你根本不用这样大费周折就能得到她,也不会有什么苍蝇蚊子,几个世纪以前就被我们彻底消灭了。”
说完是一段长时间的沉默。
但如果说到20世纪最具预言意义的科幻小说,情况就大不相同了。这部小说明摆着就是要颠覆,虽然成书在将近一个世纪前,但是一年比一年更贴近现实。奥尔德斯·赫胥黎(Aldous Huxley)的《美丽新世界》(Brave New World)成书于1931年,当时法西斯主义在意大利根深蒂固,纳粹主义在德国如日初升,日本军国主义挥师入侵中国,整个世界也陷入“大萧条”(the Great Depression)的泥淖。但赫胥黎的火眼金睛看穿了这片密布的乌云,预想未来的社会没有战争、饥荒和瘟疫,只有永续的健康、繁荣与和平。那是个消费主义的世界,性、药物和摇滚毫无限制,只以幸福快乐为最高价值。《美丽新世界》的基本假设是:人类就是生化算法,而科学可以破解这套算法,再运用技术加以操控。
人类之所以能够控制世界,是因为合作的能力高于任何其他动物,而之所以有那么强的合作能力,是因为他们能够相信虚构的故事。这样说来,诗人、画家和剧作家的重要性绝对不在士兵和工程师之下。人之所以会去参战、建造大教堂,是因为他们相信上帝;之所以相信上帝,是因为读过关于上帝的诗,看过关于上帝的画像,而关于上帝的戏剧令他们深深着迷。同样,我们现在对于“资本主义”这个现代神话的信仰,也是由好莱坞和流行产业的艺术创作在支撑。我们相信买更多东西就会更开心,是因为在电视上亲眼见过资本主义的天堂。
“你还没有说要有变老、变丑、变得性无能的权利,要有患上梅毒和癌症的权利,要有食物匮乏的权利、讨人厌烦的权利,要有永远担心明天会发生什么事的权利,要有感染伤寒的权利,要有被一切无以言表的痛苦折磨的权利。”
“我们可不喜欢,”控制者说,“我们喜欢一切都舒舒服服地进行。”
事实上,许多关于人工智能的电影实在与科学现实过于脱节,让人觉得它们只是借人工智能之名,谈的却完全是别的议题。2015年的电影《机械姬》(Ex Machina),表面上讲的是一位人工智能专家爱上一个女性机器人,却遭到她的欺瞒和玩弄的故事。但事实上,这部电影描绘的并不是人类对于智能机器人的恐惧,而是男性对于聪明女性的恐惧,特别是害怕女性解放可能造成女性统治的结果。任何讲人工智能的电影只要把人工智能设定为女性,把科学家设定为男性,这部电影真正讨论的就很可能是女权主义,而非对智能机器人的控制论(cybernetics)。到底为什么要让人工智能具有性别自认?性别是有机多细胞生物的特征,这对于非有机的受控体来说,有什么意义?
“那是为身体健康所设的条件设置之一。我们把接受V.P.S.治疗规定为一种义务。”
真正让人意想不到的,不仅是迪士尼敢于推出一部概念如此激进的九九藏书网电影,而且这部影片在全球造成了轰动。成功的原因可能在于《头脑特工队》就是一部喜剧,有个快乐的结局,多数观众并未发现它在神经学上的意义,也没看出它藏着如此颠覆性的内涵。
穆斯塔法·蒙德摊开双手耸了耸肩说:“那就随便吧。”
在这个“美丽新世界”里,世界政府(the World Government)运用先进的生物科技和社会工程(social engineering),确保每个人总是很满足,没有人有任何反抗的理由。这就像莱莉脑中的乐乐、忧忧和其他角色都成了忠诚的政府代理人,于是再也不用什么秘密警察、集中营或是奥威尔《一九八四》里面写到的友爱部(Ministry of Love)。确实,赫胥黎的天才之处就在于点出如果想要控制民众,利用“爱”和“快乐”会比利用“恐惧”和“暴力”更为可靠。

迪士尼不再相信自由意志

野蛮人皱起了眉头。“你们只是消灭苍蝇蚊子,消灭所有不愉快的东西,而不是去学会忍受它们。‘默然忍受命运的暴虐的毒箭,或是面对苦海,拿刀做个一了百了。’你们既不是‘默然忍受’,也不是‘一了百了’,而只是取消了命运的毒箭,这样未免太简单化了。”
从目前的技术和科学革命来看,我们该担心的不是算法和电视镜头控制了真实的个人和真正的现实,而是“真实”本身也是虚幻。人类害怕被困在盒子里,但没意识到自己早就被困在一个盒子里了(这个盒子就是人类的大脑),而且盒子外面还有一个更大的盒子,也就是充满各种虚构故事的人类社会。你逃离母体,来到了一个更大的母体。你想找出这个世界用哪些方式操纵你,最后也会发现自己的核心身份只是神经网络形成的复杂幻象。
不同于《黑客帝国》和《楚门的世界》,赫胥黎质疑的是究竟会不会有人真想逃离,也就是质疑了逃离的可能性。既然你的大脑和“自我”都是母体的一部分,想逃离母体,就必须要逃离自我。这个可能性一直值得探索。在21世纪,摆脱对自我的狭义定义也可能成为必需的生存技能。
然而,这两部电影虽然概念精妙,最后都还是缩了手,没让剧情设定发挥到极致。《黑客帝国》就仍然认为困在母体(Matrix)里的人还有真正的自我,能够不受任何科技操纵,而且在母体之外还有个真正的现实,只要主角足够努力,就能抵达。这样看来,母体只是个人造的障碍,它隔开了内在的真实自我与外在的真实世界。于是,经历过许多考验和磨难之后,两位主角(《黑客帝国》里的尼奥、《楚门的世界》里的楚门)都成功超越并逃离了整个操纵网络,找到了真实的自我,抵达了真正的应许之地。
奥威尔在《一九八四》里描述的世界显然就是一个可怕的噩梦,唯一的问题就是:“我们怎样才能避免走向这种可怕的状态?”读《美丽新世界》,其实既令人不安,也发人深省,因为你很难去指责把这一切变成反面乌托邦的因素。毕竟,世界繁荣和平,人人满意欢喜,这又有什么不好呢?
“事实上,”穆斯塔法·蒙德说九九藏书,“你要求的是不快乐的权利。”
“什么?”野蛮人听得有点莫名其妙。
……
你可知道,这些年来你看过多少电影,读过多少小说和诗歌?这些人工制品又如何塑造、磨炼了你的爱情观?浪漫喜剧之于爱情,正如色情片之于性爱,兰博之于战争。如果你觉得自己可以按下某个删除按钮,消除潜意识和大脑的边缘系统(limbic system)里所有的好莱坞痕迹,那么你已经在欺骗自己了。
前面章节中提到过,现代科幻小说最糟糕的问题,或许就在于混淆了“智能”(intelligence)和“意识”(consciousness)的概念。因此,这些小说常常过度担心机器人与人类之间可能开战,但事实上我们真正该担心的,是有一小群超人类精英凭借算法带来的力量,与大量底层的手无权力的智人之间发生冲突。真要思考人工智能的未来,比较值得参考的仍然是卡尔·马克思的理论,而不是史蒂文·斯皮尔伯格的电影。
奇怪的是,最后这个真正的应许之地,在很多层面上看还是和造出来的母体没什么不同。楚门最后离开摄影棚之后,一心想与大学时代曾经心仪但被导演安排离开节目的对象再相聚。但如果楚门这种浪漫幻想真的实现了,他的生活完全就会是《楚门的世界》卖给全球数百万观众的那个好莱坞美梦,再加上在斐济的假期。楚门走到现实世界后,到底会找到怎样不同的生活,这部电影并没有给我们任何提示。
一开始,电影让观众以为莱莉的主要身份就是开心的黄色乐乐。但最后发现大错特错,甚至可能会毁了莱莉的一生。正因为乐乐认为自己就是莱莉的真实本质,她会教训所有其他内在情绪,也就干扰了莱莉大脑里的微妙平衡。最后,等到乐乐发现自己的错误,所有情绪才终于得到宣泄,也让她(和观众)意识到莱莉不只是乐乐、忧忧或其他任何一个角色,而是所有生化角色在冲突和合作中共同产生的一个复杂故事。
赫胥黎在小说的高潮直接讨论了这个问题。这段内容由两个角色的对话展开:一个是穆斯塔法·蒙德(Mustapha Mond),西欧世界的控制者;另一个是野蛮人约翰,一辈子都住在新墨西哥州的原住民保留区,他是伦敦唯一一个仍然知道莎士比亚和上帝的人。
莱莉之所以没能适应在旧金山的新生活,是因为她的总部搞砸了,可能让莱莉的大脑完全失去平衡。为了改正错误,乐乐和忧忧在莱莉的大脑里踏上了一段史诗般的旅程,搭上思考的列车,探索潜意识的监狱,也到了莱莉内心的片场探班,看到一群艺术神经元正忙着制造梦境。我们跟着这些拟人的生化机制进入莱莉的大脑深处,却一直没遇到什么灵魂、真实的自我或是自由的意志。实际上,整部电影故事情节的关键,也就是真相大白的那一刻:再也不是莱莉找到唯一且真实的自我,而是指出莱莉的身份绝不等同任何单一核心机制,莱莉的幸福快乐需要许多不同生化机制的相互作用。
“V.P.S.藏书网?”
或许,我们所有人都活在一个巨大的计算机模拟程序里,就像是《黑客帝国》中的母体。这样一来,我们所有关于国家、宗教和意识形态的故事都会被推翻,但我们的心理体验仍然是真实的。如果有一天事实证明,人类历史不过就是来自某个锆石行星的老鼠科学家在超级计算机上的精心模拟,那对经典学者与宗教领袖来说可真是颜面无光。但就算如此,我们还是希望这些老鼠科学家给我们解释一下,为何要有亚美尼亚种族大屠杀,为何会出现奥斯威辛集中营。这种模拟怎么会得到锆石大学伦理审查委员会的许可?即使毒气室只是硅芯片里的电子信号,所有人感受到的疼痛、恐惧和绝望并不会有分毫的减轻。
“但我却更喜欢那种不适。”
人类担心,如果被困在某个盒子里,就可能错过世界上各处奇迹美景。如果尼奥继续困在母体里、楚门继续困在摄影棚里,就永远不会去到斐济、巴黎或马丘比丘。事实上,你在生活中所经历的一切,都只发生在你自己的身体里和你自己的头脑中。不管是逃出母体或是前往斐济,并没有任何区别。在你心里,并没有一个铁盒子上写着巨大的红字警告你“到斐济才能打开”!等你终于到了南太平洋,打开盒子,释放出只有在斐济才能拥有的各种感受。万一这辈子没能去斐济,就会永远错过这些特殊的感受。没有这种事!不管你在斐济有什么感受,在世界上任何其他地方也都能感受得到,就算在母体里也不例外。
“是的,这一切我都要。”野蛮人终于开口了。
疼痛就是疼痛,恐惧就是恐惧,爱就是爱,就算在母体里也不例外。无论你感受到的恐惧是来自外部世界的原子集合还是计算机操纵的电子信号,都无关紧要。那份恐惧就是真实的。所以,如果想要探究你心智的真实,母体内或外并不会有任何差别。
大多数科幻电影其实讲的都是一个非常古老的故事:心智胜过物质。这个故事会说,在3万年前,“心智想象出一把石刀,手工制造出一把石刀,人类杀死猛犸象”。事实上,人类之所以能够主宰世界,主要并不是因为发明了刀子、杀死了猛犸象,而是因为能够操控心智。心智并不是自由塑造历史行为和生物现实的主体,而是被历史和生物学塑造的客体。就算是我们最珍视的那些理想(自由、爱、创造力),也和石刀没什么不同,都是某个人为杀死某头猛犸象而打造的。看看目前最顶尖的科学理论和最先进的技术工具就知道,心智一直都受到各种操控。事实上,就没有什么“真实的自我”能够免于被操控。
野蛮人约翰最后去往无人居住的荒野,成为一名隐士。多年来他住在原住民保留区里,被莎士比亚和宗教洗脑,他受到了制约,拒绝了所有现代带来的恩惠。但是流言很快传开,说到有这样一个非比寻常的有趣人物,于是众人蜂拥而至,观察、记录着他的一切,转眼间他声名大噪。这一切不请自来的关注令他真心感到作呕,于是野蛮人决定逃离这个文明的母体,但方式不是吞下红色药丸,而是上吊自杀。
“我年轻的朋友,”穆斯塔法·蒙德打断了他,“现在的文明世界是不需要什么高贵和英雄主义的。因为这类东西不能带来什么政治效率。高贵或英勇只会表现在乱世中,像我们这种合理平和的社会里,人是没有机会来表现他的高贵或英勇的。因为高贵和英雄主义只有在战争或派别分化时,或者在抵制诱惑和保卫自己所爱时才会有它存在的意义。但现在我们既没有战争,也没有派别分化,人们更不会为自己所爱有过激的行为。所以我们这儿不需要这个东西。你的条件设置让你愉悦地自然而然地去做你应该做的,也就不存在什么诱惑需要你去抵抗了。即使在出现意外时发生了不愉快的事,你也能用唆麻来回避,它会让你远离现实,进入一种你想要的虚幻中,这样你就有足够的耐心来承受长期的痛苦,让你能心平气和地对待你的敌人。这在以前,你得付出相当大的努力和多年艰苦的道德训练才能达到这种境界;可现在只需两三粒半克的唆麻就能带你实现了。现在所有的人都可变得高尚,那个瓶子就可以装下你至少一半的道德,你可以带着它去任何地方。没有眼泪的基督教——这就是唆麻。”www.99lib.net
“那你是不是也需要衰老、丑陋、阳痿、梅毒、癌症、饥饿、伤病这些丑陋的东西,甚至你也希望总是在担心明天有不可预知的事发生,或者你还需要遭受种种难以描述痛苦的折磨呢。”接下来是长久的沉默。
21世纪初,最重要的艺术流派或许就是科幻小说。真会去读关于机器学习或基因工程最新文章的人寥寥无几,但很多人会去看《黑客帝国》(The Matrix)、《她》(Her)之类的电影,以及《西部世界》(Westworld)、《黑镜》(Black Mirror)之类的电视剧。正是这些电影和电视剧,塑造了人们对于现今科技、社会和经济发展的认识。这也意味着,科幻小说在描述科学现实的时候必须更负责,否则就可能让人产生错误的想法,或是把注意力浪费在错误的问题上。
“实际上你是在要求受苦受难的权利。”
科幻小说探索另一个主题(用科技操纵和控制人类所带来的危险)的时候,见解远远更为深入。在《黑客帝国》刻画的世界里,几乎所有人都被监禁在网络空间,他们所经历的一切都是由一个主算法控制。《楚门的世界》(The Truman Show)则是专讲一个人的故事,楚门在浑然不知的情况下,成了某个电视真人秀里的主角,也完全不知道自己所有的亲朋好友(包括母亲、妻子和最要好的朋友)都是演员;发生在他身上的一切都有精心设计的脚本;他所说和所做的一切,都被隐蔽的摄影机记录下来,热情观看的粉丝人数多达数百万。
“可以这么说,”野蛮人挑衅地说,“我是在要求不快乐的权利。”
同样,在尼奥吞下著名的红色药丸并逃出母体的时候,也发现外面的世界与里面的没有什么不同。里外都有各种暴力冲突,人类也同样受到恐惧、欲望、爱和嫉妒的驱动。这部电影的结局最好是这样:有人告诉尼奥,他所处的现实只是个更大的母体,如果真想再逃到“真实的世界”,必须再挑一次蓝色药丸或红色药丸。
“我要求这一切的权利。”野蛮人终于打破沉默。九九藏书
“但我觉得眼泪还是必需的。还记得《奥赛罗》里说过:和煦的阳光总在暴风雨之后,那就让狂风恣意吧,吹醒那死亡。还有一个印第安老人常跟我讲一个有关玛塔斯吉姑娘的故事。那些想娶她的小伙子必须到她的园子里去锄一上午地。这看似简单,但实际是园子里有很多很多带魔法的蚊子和苍蝇。大部分人都会受不了,只有经得住考验的才能得到那姑娘。”
我们喜欢那个制造石刀的故事,但不喜欢自己成了故事里的那把石刀。所以,把那个猛犸象的故事改编成母体版本会是这样:“心智想象出一个机器人;亲手制造出一个机器人;机器人杀死恐怖分子,但也想控制心智;心智杀死了机器人。”然而,这个故事是有问题的。这里的问题并不在于心智能否杀掉机器人,而在于一开始想象出机器人的那个心智,早就属于受各种操控所生成的产品。所以,杀掉机器人无法让我们得到自由。
“随便你怎么说,”野蛮人挑衅地说,“就算我现在是在要求受苦受难的权利吧。”
整个迪士尼帝国的建立,就是靠反复讲着同一个神话。在迪士尼电影中看到的,都是主角面临困难和危险,但最后找到了真实的自我,凭借自己的自由选择,最终获得胜利。《头脑特工队》则残酷地撕裂了这个神话,它采用了最新的人类神经生物学观点,带领观众参观莱莉的大脑,发现她没有什么真实的自我,也从来不会做出什么自由的选择。事实上,莱莉就是个巨大的机器人,由一系列互相牵制的生化机制所操控。电影里,这些机制拟人化,变成一群可爱的卡通人物:开心的黄色乐乐(Joy)、忧郁的蓝色忧忧(Sadness)、愤怒的红色怒怒(Anger)等。这些角色在总部通过巨大的电视屏幕看着莱莉的一举一动,操控各式各样的按钮和控制杆,控制莱莉所有的情绪、决定和行动。
“就是代猛烈情愫。每月一次,它可以让整个生理系统都弥漫肾上腺素。从生理上来说,它就完全等同于恐怖与狂怒。它让人感受到的效果跟杀死苔丝德蒙娜或被奥赛罗杀死是相同的,但你不会感到丝毫的不适。”

活在盒子里

“我要的不是这样的舒服。我需要上帝!诗!真正的冒险!自由!善!甚至是罪恶!”
野蛮人约翰想要鼓动伦敦市民起身反抗控制他们的体制,市民的反应极度冷漠,但警方还是逮捕了他,把他带到蒙德面前。这位世界控制者与约翰聊得挺愉快,并告诉约翰如果坚持反社会,就该搬去一个与世隔绝的地方,当个隐士。约翰质疑隐藏在这种全球秩序背后的想法,指责世界政府在追求幸福快乐的时候,不但抹杀了真与美,也抹杀了生命中的一切英勇与高贵。
2015年,皮克斯动画工作室(Pixar Studios)和华特·迪士尼公司(Walt Disney Pictures)推出了一部更符合现实,但也更令人不安的动画大作,掳获了男女老幼的心,票房一路飘红。这部动画大作就是《头脑特工队》(Inside Out)。故事是关于一个11岁的小女孩莱莉,她和父母一起从明尼苏达州搬到旧金山,但她想念自己的朋友和家乡,对新环境也不太适应,一心想回去。莱莉不知道的是,还有一出大戏正在上演。莱莉并不是电视真人秀里浑然未觉的主角,也不是身困于母体而不知情,相反,莱莉自己就是母体,有东西困在她的身体里面。
更多内容...
上一页