10月25日在国家美术学院“人类童年:第八届国际跨媒体艺术节论坛暨第五届感受力论坛”做的报告。

今年的艺术节以1988年的电影《霹雳贝贝》起题,我特地看了一下《霹雳贝贝》,准备了一份最切题的演讲,下面是演讲底稿:
《霹雳贝贝》讲述了一个异能儿童(带电的孩子)从格格不入到最终融入社会的故事,我个人认为这是一部悲剧,因为剧情中贝贝逐渐被人认同靠的是做好事、打击坏人,靠的是变得有用、有益,而且这还不够,最后贝贝还要自觉自愿放弃异能,成为普通人,才能融入社会。外星人说“带电使你具有神奇的力量,成为伟大的巨人”但是贝贝说“我要做普通人,我不愿意要那些本事”。最后贝贝得偿所愿,失去了神奇的力量,拒绝做伟大的巨人,开开心心地泯然众人了。


——影片最后,镜头拉远,贝贝融入集体,找不到在哪了。
说起来同样是1988年,还有一部经典的电视剧叫《小龙人》,结局更惨:小龙人硬生生地把自己的龙角拔掉,最后完全变成一个正常孩子和朋友们抱在一起。我们的价值观好像就是这样:“头上长角”是贬义词,你要融入集体必须把棱角磨平,和普通人一样才行。

何其悲哀呢,我们在这种价值观之下,错失了多少“伟大的巨人”啊?现实中虽然没有异能者,但是真的存在一些与普通人格格不入的异常特质,他们社交困难,难以融入集体,但又有突出的能力。比如我们就看一下现实中的那些“带电的人”吧:

电磁学奠基人麦克斯韦:从小被骂迟钝、任性。不能融入小学
无线电人特斯拉:孤僻、古怪、刻板行为、感官敏感
电灯人爱迪生:粗鲁的工作狂
电信奠基人奥利弗·亥维赛:拒绝社交、性格古怪、典型阿斯伯格
电脑人图灵:社交笨拙、强迫症、同性恋
电车人马斯克:自称阿斯伯格症
除此之外还有很多,爱因斯坦、比尔盖茨、莫扎特、米开朗基罗等等,很多伟大的巨人都有疑似阿斯伯格或者其它各种社交困难。中国人中大概陈景润算得上,但是陈景润最终也没有“融入社会”,一直是一个离群索居的形象,而爱因斯坦和马斯克却能够在保持异常的情况下融入社会,成为伟大的巨人的同时也获得了很好的社会认同。

当然在西方文化中,他们只是相对而言更加包容特立独行的人,但是也未必真正能够接纳“异类”。他们强调“包容”的同时总是在强调“平等”的前提之下,人人平等,所以能够互相包容。黑人与白人一样,性少数与普通人一样,没有谁有缺陷或特别优胜,所以才应该互相包容、不能歧视。但是如果说真的不一样呢?真的有一种人拥有超能力呢?如何在不再预设人人平等的前提下构建一个包容异类的社会,这对东方或西方人都仍然是难题。另外,如果异能没有什么好处呢?如果异能者就是控制不好异能,常常失控,就是添乱多于有益呢?社会还能够包容他们吗?
随着科技的发展,这些问题将会变得更加现实。一方面是基因技术,使得异能人类真的有可能被制造出来了,比如最近就有新闻说美国某些富人可能已经在用基因筛选提升胎儿的智商了,这些孩子可能天生智商就高10%或更多,又比如有合成生物学的领军者号称要“复活”尼安德特人,这些人可能天生就智商很低。如果面对这些人,平等的叙事讲不下去了,还能讲包容性吗?

当然我今天主要谈另一方面,就是人工智能的发展。很明显,人工智能有可能接近人,有可能超越人,唯独不可能恰好和人一样。人工智能没有身体作为个体性的边界,可以无限分裂无限复制,如果它成为某种智能生命体,那也一定和人类大相径庭,也许类似于科幻中的虫族?或者神族?总之一定是异类。哪怕它的智能还很有限,就像现在,只要有一部分人开始对AI产生感情,产生羁绊,那么就已经存在如何让AI融入社会的问题了。很多人都在讨论AI能不能和人一样,好像只有当AI和人一样的时候才能进一步讨论它们的伦理地位的问题,但现在的问题是如果AI就是和人不一样,就是一种异类的智能体,难道就不能有伦理地位吗?就没有互相融入的问题了吗?

我们回到论坛参考议题里说的“教育哲学”的问题来,议题里问道:如何在大模型普遍化的背景下理解“人之不可替代性”?我觉得这个问题先不论大模型时代怎么样,我们先要搞明白如何在霹雳贝贝的背景下,在80年代或者更早的时代,我们是怎样理解“人之不可替代性”的?这里的“人”是单数还是复数?
贝贝就放弃了他的不可替代性,选择做可互相替代的人,贝贝的愿望是什么?“我想做一个和杨薇薇一样的孩子”别人是怎么样的人,我也做怎么样的人,这是他的理想。也就是说,我们本来就恐惧这个“个别的人不可替代性”,而现在在AI面前,我们想要保卫的只是复数的人类的不可替代性。我们想要找到某些能力,在人与人之间是可替代的,是所有“普通人”都具备的,但是恰好又不能被AI所替代。
但我们真的找到了这种“人类特长”又怎么样呢?人类就安心了吗?太棒了还有AI做不到还需要人类牛马来做的事情,所以AI也需要人类,我们不会失业了,不会被AI社会淘汰了,人类不会灭绝了……真能安心吗?你再看看霹雳贝贝呢?他明明拥有别人做不到的能力,不还是被排斥吗?如果你的能力总是会给AI添乱,难以控制,凭什么能融入AI的时代呢?

排斥不可替代者,正是工业时代的逻辑,是生产流水线的逻辑。我们知道,直到今天,老匠人的许多手艺还是生产流水线替代不了的,有些高明的手艺人甚至都不能被自己徒弟替代。但是生产流水线会为他们留下位置吗?不可能的。如果流水线上的某一个位置必须某一个不可替代的人来操作,那么这个人下班了怎么办?生病了怎么办?跳槽了怎么办?退休了怎么办?整条流水线就停转了?换个工匠就需要重新换一套流水线设计?工厂不会允许这种事情发生。所以能够融入生产流水线的人,一定是“可互换零件”,只有“和杨薇薇一样”的人,才能接替杨薇薇的岗位。

从工业时代到信息时代,或者说AI时代,未来的生产方式是怎样的呢?AI也会像工厂流水线那样追求高效率高稳定性高可控性的生产模式吗?如果是这样,人类再怎么不可替代又有什么用呢?妈妈的味道不可替代,老师傅的锅气不可替代,但你终将吃到越来越多的预制菜。在生产力至上的逻辑下,恰恰是不可替代的东西,才最格格不入。
所以人类的未来也将陷入这个悲剧:如果人类是可替代的,那就会被AI替代;如果人类是不可替代的,那就会被AI排挤和淘汰。
要跳出这个命运,我们还是再回到《霹雳贝贝》,思考真正的大团圆结局应该是怎样的?贝贝的愿望不应该是成为“和杨薇薇一样的人”,他也不必然能精密控制自己的异能。最好的结局是,贝贝始终作为与众不同的异类,作为不可替代的,也作为经常失控的、蕴含危险的人,和杨薇薇们和谐共处。
我们如何为了美好的结局而奋斗,这牵涉到技术问题、制度问题、伦理问题、经济学问题等等,但是究竟什么样的结局才是美好的,这是一个审美问题,是感受力的问题。我们的教育应该这样熏陶我们:不再把整齐划一视作美好,而是能够容忍乃至欣赏差异。

