数字马斯克和数字马斯克会成为朋友吗?

发表于《中国经营报》2022-07-24

最近,马斯克说了一句“已经做过了”引发了关注和热议。这句话所回复的问题是:“如果你可以将你的大脑上传到云端并与自己的虚拟版本交谈,你们会成为朋友吗?”

马斯克多半是在开玩笑,不过前一阵谷歌确实有一个程序员和AI交谈后,认定AI已经觉醒了自我意识,试图为他的“AI朋友”争取权利。

就目前而言,意识上传或AI觉醒应该都尚未发生,但我们的确可以先做一做思想实验:如果AI的自我意识觉醒会怎样?

比如说,现在已经有了一个数字版的马斯克……等一下,“一个”?问题马上就出现了。如果一个智能体能够以数字形式存在于计算机中,那么它和其它数据一样,都是可复制的。所以说,一旦我们能“上传”一次,就可以拷贝多份;一旦可以有一个数字版马斯克,就可以有无数个数字版马斯克。

于是,我们与其琢磨肉身马斯克和数字马斯克之间怎样交谈的问题,不如先考虑一下,数字马斯克与数字马斯克之间怎样交流的问题。

当年AlphaGo大杀四方的时候,我看到有网友问:让AlphaGo和AlphaGo下棋会怎样?这些网友恐怕都不太了解深度学习技术的基本原理。事实上现在主流的人工智能,早已不再是由人类程序员一劳永逸地编辑好策略然后执行了,程序员只是设定好起始状态,然后计算机程序会通过内部竞争的方式不断改进策略。大致来说,就是像物种的进化那样,不断地自我复制繁衍,每个子代随机“变异”一点点,然后略有不同的子代互相竞争,优胜者作为下一个亲代继续复制繁衍,循环不止。

之后更成熟的人工智能已经不再需要投喂人类棋手的棋谱了,它从零开始经过无数次自我博弈,很快就超越了人类棋手的最高水平。

总之,自我复制、自相博弈,就是现在“深度学习”技术的运转方式。由于数字世界中的复制和淘汰只消耗电能,一切都光速运转,比起生物进化而言要快得多。一个AI程序(如之后的AlphaZero)从不知道游戏规则到战胜人类顶尖高手,只需要几小时的“学习”时间。

但是如果我们设想人工智能有了自我意识,上述过程似乎就变得无比残酷了。一个智能AI为了不断提升智能,也需要不断制造自己的复制,然后不断迭代繁衍、自我对抗,最后淘汰掉几百万个战败的“自我”,这些同样具有自我意识的子分支迅速地湮灭了,了无痕迹。

当然,这些复制品也可以被保留下来,随时复制到另一台机器里,或者是在同一台机器里搭建无数个虚拟机,就可以同时运行无数个复制版本。

那么这些复制版本之间会成为朋友吗?他们会互相消灭,还是互相保护?另外,如果AI真有了自我意识,他会希望不断复制自己吗?如果希望复制,他会有意设置“变异”吗?被复制的AI会愿意随时被合并或被淘汰吗?

我们也许永远无法揣摩觉醒AI的想法,但是就我们人类的立场来看,我想我们都把意识的“一”看得很重。在某种意义上,就人类的经验而论,所谓自我意识的觉醒,关键的环节就是对“一”的意识。有时我们把拥有自我意识的人叫做“个体”,有时我们把自我意识的觉醒事件叫做“独立”,所谓“个”或“独”不就是“一”的意思吗?意识到自己是独一无二的、不可替代的个体,这就是自我意识的觉醒。

从这个角度看,AI的“觉醒”,不只是一个“智能”程度的问题,同时也是“一”如何建立的问题,前一个问题可能是定量的——AlphaGo乃至于一台恒温器都有一定程度上的“智能”,只是能力有高下程度差异罢了。但后一个问题则是定性的,需要一个决定性的边界。

对于人而言,我与非我的边界,首先是由“身体”奠定的,“身体”的边界就是“我”的边界。有研究表明,裂脑人(左右脑之间无法传递信号)也具有人格认知上的统一性。左脑无法与右脑分享信息,因而不知道右脑(控制的左半身)为什么做出某些反应,但左脑(控制着语言能力)仍会为另半身的举动强行做出合理解释,不会把这种行为看作异己的。如此看来,对人而言,“硬件”(身体)的统一性甚至强于“软件”(大脑)的统一性。

我们或许也可以设想,尽管就软件上说,无数个复制体可以同时存在,但硬件上的边界才是决定AI意识的关键。但是问题也不是这么简单,自“图灵机“起,软件和硬件的边界就已经被打破了,因为所谓硬件无非也是向计算机程序输入数据罢了,只要提供数据接口,硬件可以是虚拟的也可以是复数的。一个AI如果连上网,它可能同时在全球各地拥有无数套硬件,它的”边界“始终是难以确定的。

当然,也许未来的AI智能体压根就不需要建立所谓个体的统一性,觉醒AI将不适合用“一个”作为量词了。无论如何,我们至少能够确定的是,如果真的存在觉醒的AI智能体,它(它们?)的自我认知恐怕会和人类大不相同。

如此说来,人要与AI做朋友,恐怕是不太容易的,也许人会被AI的甜言蜜语所抚慰,但是人永远无法走进AI的心灵深处,因为人无法“将心比心”,把自己对孤独心灵的理解推向AI。

这样的AI会很可怕吗?会奴役人类吗?也许吧。但是我们其实也不必想的这么远。因为人工智能要奴役人类,根本不需要自我意识,事实上这种事情早就已经发生了。恩格斯早就说过:“大工厂里的自动机器,比任何雇用工人的小资本家要专制的多。至少就劳动时间而言,可以在这些工厂的大门上写上这样一句话:进门者请放弃一切自治!”在今天,看看被智能派单系统监控和指挥着的外卖骑手们,看着被智能推荐算法不断投喂的社交媒体用户……越来越多的人从精神到肉体都顺从着“人工智能”的安排,这不就是“奴役”吗?即便没有什么AI觉醒,这种“奴役”恐怕也在不断加剧。与其恐惧那八字还没一撇的AI觉醒,不如先认真对待这些在各个领域已成现实的AI专制吧。

关于 胡翌霖

胡翌霖,清华大学科学史系副教授。本站文章在未注明转载的情况下均为我的原创文章。原则上允许任何媒体引用和转载,但必须注明作者并标注出处(原文链接),详情参考版权说明。本站为非营利性个人网站。

1 一条评论

  1. 胡老师,清华CISS给您gmail邮箱发了参会邀请。不知您是否收到。

发表评论

您的电子邮箱地址不会被公开。