感谢万向区块链，我应邀参加2024香港Web3嘉年华，并在4月6日分别在分会场二和OpenAI Stage作了两场演讲，题目分别为“加速主义还不够解放，结合Web3才能释放AI的可能性”和“中华传统文化在Web3复兴的可能性”。讲座时间有限，我在这里略作扩展，把相关内容整理成文。
对齐主义向谁对齐
我的题目是“加速主义还不够解放”，针对的是“加速主义”，但我不是要支持“减速主义”或“对齐主义”，所以我先来批判一番“对齐主义”。
“对齐主义”的代表就是OpenAI官方，至少明面上是这样，他们有一个团队专攻“对齐”，由联合创始人伊利亚（Ilya Sutskever）领衔。在OpenAI官网有一篇文章叫“超级对齐导论”，阐述了他们的基本观点。
文中说道：“超级智能的巨大力量也可能变得非常危险，导致人类失去权力乃至灭绝。……我们相信这可能在十年内到来。”为了避免人类灭绝，关键问题就在于： “我们如何确保那些比人类更聪明的AI系统遵循人类的意向（follow human intent）？”
注意这个“human intent”——“人类的意向”。这就是对齐主义的致命问题。人类的意向究竟是谁的意向？问题首先不是机器向谁“对齐”，而是人类们向谁对齐？人类内部有达成一致的意向吗？
别的不说，看看OpenAI团队自己就可以说明问题。哪怕就那几个联合创始人之间，意向都不太统一。我们都记得去年年底OpenAI上演的宫斗闹剧吧？董事会突然就把创始人奥尔特曼踢出局了，踢走创始人的主要推手就是这个伊利亚，但他没过三天又反悔了。大多数OpenAI的员工也不同意董事会的意向，都希望奥尔特曼能回归。
那么好了，我们看看伊利亚踢走奥尔特曼的这个意向，这个意向和创始人对不齐，和700多号员工对不齐，关键是和3天后的他自己都对不齐。这样的“人类意向”怎么指望让所有的AI来对齐呢？
真正能“对齐”的永远只是一部分人，我们可以要求一部分特殊身份的人在一部分特殊任务中“对齐”，例如军队。但如果你想在“普遍”的身份在“通用”的任务中也让全人类对齐，那么这是不可能也不美好的一件事。
当然，你可以辩解说：你不指望绝对一致的对齐，只希望通用人工智能（AGI）能像人类那样就好。但它究竟是更像特朗普还是拜登好呢？是像马斯克还是盖茨？是像普京还是泽连斯基更好呢？他们都是人类啊。设想这些各色各样的“人类”之中，强大的AGI决定和其中的一派对齐，难道不会引发惨烈的斗争吗？这个世界会更美好吗？
有自主意志的AGI摆脱人类的控制也许是危险的，但我觉得这件事情并没有以下的事情可怕：即有压倒性强大能力的AI听从某一小撮人类的控制。
有效加速主义（e/acc）
简单地批判完对齐主义之后，我们来谈“加速主义”，最后发现其实二者有同样的毛病。
今年特别流行的是一种所谓的“有效加速主义”，effective accelerationism，代号e/acc。咱们Web3圈子里，包括更大的IT圈子，很多人的昵称上都带了这个词。
有效加速主义有一些基本立场我是赞同的，比如，他们相信自由竞争比集中管控更好——哪怕技术有风险，也不能以集中化的方式管控；他们认为技术发展应当尽可能不受限制，特别是AI/AGI等革命性技术的潜能应当尽可能被释放出来。
不过，还有一些通常被有效加速主义者采取的观点，我保留意见。例如，他们较多以能源利用率（卡尔达舍夫等级）作为衡量文明进步的标准，认为人类文明及其科学技术的发展方向就是能够有效动用越来越多的能源。
另外，传统的加速主义通常希望用技术进步刺激社会体制变革，同意当下的资本主义仍有弊病，而有效加速主义一般不关心社会体制变革，而是认为随着技术进步，社会自然会变，聚焦于技术本身就可以了。
除了不关心政治学和社会学之外，他们也不关心哲学和伦理学。所谓的“有效加速主义”在名义上是融合了“有效利他主义”，但他们通常并不关心利他主义论证，对于伦理学和价值论等哲学争论缺乏兴趣。
防御加速主义（d/acc）
有效加速主义的普遍问题是对历史的误解，误以为技术的进步总能“自动”化解各种危机，忽视了人类之所以能够化解各种危机最终享受进步的成果，也需要归功于那些发生在政治、哲学等领域的伟大思辨和前赴后继勇敢斗争的社会运动。这方面我在“人工智能的双重革命”一文中讨论过。在这里，我引用大家（Web3圈）更熟悉的人：维塔利克（Vitalik Buterin）。
维塔利克也批评e/acc对人类文明史的幼稚，并提出了他自己的立场——d/acc。
维塔利克的批评深得我心：“通常情况下，我们的文明所拥有的技术的第 N 版确实会引起问题，而第 N+1 版会解决它。然而，这并不是自动发生的，需要有意识的人类努力。……解决这些问题是有意识的行动，通过公共讨论和文化塑造政府、科学家、慈善家和企业的观点，而不是不可阻挡的「技术资本机器」所取得的。”
维塔利克所谓的d/acc，d代表“防御、去中心化、民主或差异”（defense, decentralization, democracy, or differential）。可惜的是他在文中重点谈了“防御”，后三项特别是“差异”没能深入，而这正是我想强调的重点。
维塔利克认为：“目前，世界在某些技术发展方向上过度投入，而在其他方向上则不足。我们需要积极的人类意图来选择我们想要的方向，因为「最大化利润」的公式不会自动导向这些方向。”
我们又一次看到了“人类意图”（human intention），这里的“人类”究竟是否是去中心化的、民主的、差异化的，其实才是问题的关键。
不过维塔利克强调的是，他希望人类意图更多地指向防御技术，而非进攻技术。“核心思想，即一些技术对防御有利，值得推广，而其他技术对进攻有利，应该被抑制”。
比进攻/防御更好的技术分类法：丰富vs.强化
进攻与防御的边界是模糊的，不过这并不是一个问题，因为维塔利克提出的只是一个笼统的指导方针。这个二分法更大的问题是与他所谓的“加速主义”风格不符，因为人类历史上确实有一些时代和地域倾向于“防御”，但这种倾向往往也伴随着封闭、保守乃至内耗，和开放进取的气质相去甚远。
当然还有一大问题，就是“防御”并不是一个独立的尺度，它是对“进攻”的抵抗，所以究竟要防止什么、保护什么，其实还是进攻者制定的尺度。而如果不考虑进攻者的威胁，防御者们很难确定发展的方向。
关于对技术的二分法，其实技术史家和技术哲学家早有许多建议，我觉得一些方案比维塔利克的更好。
例如，技术史学科的先驱，芒福德在1934年出版的《技术与文明》一书中就讨论过传统历史学家和考古学家们对“进攻性技术”的过度偏爱。不过他提出的相对概念不是“防御技术”，而是“容器”技术。例如篮子、袋子、罐子，一直到文字和城市。包容看起来是比防御更好的概念，防御性是容器技术的一部分，但包容并不只是对进攻者的反抗，而是有更丰富的内涵。
芒福德在之后还提出过更多技术分类，例如“生活中心的技术”与“生产（工作）中心的技术”的对立，生产性的技术追求效率，但生活的需求更加多元丰富，例如更快的载具对生产资料的运输总是好事，但对于生活休闲例如旅行游览来说未必更好。
我最近的文章还引用了技术哲学家斯蒂格勒对信息技术的二重意义的区分：记忆vs.计算。同样是信息技术或者信息媒介，有些技术偏向于发扬信息的可计算性，而另一些则更加重视记忆的载体。区别在于可计算的数据总是倾向于被同质化、中立化，而人的记忆是异质的、个人化的、丰富多样的。
我早前推荐过的弗雷的《技术陷阱》，也有一种区分——使能技术vs.替代技术。所谓替代是指主要用于取代人力或旧技术的那些新技术，节省生产成本和人力消耗，但弗雷认为这类技术反而是更危险的，因为它们将造成结构性失业和市场失衡。更重要的其实是使能技术，即创造更多可能性的技术，这些技术不一定替代或节省人力，因为它们更重要的意义是创造出新的工作或新的需求。
技术哲学家海德格尔也有他的区分，通常认为他区分的是古代技术与现代技术（但我们可也可以希望未来的技术可能复兴古代技术的某些特质），他批判后者而怀念前者：前者本质上是“以带出的方式解蔽”，后者是“以促逼的方式解蔽”。简而言之，两种技术的关键区别不是力量之大小强弱，而是在于“是否留有余地”。现代技术越来越要求预先控制的确定性，而难以接受偶然性和涌现性，流水线生产并不需要工人灵光乍现或精益求精，只需要它保持预先确定的刻板动作即可，生产过程也并不需要任何惊喜或意外。
学者们提出的各式各样的二分法我不再赘述，到这里我们可以略作归纳——上述学者们的分类方式，不约而同地都蕴含了两个方向：丰富vs.强化。包容、生活、记忆、使能、余地，都是强调技术给人类带来了更多的丰富性和多样性；而进攻、生产、计算、替代、促逼，都是在强调技术给人类带来了某些可量度的增益或增强。以上的学者，包括维塔利克在内，显然都同意单纯力量的“增强”并不是技术发展的全部意义，技术应该更侧重于生活世界的丰富化而发展。
加速主义的根本问题：单向度
于是，我们也发现了任何版本的“加速主义”都存在一个根本性的问题，也就是“单向度”的价值尺度。
顾名思义，“加速”预设了一条“轨迹”，只有在一个单向线性的“跑道”上，我们才能衡量加速或减速，但在丰富多彩的生活领域压根就谈不上加速或减速。例如，当我们说“这家工厂的生产在加速”时，我们通常认为它的产量在不断增加；但当我们说“这个人的生活在加速”时我们会想到什么？通常并不是什么好的意象：要么是想到他繁忙劳碌，要么干脆以为他快逝去了。
在根本上，加速主义和对齐主义同样盲目，它们都忽视了“人类意图”的复杂性和多元性。
在我看来，人类意图的统一并不是好事，人类审美、文化、观念的多样性本身（而不是单调线性的生产力或能量等级的提升）是人类文明进步的标志。
加速主义颠倒了“生产”和“生活”的价值，生产之所以是有价值的，是因为生产的目的是生活，只有当生产能够最终丰富生活时才是对人类有益的。
同样，加速主义和对齐主义也都忽视了智能机器的多元可能性。它们大都把AI视作“生产力工具”，这是对的但失之狭隘，AI的意义不仅仅在于提升生产力，而且在生产力之外的部分是更加重要的领域。AI机器如果也有“意图”的话，它们的意图难道也只是追求生产力提升吗？如果最终塑造出来的超级AI满脑子只有提升能级，那确实是一场灾难，但我希望AI不至于如此乏味。
维纳：不要把机器当奴隶
不要把AI当做单纯服务于生产力的工具（奴隶）——这一洞见早在1950年前后，就由人工智能的先驱者之一，诺伯特·维纳提出了。他在《控制论》中呼吁：“机器将要求我们像理解人类一样理解他们，否则我们将变成他们的奴隶。”
为什么呢？维纳指出：“让我们记住，不管我们对于自动机之有无感情问题采取什么样的想法，它在经济上完全和奴隶的劳动相当。而任何一种同奴隶劳动竞争的劳动都必须接受奴隶劳动的经济条件的”。
他的意思是，AI有没有感情（有没有自由意志之类）在这里了不是核心问题，关键在于人类如何看待经济和价值。当我们持有效率至上主义的价值观时，其实就自觉不自觉地陷入了“奴隶经济”的思维定势了，因为奴隶的价值就在于他提供生产力的效率，但一旦我们贯彻这一价值观，自然就会发现人类自己越来越贬值了，最终人类在越来越多领域发现自己效率远远不如机器，又该在何处安身呢？
按照维纳的思路，要适应未来的AI社会，我们必须及时转换自己的价值观，从以买卖定价值，回归到人本身的价值上面。从追求线性可计算的商品价值，回归到不可预估的创造性活动上面。
OpenAI的另两位开发者斯坦利和雷曼在《为什么伟大不能被计划》一书中，也提出了类似的价值观转变的主张：“这个价值观就是新奇和有趣。只要你每次都选择更新奇和更有趣的方向，你就不会是平凡的。”他们指出，可计划的事情往往都有一个确定的轨道和目标，能够有明确的度量进展的尺度，但真正伟大的事业并不是计划的产物，而是以未曾预料的方式涌现出来的。但赖以涌现的地基仍然需要准备和营造，但不是依据效率和规划，而是依赖追逐新奇和有趣的氛围。
回应维塔利克所作的进攻/防御二分，追求新奇和有趣的技术发展倾向，算是进攻性的还是防御性的呢？看起来很难把它们归结为防御。它们倒是可以被看作花式的“进攻”——有些进攻是线性的，此消彼长你增我减，比如抢占资源和争夺能源，助长这类进攻性行为的技术大概是维塔利克认为坏的倾向。但是另一些“进攻”并非单调，比如争夺荣誉的进攻，古希腊城邦之间频繁的互相攻伐有些就是这种类型，中国春秋时代一些战争也是如此——并不是为了攻城略地，荣誉比胜负更重要。奥林匹克竞技和各种游戏，当代的黑客文化到打赏文化……人类的好斗心并不总是走向资源的掠夺，更多的时候人们其实喜欢以更多元的形式“进攻”。
我在上一次参加万向举办的上海区块链大会时所写的文章就提到，AI时代将会引爆人类社会业已存在的“复制危机”，包括失业危机和身份认同危机。人类将会更加迫切地寻求人类和自我的不可替代性，而线性的资源争夺无法提供这个层面的满足。人类会在社交、审美、游戏等领域展开追求。什么是好，什么是美……人类将和技术特别是AI一道在复数的领域中展开竞争。
AI需要竞争更要解放
总结一下：我同意AI的发展不能完全放任，而是需要人们有意识地选择和制衡，但不能让中心化机构或单一政府来决定人类的选择。
因此进行选择的不是作为总体的抽象的“人类”，而是复数的人类小群体，例如不同的社区、企业、机构、团体，他们应该有意识地区训练AI并探索与AI共存的路径，然后，不同的AI发展路径可能互相竞争和制衡。
但关键在于，这些复数的人类小群体，不应该持有同样的价值观。如果所有社群的最高追求都是发展生产力，全世界都在同一条跑道上竞争，那么无论竞争的单位多么多，最终仍然是趋于同质化。马太效应强者恒强，AI的发展路径还是会越走越窄，越走越固化。
只有打破单向度的价值观，让人们以丰富生活而非加速生产为标尺与AI磨合，复数的社区才会产生多元化的AI发展方向。这才更能够解放AI改变生活世界的潜在可能性。
AI+Web3的意义
说到这里，我对AI+Web3的期待与许多主流观点相比，关切的方向有所不同。包括万向董事长肖风的说法，也是强调AI+Web3是“生产力+生产关系”，还有许多行业领袖们侧重于DePIN的开发，即结合区块链提供“去中心化物理基础”，特别是针对AI算力的分配问题。其实他们的着眼点并无错误，而且也都大有前景。但我压根就不在“生产”的领域内关注AI和Web3的关系，而是侧重于生活世界。
在这个方面，Web3的意义在于对抗传统经济体系中那种统一化、扁平化的趋势，使得个人和社群更容易在身份和财产上保持独立性，这是进一步建设多元化世界的经济基础。
具体来说，NFT在无限复制的信息世界中锚定独一无二性；Web3钱包的“无需许可的身份认证”玩法强化个体在数字世界的存在感。DAO帮助小规模社区的社交和经济系统实现自治，帮助个体获得尊重和荣誉。
另外还有区块链游戏，特别是“自治世界” （Autonomous World）的玩法，结合了“人类玩家、AI智能体和区块链代币经济”，有可能发扬以人类的乐趣为尺度训练AI的可能性（我最近关注的一个项目即我演讲时衣服上友情打的广告就是这个方向）。
发表回复