2026年9月12日，Anthropic首席执行官达里奥·阿莫代伊发表《We Must Pace the Frontier》，呼吁放慢前沿AI能力提升的速度。他提出三步方案：让外部评估者长期进入实验室，获得接近员工的访问权限；推动民主国家的前沿企业协调安全标准与开发节奏；再谋求全球合作。其理由是，模型能力正在迅速增长，安全研究需要时间追赶。(Reuters)
这场争论很快超出实验室。特朗普公开反对有关减速与强化监管的呼声，强调美国不能在技术竞争中失去优势。AI的发展速度，开始成为一个涉及国家竞争、商业利益和公共权力的政治问题。(AP News)
自由学者胡翌霖提出的批评，却不只是该不该减速。
他关心的是：一家企业为了管理自己的技术，可以建立严格的权限、监控和指挥体系；但当它进一步要求所有企业、所有使用者乃至不同国家接受同一种管理方式时，原本属于公司内部的权威关系，是否已经开始向整个社会扩张？
在胡翌霖看来，达里奥的方案不能只按照安全承诺来评价。它同时在规定谁值得信任、谁构成威胁，哪一种技术路线能够继续发展，以及谁有资格替公众作出这些判断。
技术可能需要严格管理，但这并不意味着管理技术的人，天然有权管理所有人的技术生活。
协作之前，先划分敌我
达里奥的方案并非只要求竞争者受限。他确实承诺Anthropic接受外部监督，也主张限制本国前沿公司的开发节奏。但他同时把维持民主国家的技术领先作为减速条件，提出限制中国获取先进芯片、打击未经授权的模型蒸馏，并明确要求全球协调保护美国及盟友的优势。(Dario Amodei)
胡翌霖因此把后两步理解为：以协作为形式，以划分敌我为前提，其中一项重要目的仍然是限制敌人。
他不认为，使用了协作与安全的语言，就能使这种阵营政治消失。真正值得追问的是，谁被纳入合作共同体，谁只能作为被限制的对象，以及拒绝某套安全观的人还有没有提出另一种方案的资格。
这里尤其不能把中国政府、中国企业经营的云服务，以及中国团队发布、可以由其他人独立部署的开放模型混为一谈。
例如，一家中国公司的在线服务，与一套被法国研究者下载、检查并在本地运行的模型，具有不同的控制关系。后者仍可能存在缺陷、偏见和滥用风险，但这些风险需要从模型与部署方式中识别，不能仅凭开发者的国籍一并推定。
反过来，一家公司注册在民主国家，也不能自动证明它与使用者之间的关系是民主的。
胡翌霖的批评指向这种身份与权力之间的偷换：属于民主阵营，不能代替具体的民主约束；宣称保护自由，也不能自动获得限制他人自由的资格。
“不能因为专制者的观念看起来更民主，就是合理的。”
他借用“人民民主专政”来讽刺这套逻辑：以民主之名组织监管，以安全之名排除敌人，而谁属于人民、谁属于敌人，仍由掌握规则的人定义。真正危险的，不只是敌我之间存在冲突，而是持有另一种技术观和商业模式的人，也可能因为拒绝接受保护者的安排，被推到不负责任甚至敌对的一边。
如果没有亏心事，为什么不能让Anthropic看见？
这场安全争论还有一个更具体的入口：用户隐私。
Anthropic的9月威胁情报报告，详细重建了它所认定的一些滥用活动，包括网络攻击、监控、武器开发与模型蒸馏，并说明公司在适当情况下与有关部门和行业伙伴共享情报。这些材料展示了其发现危险行为的能力，也展示了它观察、关联和分析用户活动的能力。(Anthropic)
9月14日，路透社转述《The Information》的报道：英伟达将Anthropic模型的使用限制在较不敏感的任务，Palantir则要求不可撤销的零数据留存保证。报道指向的是企业数据保密争议；相关公司当时未回应路透社的置评请求。(Reuters)
在胡翌霖看来，安全报告产生了一种反向效果。公司原本希望证明自己能够识别并阻止不当使用，客户却也由此开始衡量：自己的业务究竟能被供应商看见多少，哪些使用方式会被认定为异常，以及这些判断是否可能在未经自己同意的情况下进入公开叙事。
他用一句反讽概括这种权力逻辑：“如果你不做亏心事，把隐私交给Anthropic又何妨。”
问题不只是公司会不会误判一个好人。更根本的问题是，隐私并不是做了坏事以后才需要的东西。
正常的商业秘密、尚未成形的研究、私人关系和思想探索，都可能使一个人不愿意被持续观察。即使监控者真心为了安全，使用者也不必先证明自己有某种特殊理由，才有资格拒绝交出信息。
一旦把拒绝监控理解为需要解释的行为，举证责任就被倒置了：原本应当由观察者说明为什么需要访问私人信息，现在却变成被观察者解释自己为什么不愿被看见。
Anthropic实际上已经承认，安全与数据集中保管可以拆开。公司9月1日公布的企业方案，说明此前引入30天留存是为了跨会话识别复杂滥用，同时计划允许客户将监控数据保存在自己的云环境中，由客户人员审查警报；该方案当时仍待分阶段推出。(Anthropic)
这项调整并不终结争议，反而表明：数据交给谁、由谁审查，并不是安全需求能够唯一决定的技术答案，而是一种可以重新安排的权力关系。
胡翌霖并不否认公司可以为自己的产品设定条件。使用者可以不接受，然后选择另一家服务，或者独立部署模型。越界发生在下一步：当一家企业试图借监管把自己的条件推广为行业共同义务，使原本可以被拒绝的商业安排，变成使用者无处退出的制度。
第三方即使公正，也可能成为巨头的护城河
达里奥把外部评估者视为方案的基础，并承诺他们可以不经Anthropic编辑控制而发表关键结论，包括不利于公司的发现。这项承诺有实质意义，但它还不能单独解决评估者的独立性问题。(Dario Amodei)
胡翌霖担忧的，不只是评估机构是否直接收取被评估公司的钱。即使进入实验室时没有被收买，在长期合作中，访问权限、资料供给、人际关系和未来项目，也可能逐渐形成依赖。
AI评估机构METR自己的材料，恰好提供了一个可核查的例子。
在5月19日发布的试点报告中，METR承认，维持与企业良好工作关系的需要影响了评估安排，包括允许参与企业在一定阶段不公开地退出，以及对某些信息删节采用较高的异议门槛。METR同时坚持报告结论，认为未来评估应采用更明确的披露标准。(METR)
这不是收买或串谋的证明，却说明独立性不能仅凭第三方身份宣布完成。评估者有权批评，与评估者不依赖被评估者，是两件事。
但胡翌霖的批评并不止于此。即便所有评估人员都公正，一项持续驻场、深入审查内部流程的制度，也可能因为固定成本而更适合大型企业。
达里奥明确主张，监管应覆盖不愿自愿合作的前沿公司。因此，一项由领先企业率先接受的义务，也可能成为后来者进入同一领域的门槛。(Dario Amodei)
大公司有资源建立合规部门、供养审计团队，并把通过评估转化成市场信誉；一个规模较小、却有能力挑战技术前沿的团队，未必承担得起同样的组织成本。把适用范围限定为前沿模型，也不会自动消除这种差异。
“即便在评估者完全公允的情况下，这种模式也可能强化既有领先者的优势。”
在这一层面，根本不需要假定有人造假。真实的风险、诚实的报告和昂贵的合规要求，也可能共同塑造出一个只容得下少数巨头的行业。
因此，评价这套监督不能只看它是否敢给Anthropic差评，还要看它是否允许不同组织方式进入竞争。监督者可以严厉约束某一家巨头，同时帮助整个巨头群体巩固地位。
开源技术不需要一个永久监护人
达里奥此前明确表示，不主张全面禁止开放权重模型；他支持对所有足够强的模型进行安全测试。但在7月27日的立场说明中，他也把难以监控使用、难以维持护栏和发布后无法撤回，列为开放模型的风险来源。(Anthropic)
胡翌霖并不认为，这份支持开放的声明已经回答了问题。他关注的是规则的实际结构，而不是规则制定者对自身立场的命名。
同样一组特征，在集中式服务的视角下是失控风险，在开放技术的视角下，却可能是使用者自主权的来源：不必持续请求原厂许可，不会因为供应商改变政策就失去工具，可以自行检查、修改和部署。
开放权重与完全开源也不是一回事。开放源代码倡议组织对开源AI的定义，不只涉及取得模型参数，还要求具备使用、研究、修改和分享系统所需的相应材料与自由。(Open Source Initiative)
在更充分的开放结构中，研究者不必先被原厂选中，才能提出问题；使用者不必持续留在原厂的平台里，才能继续工作；其他团队也可以接过维护、修改和安全研究的任务。
这并不自动证明开源一定更安全。它说明的是，安全可以由不同主体、通过不同关系组织起来，而不必全部集中在原始开发者手中。
“对于开放模型来说，安全和协作的模式可能是完全不同的逻辑。”
因此，胡翌霖反对把适合集中式服务的能力——持续监控、撤回模型、控制下游修改——直接提升为所有技术共同满足的条件。一旦这些条件成为前沿模型的准入标准，无法保留原厂总开关的开放路线，就可能在没有被明文禁止的情况下遭到实质排斥。
原厂失去控制，不等于社会失去治理能力。
原厂不能随时撤回，不代表使用者不能关掉自己的系统；原厂不能查看对话，不代表部署者不能设立访问权限；原厂不能批准每一次修改，也不代表独立研究者无法发现问题。
真正需要比较的，应是不同安全安排的效果与代价。若一种规则只承认中心能够提供的安全，就已经预先选定了权力应当集中在哪里。
这里也存在两种不同的透明：一种是由公司保存信息，让获准进入的评估者替公众检查；另一种是把可检查的材料交给公众，让不受公司挑选的研究者自行检验。公开不等于人人都能读懂，也不能代替所有审计，但后一种方式减少了公众对原厂许可的依赖。
在胡翌霖看来，不能先把闭源造成的信息障碍视为默认现实，再把为克服这一障碍设计的驻场评估，确立为所有技术路线的唯一监督范式。
技术有政治，但社会不是一座工厂
胡翌霖把这场争论放进了技术哲学的脉络。
兰登·温纳在1980年的《技术物有政治吗？》中指出，技术系统不仅产生效率与成本，也可能体现、要求或偏向某种权力安排。他还区分了技术系统内部的组织关系与外部社会秩序，并以核武器为例，提醒民主国家防止其严格等级结构和管理心态向整个政体外溢。(Georgia Tech Faculty)
胡翌霖所说的开放技术更民主，正是在这个意义上使用民主一词。
它不是说模型的每一项修改都必须举行多数表决，而是说，不同技术形态会把控制能力分配给不同的人。流水线倾向严格的生产指挥，核设施偏向集中管理，分布式太阳能则更容易把一定的使用和维护能力交给个人与社区。
民主社会并非不能容纳具有专制倾向的技术组织。问题在于，技术内部成立的权威关系，不能不经论证就被推广到整个社会。
很多时候，“民主止步于工厂门外”也许是不可避免的，但我们要努力让“专制止步于工厂门内”。
即使承认Anthropic管理训练集群、内部测试和危险能力时需要严格权限，也只能说明它如何组织自己的生产。它还没有证明，所有研究者都必须采用同一种组织形式，所有使用者都必须接受同一个中心的观察，全球也必须依照同一套敌我划分安排技术合作。
风险确实可能越过厂门，社会因此有理由要求企业承担责任。但风险外溢，并不自动授权厂长的命令也向外扩张。
社会约束工厂，与工厂把自己的管理原则输出给社会，是相反的两个方向。
胡翌霖甚至提出，如果达里奥坦率主张AI风险已构成紧急状态，因此需要暂时扩大集中控制，他可以与之争论，却不会以同样理由指责其虚伪。这样的主张至少承认了自己正在要求什么：以牺牲部分自由和多元选择为代价，换取安全。
他并没有因此接受这种交换。他反对的是，控制的扩张本身被包装成民主，而拒绝接受这套控制的人，反过来需要证明自己并非不负责任。
在他的判断中，这就是“以民主为名义，行专制之实”：治理者的政治观念看起来支持民主，却没有真正为持相反意见、选择不同商业模式的人保留空间。
这项批评也不需要证明达里奥内心虚伪。一个人可以真诚地相信自己在保护人类，同时真诚地认为不接受自己保护的人都在制造危险。问题正在于，善意没有限制权力，反而成为扩大权力的理由。
胡翌霖并不要求商业公司不追求利益。他最后把立场落在一个更朴素的区分上：
追求利益是商业公司的分内之事，有害的是把自己包装为上帝或裁决者。
Anthropic可以经营闭源服务，可以选择减速，也可以努力说服客户相信自己的安全方案。但如果它希望借国家和国际协调，把这套方案变成不同技术路线共同面对的强制门槛，就必须接受的不只是安全效果审查，还有权力本身的审查。
一家公司的厂规可以约束自己的工厂。它不能仅凭宣称最懂危险，就取得把全世界组织成同一座工厂的资格。
发表回复