好文集ChatGPT Plus¥119

有治法而后有治人——AI 时代的权与责

文章目录

工具在变,组织走向失败的方式却几乎从未改变。

这一年,我读得最多、感触最深的是明史。年底有幸就此做了一期访谈,但听很多人讲,研究历史的话题在国内平台必然被审核且被曲解,只能想办法在境外平台做一次分享。

我的阅读始于电视剧《大明王朝 1566》,继而重读黄仁宇先生的《万历十五年》,又读了卜正民(Timothy Brook)的《挣扎的帝国:元与明》,也即哈佛中国史六卷本中的第五卷。

我从两年前开始从事人工智能基础设施(AI Infra)的工作,这一领域的技术和组织变革几乎以周为单位。即便如此,四百多年前的封建王朝如何一步步走向衰败,至今仍是一面清晰的镜子。

我把这一年的收获按此总结:

  1. 组织的腐朽总是自上而下;

  2. 腐朽的根源在于领导者系统性的权责失衡;

  3. 以模糊的道德代替清晰的制度,给了领导者权责失衡的空间。

本文依次讨论这三个观点,最后分享这些结论对我在开源社区与 AI 时代组织管理的启发(未必正确,但是对我个人与我的项目行之有效)。

一、组织的腐朽总是自上而下

《大明王朝 1566》常被视为国产历史剧的高峰。它对我触动尤深,很大程度上是因为我开始工作之后,对或大或小的组织如何运转、权力与责任如何在其中流动,有了切身的观察。

剧名中的 1566 年是嘉靖四十五年,海瑞正是在这一年上《治安疏》,直陈嘉靖之失。全剧以浙江“改稻为桑”与“毁堤淹田”为主线展开:百姓失去生计,海瑞奉命赈灾,灾民却仍相信当今圣上体恤万民,只是被严嵩、严世蕃一党蒙蔽了视听。这种“皇帝是好的,坏在下面”的想象,在中国历史上反复出现;而剧情层层推进,最终揭示出真正的症结恰恰在嘉靖本人,严嵩父子不过是他的白手套与替罪者。

这种叙事之所以经久不衰,很大程度上在于它服务于权力结构本身:过失由下层承担,最高权力的正当性得以保全,问责的链条止步于顶端之下。对身处其中的普通人而言,它或许还提供了一种心理上的安顿,只要相信顶端仍是清明的,就不必直面整个秩序已不可依靠的事实。

这一规律并不局限于王朝。一家店铺的服务员若普遍态度恶劣,症结往往不在某几位服务员;一个体系的基层官员若普遍敷衍塞责,症结也很少在基层。基层的行为,往往是对上层激励与示范的理性回应:上层容忍什么、奖励什么、为何种失败追责,决定了下层如何行事。因此,当一个组织整体显露出腐败的迹象时,首先应当审视的是它的顶端。

二、腐朽的根源在于领导者系统性的权责失衡

嘉靖的问题,可以归结为一个词:权责失衡。

他坐拥帝国最高的权力与最丰厚的供奉,在西苑修道二十余年,罕有视朝,大兴土木,为自己加封道号;与此同时,他几乎不为任何后果承担责任。东南倭患久不能平,归咎于严嵩;国库亏空,同样归咎于严嵩,即便亏空的一部分正源于皇帝将国库之银挪入内帑。严嵩柄政约二十年,也替嘉靖承担了二十年的骂名。

所谓“系统性”,是指权责失衡从不止于一处。严嵩在百官面前同样握有远超其职分的权力,却同样无须为后果负责。顶端一旦示范了有权无责,这种模式便会沿着层级逐级复制,每一层都倾向于把权力留在手中,把责任推向下层。久而久之,组织内部形成一种逆淘汰:明哲保身成为理性策略,像海瑞那样敢于直言、愿意担责的人,反而被视为异类。

更具讽刺意味的是,在这样的结构中,“皇帝被蒙蔽”终将成为事实。既然一切过失都由下属承担,下属便没有动力向上传递坏消息,顶端所能听到的,只剩下经过层层修饰的太平。只是这种蒙蔽,恰恰是皇帝自己造成的。

因此,一个系统中只要出现第一个有权无责的人,而此人又握有最大的权力,系统的崩坏便已开始。大明的不幸在于,最不负责任的那个人,正是皇帝本人。

“以身作则”四个字,我自幼耳熟能详,直到看完这部剧,才真正理解它的分量。

三、以模糊的道德代替清晰的制度

权责何以能够失衡至此?这个问题,我在重读《万历十五年》时才逐渐想清楚。

我在高中时初读此书,彼时见识尚浅,对文言的理解亦有限,未能读出其中深意。工作之后,在看完《大明王朝 1566》的基础上重读,方觉处处切中。黄仁宇将万历皇帝、张居正、申时行、海瑞、戚继光与李贽等人的处境,并置于 1587 年这个看似平淡无奇的年份之中。他们身份迥异、境遇各殊,合在一起却指向同一个判断:这一年表面上无事可记,帝国实际上已走到了尽头。

如前文所述,帝国衰败的直接原因在于权责失衡;而权责失衡之所以有存在的空间,是因为制度是模糊的,模糊之处又习惯以道德填补。黄仁宇在书中反复讨论的,正是以道德代替法制治理一个庞大帝国的困境。道德自有其价值,但它难以被一致地执行:它允许解释,允许例外,也允许掌握解释权的人凌驾其上。换言之,道德只能约束愿意被约束的人,而一个组织最需要约束的,恰恰是那些最有能力不受约束的人。制度的价值,则在于把关键问题提前写定,使其不依赖于任何个人的品格与好恶。

道德与制度的分野,在皇位继承问题上体现得最为清楚。嫡长子继承名为“制”,实为一种道德共识:它缺乏不可逾越的强制力,只要统治者或觊觎者足够强大,便可将其推翻。于是有朱棣起兵靖难,自北平南下,夺取侄子建文帝的皇位;清代亦有康熙朝的九子夺嫡。

万历朝的国本之争,正是这种模糊性的产物。万历偏爱郑贵妃所生的皇三子朱常洵,迟迟不肯册立皇长子朱常洛。皇帝以更高的道德权威自居,朝臣则援引祖制与礼法相抗,双方各执一套道德,拉锯十余年。直到 1601 年,朱常洛方被立为太子,朱常洵受封福王;1614 年福王赴洛阳就藩,风波始告平息。其间万历以怠政相抗,长期不视朝,较其祖父嘉靖犹有过之。

这场争执所暴露的,是在一个关乎国本的问题上,竟不存在一种对君臣双方同时具有约束力的制度。当每一方都可以宣称自己代表更高的道德,道德便失去了裁决的能力,只能制造旷日持久的对峙,而对峙的代价却由整个国家承担。

元代的继承较明代更为混乱。卜正民在《挣扎的帝国》中谈到,蒙古传统奉行一种被称为 tanistry(塔尼斯特)的继承方式:汗位应归于家族中最贤能者。然而何谓贤能,并无客观标准;在实践中,它往往意味着谁最善战、谁最能服众、谁能令诸兄弟俯首。既无标准,亦无程序,选拔便只剩下一种方式:一场残酷的、足以令帝国迅速分崩离析的权力争夺。

成吉思汗显然深知此弊。他生前召集诸子,以身后蒙古再度分裂为忧,要诸子共同拥立窝阔台,这相当于以个人权威预先指定了“最贤能者”。然而个人权威无法替代制度。此后的大汗往往猝然离世,或殁于征途,来不及安排身后之事,汗位每一次空缺都伴随着争斗:蒙哥卒于攻宋军中之后,忽必烈与阿里不哥兄弟相争四年。在我看来,元朝覆亡的重要原因之一,正在于继承始终停留在道德层面,未能成为制度:最强者获登大位,谁都可以践踏这套道德。

以此观之,明代虽以嫡长子继承为名,实际上却屡次退回到以实力争夺皇位的老路:靖难之役而外,尚有汉王朱高煦起兵谋夺侄子的皇位,亦有英宗以夺门之变自其弟手中复辟,每一次都近乎一场未曾言明的 tanistry。权力继承的矛盾既然从未被制度消解,便注定反复发作。

缺乏清晰的制度,盛极一时的王朝终将走向衰落,几乎是一种宿命。

令人感到荒诞的是,朱元璋本是极重制度之人:他颁行《大明律》,又亲撰《大诰》,规定家藏《大诰》者犯笞、杖、徒、流之罪可减一等,意在使律令深入民间。某种程度上,他确实希望明朝成为一个依法而治的社会。

然而,他又在三法司之外设立锦衣卫,可以绕开常规司法程序缉拿、审讯乃至处置臣民。这揭示了“以法治国”与“法治”的根本区别:前者将法律视为统治者手中的工具,后者要求法律同样约束统治者本人。法治的价值恰恰体现在那些看似繁琐的程序之中:即便是罪大恶极的贪官,也应经由完整的司法程序定罪,而不能今日缉拿、明日处决。程序的繁琐,正是权力受到约束的代价。

由此可见,制度的核心在于以身作则:立法者首先要受其所立之法的约束。朱元璋亲手破坏了自己建立的法度,明朝因此既非法治社会,也非真正意义上的制度社会。他苦心选定的继承人,最终为其子朱棣所推翻;此后嘉靖、万历两朝,又都为立储之事付出了沉重代价。

明末清初的黄宗羲在《明夷待访录》中写道,“有治法而后有治人”。这句话几乎可以概括前文的全部讨论:良好的治理须以良好的制度为前提,人唯有在制度之中,才能被约束,也才能被成就。

四、AI 时代的权与责

将三条线索贯通,我在某一刻忽然看清了一条完整的因果链:腐朽自上而下;权责失衡滋生腐朽;制度缺位又为权责失衡留出空间。由此反推,于我而言,无论开源社区、工作还是生活,都应当以清晰的制度加以规范,而制定制度的人首先要受其约束。

AI 时代使这一点变得更加紧迫。如我一贯所主张的,AI 是人的放大器:顶尖的工程师借助顶尖的 AI,能够写出顶尖的代码;能力与责任心不足的工程师借助同样的工具,产出的可能是灾难。2024 年时,一位工程能力欠佳的贡献者每周或许只能提交两个 PR,维护者尚可逐一审阅、及时拒绝;而今,同样的人借助 coding agent,每周可以提交上百个 PR。逐一审阅,维护者的时间难以为继;一概拒绝,会挫伤社区成员的积极性;悉数接受,代码库很快便会失控。代码的生产成本骤降,审阅与维护的成本却并未随之下降,二者之间的落差,正需要制度来弥合。

因此,我在今年开始更严格地践行仁慈的独裁者(Benevolent Dictator For Life,BDFL)的角色。这一称谓最早用于 Python 的创始人 Guido van Rossum,Linus Torvalds 之于 Linux 也常被如此描述:其初衷必须是仁慈的,即让项目持续健康地发展;但他同时是独裁者,可以坚决拒绝任何不符合其判断的变更,即便背后另有利益推动。一个项目总需要有人承担最终的技术判断,以及这一判断的后果。

“独裁者”一词,与前文所论的嘉靖似乎相去不远。二者的分野,恰恰在于前文讨论的三点:权责是否对等,规则是否清晰,立规矩的人是否以身作则。

我在自己负责的项目上拥有最高的权限。这份权限并非源于我加入得早或贡献得多,而是源于我所承担的责任。我们将经过社区讨论的每一项偏好写成成文的 requirements,不满足者不得合入。例如,凡有 if 必有 else,即使只是一句 else: pass;有人或许认为这显得多余,但我相信它能够减少相当一部分缺陷。

这些规则在社区的共同参与下由我主导建立,因而首先应当约束我自己:倘若我写 if 而不写 else,便没有资格要求他人;倘若我提交的代码不符合规范,我理应第一个受到批评。最终的判断由我作出,但这并不意味着我总是正确;一旦有人提出我未曾考虑的场景,或给出更充分的验证,相应规则便应重新讨论。在我看来,这种以民主协商为基础的独裁并不矛盾。或者说,真正行使最终裁量权的,是愿意为结果承担责任的少数人:权力向责任集中,而不向资历或声望集中。

在尽可能的范围内,我们也让规则客观化。“有 if 必有 else”可以通过语法树自动检查,交给工具执行即可;能够交由工具检验的规则,便不再依赖任何人的权威,也就不给任何人留下例外的空间。“代码应当简洁”“文档应当简洁”这类要求则模糊得多,只能依靠人的判断来消除模糊。审美在本质上是一种偏见,偏见无所谓对错。我曾担心自己的偏见未必正确,后来逐渐意识到,重要的是它是否一致(consistent):一致的偏见可以被学习、被预期、被检验,社区也因此能够围绕它协作。

对每一位参与者,我们同样要求权责对等。社区为贡献者提供信任背书,有人借此获得更好的工作机会,有人借此申请学校,这是他们享有的权利;与之相应,他们负责的部分一旦出现问题,也必须承担责任。

AI 的极速发展从未解决责任问题,反而使其愈发无可回避。倘若 GPT 生成的代码出现缺陷,我不可能要求 OpenAI 或 Sam Altman 为之负责;模型不承担责任,承担责任的只能是人。这也是我对以 AI 取代人工客服持保留态度的原因:AI 既无决定权,也不愿担责,往往倾向于把一切风险推卸干净。倘若“这是模型生成的”成为新的托辞,模型便会成为新时代的严嵩,而真正握有权力的“嘉靖们”仍旧置身事外。

当然,对于更宏观的问题,我也尚未想清楚。当智能变得如水电一般廉价,掌握它的少数机构与个人将拥有前所未有的权力;倘若这份权力不与相应的责任对等,我很难不联想到嘉靖朝的处境。我同样不认为出路在于由少数精英替全人类作出选择,那不过是以道德代替制度的又一种形式。替他人做决定是傲慢的,而不为自己做决定是不负责任的。

结语

我大概是这个圈子里最热衷于谈论明史的人。之所以对这段历史念兹在兹,是因为它以四百余年的距离,把一个组织走向衰败的全过程近乎完整地摊开在我们面前:顶端如何摆脱约束,责任如何层层下移,模糊的道德如何一次又一次为失衡开脱,而身处其中的人又如何在“圣上仍是清明的”想象里,错过了每一个本可以纠正的时刻。

黄仁宇笔下的 1587 年之所以令人不安,恰恰在于它无事可记。帝国的崩坏并不需要一场惊天动地的事变,它沉积在一个又一个看似平常的年份里:每一次被默许的例外,每一次被推卸的责任,每一次以道德之名对规则的绕行。我们所处的时代则截然相反,几乎每一周都有值得记下的进展,模型更强了,推理更快了,代码写得更多了。可越是在这样喧嚣的时代,越容易忽略那些不会被写进发布日志的事情:权力是否仍与责任相称,规则是否仍对制定者本人有效。

模糊是失序的温床。有些事情的评估注定是主观的,写作如此,代码质量亦然;但凡能够被客观确立的规则,一经确立,便不应有任何人凌驾其上,包括制定规则的人自己。

工具在变,组织走向失败的方式却几乎从未改变;同样未曾改变的,是抵御这种失败的朴素原则:权责对等,以身作则。这是我从这段历史中习得的最重要的两件事,也是我所在的团队如今做一切事情的出发点。

全文完
查看原文