杨斌丨既已“如神”,何以“善任”?——重温斯图尔特·布兰德的警示

转载
9 小时前
2343
清华大学可持续社会价值研究院

文章转载来源:清华大学可持续社会价值研究院


当AI不断逼近“如神”的能力边界,人类最需要回答的,或许已不再是“技术能做到什么”,而是“我们该如何使用它”。

“吾辈如神”并不是一句关于人类伟大的赞歌,而更像一句关于责任的警语。

从《全球概览》的创刊宣言,到AI时代的技术狂飙,杨斌教授重新解读斯图尔特·布兰德那句影响深远的话:“We are as gods and we might as well get good at it。”

在“人的AI次方”这个“如神-善任”的公式中,我们正在见证站上指数位的AI所具备的磅礴力量。但是,决定未来的,依然是作为底数的人。
既已如神,何以善任?
当神力握于手中,真正的挑战或许才刚开始。

前些天,在新加坡第六届亚洲公益峰会召开期间,淡马锡基金会组织了一个闭门午餐会,邀请两位学者作为“议题点燃者”,与全球慈善界代表人士分享“夜不能寐”的挑战,也看看公益界能够一起做些什么。其中一个议题是气候变化,另一个议题是由我分享的AI对工作和就业的影响。

现场是一点就燃,在场所有人的情绪变得热烈,大家讨论起来就完全顾不上吃饭——看来这挑战巨大到不光让人夜不能寐,也让人食不甘味。不约而同地,两个议题都让大家聚焦到“手握强大科技的人类,为啥眼瞅着就把自己的未来给搞砸了”这一点上。作为胜利完成点燃任务的分享者,我本该长舒的一口气,却被讨论中那种恐惧“末日将至”以及叹息“已经晚了”的情绪给憋了回去。那一刻,我想起准备演讲时正翻看的新书《吾辈如神》——58年前,就有智者严肃地提醒过这一切的利害啊,吾辈如神,自当善任”……


如神的斯图尔特·布兰德


发出这一警示的智者就是斯图尔特·布兰德(Stewart Brand)。他当然没有出现在新加坡,没有出现在那场午餐会上,但感觉上,他像是一直都在参与我们的讨论,跟大家一起stay hungry(求知若饥)

很多人认识布兰德,是因为乔布斯20056月那场在斯坦福大学毕业典礼上的演讲,那句后来不知道成了多少人的签名档的“Stay hungry.Stay foolish.”(求知若饥,虚心若愚)。真的很难忘怀当时激动地短信来、邮件去,反复斟酌“若饥”“若愚”的美好时光。乔布斯作为最伟大的故事讲述者,用在演讲结尾处的那个意象——那条清晨乡间小路,那条你要搭车去往远方的小路的象征,把整个演讲中的那种命中注定的理想主义升华到位,其后这20年,感染激发了多少人,又启发成就了多少事啊。

1971斯图尔特·布兰德办的《全球概览》终刊号《最后一期全球概览》封面与封底。 (图片来源: Open Culture / The Whole Earth Catalog Online)

乔布斯一下子给毕业典礼演讲树立了一个无数后来者都想模仿却无法超越的标杆。要我说,真的得归功于布兰德和《全球概览》(Whole Earth Catalog),不只是因为他创造了这么富有哲思的人生格言,也因为他在少年乔布斯们的心中埋下了一颗无比珍贵的种子。

总是这样,伟大的出版人、出版物,不只会影响他所处的时代,也会持续塑造世界、建构未来,布兰德和《全球概览》就是最好的例证。我们眼中如神一般的乔布斯居然说《全球概览》于他而言是“圣经一般的读物”,是“平装版的谷歌”。这自然就吸引了无数人跑去“谷歌”《全球概览》究竟是什么神物?又是什么神人所创造?结果无一例外,一发不可收拾地,都深陷那个造就硅谷文化、极客精神和互联网三观的“布兰德宇宙”中。

斯图尔特·布兰德究竟怎么“如神”?在互联网出现的30 年前,他居然把去中心化、开放共享、UGC、非线性阅读、社区驱动、工具赋能等核心基因,很神奇地呈现在《全球概览》这么一个纸质版“互联网”里面。他如神,但又在人间。他的言说、他的文笔,超能影响人的格调与品位。记得10多年前在推动大学如何开设更能启发心智、影响人生的新生研讨课时,我心中理想的标杆之一,就是斯图尔特·布兰德作为老师给大一新生分享的样子。

布兰德的许多远见卓识,非常超前,在当时并未获得足够理解,却随着时间的推移,被人们讶异地重新认知且持续迭代,并深深叹服。坦白地说,“求知若饥,虚心若愚”这一句,并不能算其封神之作,但确实是《全球概览》的封笔之作。共感移情一下,偏爱残念,热衷“one more thing”的乔布斯大概会更钟情于落寞的感伤,但这或许并不只是巧合,而是冥冥中自有神意。更能配称布兰德“神迹”的,应该是他在《全球概览》创刊号宗旨声明 (statement of purpose)的开篇第一句,实话说远比“求知若饥,虚心若愚”更厚重深刻,即使当初的人们未必全然懂得此中真意。1968年布兰德亲笔写下的那句话,更像是针对AI和众技术涌现狂飙的当下专门写的。

不像终刊号的告别语是两个排比短句,这创刊号的开篇首句不长,却很完整:We are as gods and we might as well get good at it.  此中有真意,这句话很耐琢磨,也不容易翻译,更勾起了我的兴趣。

1968斯图尔特·布兰德办的《全球概览》创刊号封面与扉页。 (图片来源: Kentucky Historical Society, Wendell Berry Collection, MSS 189)


吾辈自当善任

“吾辈如神”是对前半句We are as gods的翻译,也成就了本书的书名——我们人类作为一个整体,是“吾辈”的体现,拥有并运用着堪比神明的力量,这就是吾辈如神。如神而不是神,这个“如”字很切中要害。但这前半句的深意,却得等读完后半句后,再从全句统观,才能全面准确地理解。后半句话,不仅是“先知”布兰德埋下的真正伏笔,也让这句话在人文与伦理上的境界得以高度升华。

先说句尾的这个“it”,其实就指代了整个We are as gods(吾辈如神),但它不是事实与状态的陈述,更像是加上了“-ship”的后缀,就像是steward(管理者)与stewardship(管理职务)的关系。我写过《人文红利的那些船儿》,拆解过这种妙趣,以及对于人类整体的“红利”意义。从entrepreneur(创业者)身上抽象出entrepreneurship(创业精神)这样一种精神;从leader(领导者)身上抽象出leadership(领导力)这样一种本领与力量。如神,不再只是事实,更成为亚里士多德所说的“实践”,这才有了全句最紧张的对立,以及虽然是句号结尾,却有着强烈的扪心自问感,有着一种祈使句的告谕主张感。

全句的冲突调性,是由might as well来定义的。这个习语构成了句眼,情绪张力很强:“既已然如此,别无路可选,索性、便应、自当、责无旁贷去做。”这里的情绪颇有些复杂,至少包含了3层潜台词:承认既定事实与状态,因自然的要求;放弃侥幸与逃避,选择顺应以担当;带有自省、劝诫、责任倒逼的严肃语气,着眼主动担当。是的,绝非轻易的“也应该”“也得”。这3层潜台词,分别对应着“理当”“应当”“自当”,是有着细微而切实差异的。

从《全球概览》创刊首句和终刊封笔末句追求文字呼应的“恶趣味”来考量,前有“求知若饥,虚心若愚”,那么“吾辈如神,自当善任”就呼之欲出了。任,就是要扮演好某种角色,承担某种责任——工匠(craftsman)就要有工匠精神(craftsmanship);如神(as-gods),就要能做好“as-gods-ship”,此为“任”。而之所以用“善任”二字,则是因为它担着双重天命:一是“善于”之善(get good at),即习得驾驭神力的智慧,不辱使命,肩负责任;二是“守善”之善(get good),即坚守人之为人的伦理边界,确保被托付了神力的吾辈,不被神力异化,行有所止,止于至善。

品布兰德的这句话,反复念诵“吾辈如神,自当善任”,我感受到其中的五味杂陈:一种沉甸甸的焦虑感,一种咬着牙的狠劲儿,一种背水一战前的自我告诫,一种混杂着恐惧、期待与责任感的复杂情绪。“既然已经有如神般的力量,吾辈自当善任,千万别搞砸了,别辜负了这份造化,别把这世界(甚至这物种)毁在这上头。”这就是我在新加坡那场闭门午餐会时感受到的复杂情绪,说到气候,说到AI,周遭弥漫着“人被技术拖着走,命运不掌控在自己手中”的惊慌。

这是布兰德1968年发出的先知警醒,若是单从力量之巨、责任之巨、善任之难来衡量,1968年的“如神”是远比不上2026年的“如神”之势的;但对人类文明能否在如神但有可能技术失控的青春期阶段存活下来的担忧,是过去这50多年中一直存在的一种清醒认知与深沉忧虑。也正是这种善任的倒逼与变革的动力,促使着人类在善任的实践中生存与发展,并增进“人类同善”的福祉。

这是一句非常深刻的科技伦理箴言。很清晰的是,这绝不是在夸耀人类强大,而是自省与警示:能力越“如神”,善任就越难,为善就越重要,“神”力带来的后果对人类整体的挑战也就越大。不管是“灰犀牛”的积聚,还是“黑天鹅”的突发,如神而不能善任,终将反噬人类自身。


1960年代的斯图尔特·布兰德。(图片来源: SFGATE / Summer of Love: 40 Years Later / Stewart Brand )


容易被误解的“如神”推断


这学期,我和同事一起开了一学期的“AI伦理”课程。我自己也在过去七八年里,参与到世界大学气候变化联盟的工作中。我的切身感受是,气候危机与AI风险这两个新加坡午餐会的热议议题,可能并没有出现在1968年“人类如神而不善任的生存威胁清单上,今天则高居榜首,并助推混杂着愈演愈烈的政治极化、贫富差距、心理危机与公共卫生挑战。

所以,对作为人类命运共同体的吾辈来说,这个问题更加紧迫,它既来自布兰德,也关乎我们的子孙后代:既已如神,何以善任?

我觉得这个沉甸甸的问题是不存在一个轻易让人放心的回答的。这也是科技伦理越来越重要的原因,尤其是面向那些如神的科学家、工程师和政策制定者,他们的立场与紧迫感至关重要。

也是从这个角度出发,我觉得这两位老牌畅销书作家戴曼迪斯和科特勒,其来有自地错失了某种平衡,倒向了原因可被猜测的过分乐观,提出的“吾辈生存指南”还较为初步,尚不能让人完全信服。在鼓励大家亲自读读这本书,再下结论的同时,容许我对两位作者隔空喊一句:你们从布兰德那里借来这么一句朗朗上口、有千钧之重的名言,却只选择前半句做书名,是否将会酿成一场误导之灾呢?

有那么玄乎吗?误导之灾?我不是成心挑刺,也跟编辑老师说了我这个担心,她们懂得我的担心来自我长期以来都在呼吁要革除的那种“读书就只读一个书名”的陋习,特别是有影响力却没时间看书的各种“登”——根据一个书名就大讲特讲,好比遇宝山连门都不入,不仅是空手而归,更闹心的是,全然误解、自说自话地瞎讲。

以我的经验,以很多人读书只读书名来推断,《吾辈如神》极有可能会产生以下3个与书中内容相悖的误解。

第一个误解:把“如神”误读为盲目“自嗨”。

这么一个乍看上去很是“自嗨”的表达,书中作者却以科学与循证的态度来帮助读者认知,这部分内容与作者前几本书的基调一致且有延伸,附有58页精美的图表。富足而不自知,如神却不自觉,这绝非值得褒奖的谦逊,而是麻木与罔顾,不知道人类已经发展到何种程度,能力达到什么水平,是会失大局、误大势的。从内容的整体性来说,这部分是很有价值的;对于熟悉作者过往著作的读者来说,就多少有点儿觉得似曾相识了。

第二个误解:把“如神”误读为完满终局。

一切才刚刚开始。已来的、未来的、远超想象的富足,是已然“如神”的能力所创造的,而吾辈掌握的神力范畴还在升维,好比游戏中的血条还在加长,特别是AI革命,如小行星撞地球般催化技术海啸,产生指数级影响,这一切是正在进行时,且持续加速。毫不夸张地说,你如果是断断续续地读这本书,比如用一个月读完,那么就在这一个月前后,书中所描述的“神迹”很可能又需要补充令人震撼的新进展作为例证了。

第三个误解:把“如神”误读为全部结论。

富足之上的富足,AI革命的爆发,只是书中前半段的主题,充其量是这9章中的45章;虽然不能说“如神”这部分只是全书后半段的铺垫,但是前半段的高歌猛进、势如破竹,一层一层筑高着后半段“善任”的难度,对比衬托出被技术反噬的风险——“失神的神”会跌落深渊。

这里要澄清一下。书名与中文译本无关,这是原书作者的立意。论响亮有力,没有任何问题。我之所以在这儿写出可能的误解,也是想鼓励更多的人翻开书,细读内容。我只是从乐于斟酌中文译法的推敲角度,由书名的出处与缘由,漫谈布兰德故事当中的科技伦理意蕴,算是在拿书名做引子,荡开一笔,权当阅读之趣吧。

斯图尔特·布兰德晚年肖像。(图片来源: Wikimedia Commons - Wikimedia.org / File:Stewart Brand in 2022 


“心件”升级、心智质变的吾辈

才能在底数位上善任如神



书的内容还是十分扎实的,还是戴曼迪斯和科特勒旁征博引的习惯。要是想用下划线标标重点、趣点,估计满篇都是。当然,也有可以改进的地方,尤其是选材与剪裁。人都容易受到路径依赖的认知引导。书里也讲了初入富足时代的吾辈,是怎么延续这稀缺与匮乏思维,束缚我们的创造力,并造成敌对加剧的。他们也受到《富足》一书的影响,受到他们10多年前提出的指数型技术这个概念的影响。其时,AI的影响力还远不及今天,与AI相比,当年指数型技术集合中的每一种,在如神的机遇与善任的挑战上,都不是一个量级,但也都会受益于AI的日新月异,借上AI的神力。

单以AI而论,最近美国一些大学的毕业典礼上,提起AI就会听到应声而起的嘘声倒彩,这正折射出年轻一代对这种神力失控、AI与人不能共生的担忧与不满。越来越多的AI前沿公司被迫回答很多关于技术后果与社会影响的问题,回应社会公众越来越强烈的关注——能力越大,责任越大;当AI如神明一般,我们是否真的准备好善任了?

2025年的π日,也就是314日开始,我就持续推动“AI次方思维”的讨论,也许直接切入,直面问题能够有助于我们把它看得更清楚。在书中,戴曼迪斯和科特勒一直把以AI为代表的技术称为指数型技术,强调这些技术的发展速度非常快,发展曲线非常陡峭。但在我看来,他们的表述缺了非常重要的一环:AI等技术的发展不只是速度快,而且导致技术与人的关系发生了本质变化AI之于人,并非一个单纯的容易驾驭的赋能工具,两者之间也绝不再是简单的加和关系。现在随处可见的“AI+”,其中的“+”代表着AI会带来创新与提升,也就是人们常说的“赋能”,但AI所能做到的、对传统行业乃至社会经济结构造成的影响和颠覆性的改变,需要实实在在放到指数位上来认知,这就是我曾专门撰文阐释的“AI次方”。如果AI处在指数位上,那么底数又该是什么呢?

人是底数。吾辈是底数。

在“人的AI次方”这个“如神-善任”的公式中,我们正在见证指数位引发的磅礴力量。AI赋予了我们前所未有的创造力和生产力。但是人类啊,请在这令人震惊,也让人陶醉的力量前保持清醒,并以“极度”作为修饰词:当AI处在指数位上时,处在底数位上的是来自各行各业、具体的人——有能动性、创造性的同时,也有惰性、局限性。这意味着无论指数变得多大,无论AI多么强大,最终变革的结果,其量级和性质依然由那个不起眼的底数,也就是变革的主体——人来决定。如果底数是负数(贪婪、偏见、敌对),指数越大,灾难性的毁灭越强;如果底数是零(空虚、无意义、随波逐流),无论指数如何飙升,结果依然是零。当且仅当底数是正数,且具备坚实的“心件”内核,即底数大于1时,AI在指数位上的神力才能真正造福于人。底数上的人啊,如果你如神而不能善任,就会塌陷成小于1的底数!

坚实的“心件”是什么?我此前将AI时代人类赖以依托的系统,做了一个启发性的简单分类:我们耳熟能详的技术系统(hardware)、算法系统(software),以及我提出的第三类系统——人类的心智系统(soulware)。在我看来,真正起决定性作用的,正是第三类心智系统:它决定一个人或组织如何运用技术和算法系统,能否在指数位的AI之底保持正数,不致塌陷。心智系统里的各种“心件”,回应着人类在时代变革中“如何持续成长、如何长期存续、如何坚守本质、如何保持定力、如何守护价值”这些核心问题,决定了人与组织在复杂时代中的稳定韧性、进化能力与精神定力。

我曾在清华教一门课,叫“批判性思维与道德推理”(Critical Thinking and Moral Reasoning,简称CTMR)。如果用这门课的CTMR方式来审视“人的AI次方”,我们看到的是,如神的是指数位的技术,底数不是神,幂也不是神:分母是神力(superpower)时,分子是如神(as-gods)的姿态;分母是人造物(artifacts)时,分子是人(human being);分母指向第一座山(成就、简历等),分子对应的是第二座山(意义、精神价值等)。德是分子,位是分母,若德不配位,人将自毁。这就是我想通过“人的AI次方”这个“如神-善任”公式揭示的本质。

现状很是不尽如人意,让吾辈颇为着急。最近湛庐两次邀请我来分享,我都谈到底数上的人、组织和社会,全然缺乏质变动力,仍然幻想着把AI当作一个赋能工具,一副“操之在我、为我所用”的自大心态,心智模式滞后,组织变化太慢,一切仍在线性稳进。“我们拥有旧石器时代的情感、中世纪的制度,以及神明般的技术。”爱德华·威尔逊这句话一针见血。虽然我更多是以企业组织为对象来判断,但放眼整个社会,境况更是不容乐观。

这甚至引出了一个作者未必同意,我却很觉得有必要提出的问题:在小行星撞地球之后,哺乳动物成了新主宰。那么,在这场由AI为代表的技术巨变冲击后,人类会不会成为即将消失的“恐龙”?书中最后3章力图给吾辈支招,却略显薄弱。其实这部分内容值得单独写一本,一定能够引发更广泛的思考与讨论。重塑线性大脑的认知谈何容易?吾辈的“心件”还停留在部落时代的猜忌与恐惧中,吾辈的社会组织还困在旧的层级与垄断里,我们却突然手握能改写定律、重塑生命的神力。这不是滞后,而是错位,是灾难的温床。人类发明了火,却可能毁于玩火。

整个社会的文明心智系统,要怎么发展,才能够应对得了技术的狂飙猛进?AI自身的发展速度是指数级的,AI对整个社会的颠覆与改变更是指数级的。这技术力量堪比中西方认知体系中的神力,可造物创世,同样也可毁天灭地。驾驭这神力的“心件”——伦理规则、理性共识、共情、全球协作、安全治理体系、制度良知、长远思考,这些“文明的心智”都还没跟上。

不妨思考一下布兰德担心的“搞砸”:能力的僭越——人们用AI生成所谓的思考结果,却失去了思考的痛苦与乐趣,底数归零;意义的迷失——AI总给出你想要的最优解,但什么才是吾辈内心觉得的“好”,什么才是“值得”,底数小于1;伦理的真空——吾辈中的某些公司与平台创造出的足以毁灭人类的AI技术,却被掌控在操纵囚徒困境的人手中,“心件”未升级,底数为负。

2025年底至今,我看到的是布兰德担心的这些“搞砸”,隔三岔五地出现:AI在指数位上疯狂进化,而人在底数位上悄然退化。滥用AI替代人类思考、创造与挣扎的过程;在AI的讨好与迎合中,在算法持续投喂的“最优解”中,失去了辨认何为真正值得追求之物的能力;AI的能力在飞跃,人类对技术背后的伦理边界却无法达成共识。这种“失衡”“不善任”的后果是,人的价值在被“如神”的力量“阉割”。当原本独属于人类的体验与创造过程都被外包,人类实则在进行一场自我去能(De-skilling)。维纳在1950年就预见了这一点,在《人有人的用处》(The Human Use of Human Beings)一书中,为我们今天的“失衡”拉响了警报:在如神的快速发展中,若为了追求绝对的效率和安逸,自愿将选择权、决策权,甚至反思权让渡出去,就可能成为蚂蚁社会中的蚂蚁,沦为人类社会中的NPC

不善任的风险带来的不是那种大爆炸式的毁于一旦,而是渐进式的空心化、机器化、失去人本之用(human use)。我甚至说不出哪个更糟糕。一直这样下去,也许人类不会像恐龙一样消失,甚至还会活得更暖洋洋、懒洋洋,但在文明进程的标尺上,却是确确实实的退化。如果我们的“心件”不升级,我们的制度不革新,我们的组织不进化,那么无论AI多么强大,我们都只是那个拿着打火机,站在堆满干草的房子里的孩子。所幸,近半年来,这些“搞砸”之处越来越多被看到,这也是吾辈越来越关注到危险并开始疾呼呐喊的半年。真心希望,一切还来得及。

谢谢《吾辈如神》,让我们得以重温斯图尔特·布兰德50多年前的警示,特别是这后半句话,正是全人类当下需要作答的一份考卷。AI这个指数位已经立在那里了,无法撤销、不可逆、不会归零。善任的真正挑战,就在于如何让作为底数的吾辈人类,变得更慈悲、更智慧、更具韧性。一句话,更成为真正意义上的人。

不让神力废了人本,不被“如神”乱了心神,不为指数位上的“咆哮”所迫,以“心件”升级、心智质变的吾辈,才能在底数位上善任如神。



作者简介:

杨斌博士,清华大学校务委员会副主任,经济管理学院教授、领导力研究中心主任,清华大学可持续社会价值研究院院长。曾任清华大学副校长、教务长、研究生院院长等职。杨斌教授主要研究方向为组织行为与领导力、企业伦理与社会责任、高等教育管理等;著有《企业猝死》《战略节奏》《在明明德》等,译有《大学的窘境与革新》《变革正道》《管理者而非MBA》等;开发并主讲《批判性思维与道德推理》《领导力与组织变革》《管理思维》等多门清华大学精品课程。


内容来源:《iWeekly周末画报》

编辑:不思

审核:杨斌

责编:李莉萍


⬇️ 点击关注,向善同行

清华大学可持续社会价值研究院

清华大学可持续社会价值研究院(Institute for Sustainable Social Value, Tsinghua University)于2024年12月成立。研究院致力于深入研究和探索可持续社会价值的内涵与实践,挖掘中国可持续社会价值的发展成就,推动可持续社会价值的理念传播与实践创新。研究院将成为学术界与企业界之间的重要桥梁,在学术研究、智库研究、人才培养、学科发展等方面发挥平台作用,并积极开展高水平的国际交流和合作。