Richard Susskind 教授《如何思考 AI》读书笔记

长期以来，我一直乐观地认为人工智能能带来巨大的社会和经济效益。现在我对此更加充满热情。但随着我沉浸于近期惊人的进展中，我也更加清晰地认识到人工智能所构成的威胁的范围和规模。

这段话是理查德·萨斯金德在《如何思考人工智能》书中的一段自白，它精准地捕捉到了我们许多人此刻内心的矛盾与撕裂。

引言：当 AI 震惊世界，我们真的懂得如何思考吗？

ChatGPT 的横空出世，仿佛一夜之间将人类带入了一个全新的纪元。当我们最初的兴奋与好奇渐渐平息，一种更深层的不安与迷茫开始浮现：我们真的准备好了吗？我们用来理解世界的思维框架，在面对一个可能超越人类的智能时，是否已经彻底过时？

现在，我们跟随一位在这个领域深耕了四十年的思想家——理查德·萨斯金德，通过他刚上市的著作《如何思考人工智能》，学习一套全新的思维工具，帮助我们拨开迷雾，看清未来。

第一章：理查德·萨斯金德是谁？

时间倒回至上世纪 80 年代，当个人电脑还未普及，萨斯金德就已经一头扎进了人工智能的世界。那时，他全身心投入到被称为“专家系统”的初代 AI 技术中。这是一种试图将人类专家的知识和推理过程，编码成巨大决策树的技术。

他不仅是研究者，更是开拓者。1988年，他与人合作开发出世界上第一个商业律师 AI 系统。这个系统能将原本需要数小时的法律研究缩短到几分钟，其表现甚至超越了顶尖的人类专家。这段经历，让萨斯金德对 AI 的潜力有了最初的信念。然而，这位在 AI 领域航行了四十年的老船长，在目睹了 ChatGPT 等生成式 AI 掀起的滔天巨浪后，思想发生了巨大的转变。他坦言，自己长期以来的乐观，如今被一种更复杂的情感所取代：一方面是前所未有的热情，另一方面，则是对 AI 威胁的范围和规模，有了更加清晰的认识。

正是这种从乐观到审慎的转变，让他写下了这本“写给迷茫者的指南”。

第二章：这本书为何诞生于此刻？

这本书诞生于一个作者称之为“人工智能之夏”的时代。AI 的发展并非一条直线，它经历了“寒冬”与“春天”的轮回。80 年代的“专家系统”是第一个春天，但它有致命弱点：它需要人类专家费尽心力地绘制知识“地图”，却无法捕捉顶尖专家那种难以言说的“直觉”或“第六感”。

而我们今天所处的“人工智能之夏”，则由第二代 AI 技术——机器学习所驱动。它不再需要人类“喂饭”，而是能自己从海量的数据海洋中挖掘知识。无论是击败世界围棋冠军的 AlphaGo，还是破解了生物学界 50 年难题的 AlphaFold，都展现了这种新范式的恐怖力量。ChatGPT 的发布，更是一个里程碑。它带来的不仅仅是兴奋，更是巨大的困惑。作者发现，无论是大众还是专家，在思考 AI 时都普遍存在思维误区，因此，一本厘清迷思的“指南”变得刻不容缓。

第三章：我们思考AI的方式，从根本上就错了吗？

萨斯金德为我们提供了几个颠覆性的思维工具。

第一个工具，也是最核心的，叫做“过程思维”与“结果思维”的区分。

他发现，今天所有关于 AI 的争论，几乎都可以归结为这两种思维的冲突。什么是过程思维？它关心的是一个系统“如何工作”的内部机制。而结果思维，则只关心它“能带来什么”的外部影响。

这个区分听起来有点抽象，但一个绝佳的例子就是语言学泰斗乔姆斯基和政治家基辛格对 ChatGPT 截然不同的评价。乔姆斯基是一位典型的“过程思考者”，他从人类语言习得的机制出发，认为 ChatGPT 那种基于统计和模式匹配的“过程”，与人类心智的精妙相比，是无趣且劣质的。

但基辛格，作为一位“结果思考者”，他并不关心机器内部的算法。他看到的是，这个系统已经能够产生巨大的社会和政治“结果”，它正在以前所未有的方式影响世界。

萨斯金德提醒我们，这两种思维没有绝对的对错，但如果我们只停留在“过程思维”，就会犯下一个致命错误——因为 AI 系统在内部工作原理上不如人类，就忽视它在外部结果上可能带来的巨大潜力和威胁。这就像说，计算机不会造成伤害，因为归根结底，它们只是1和0。

第二个重要工具，是超越“自动化”的“创新”与“淘汰”框架。

当我们谈论 AI 对工作的影响时，脑海里几乎总是“自动化”或“任务替代”。但萨斯金德说，这仅仅是故事的三分之一，而且是最不重要的那一部分。

更深刻的变革来自“创新”和“淘汰”。

“创新”指的是技术让我们能做到以前完全不可能做到的事。比如，微创手术并非“自动化”了传统开刀手术，而是用一种全新的方式实现了“治愈病人”这个结果。

而“淘汰”则更为彻底，它直接让某个问题本身消失。作者举了一个19世纪“大粪危机”的例子：当时纽约的马车产生了堆积如山的粪便，城市管理者束手无策。最终解决这个问题的，不是更高效的粪便清理系统，而是汽车的发明，它直接“淘汰”了马车的需求。

同样，当我们还在争论 AI 机器人多久能学会熨衣服时，**作者一针见血地指出，我们问错了问题。**真正具有颠覆性的，不是一个会用熨斗的机器人（那是自动化），而是由材料科学（无疑将由 AI 赋能）带来的、根本不需要熨烫的“免皱”面料（这就是淘汰）。这个“三段论”框架告诉我们，AI 对未来就业的冲击，将远远超出我们目前所能想象的范围。

由此，我们引出第三个关键概念：“人工智能谬误”。

很多人在面对 AI 时，会下意识地产生一种防御心态：“等等，我会思考、有同理心、能创新，机器没有这些特质，所以我的工作是安全的。” 萨斯金德将这种想法称为“人工智能谬误”——即错误地认为，机器要达到甚至超越人类水平，唯一的方法就是复制人类的工作方式。

这是一个极度以人类为中心的傲慢视角。历史早已证明它的错误。1997 年击败国际象棋大师卡斯帕罗夫的“深蓝”，靠的不是模仿人类的棋路，而是强大的计算能力和算法。2016 年战胜李世石的 AlphaGo，同样是利用了人类大脑无法企及的数据处理和自我对弈能力。

机器将在它们自己的赛道上，用它们自己的方式超越我们。认识到这一点，我们才能真正开始严肃地思考人与机器的未来关系。

第四章：萨斯金德的观点就是绝对真理吗？谁在反驳他？

通过他的论述，我们可以清晰地看到他所要对抗的几种思潮。

他严厉批评那些他称之为“病态的怀疑者和一本正经的社会科学家”。这些人犯有一种“技术短视”的毛病，他们总是过度关注一项新技术当下的局限性，比如生成式 AI 会产生“幻觉”（即一本正经地胡说八道），并以此断言这项技术潜力有限。萨斯金德警告说，这种观点完全忽视了技术正以指数级速度发展的轨迹，今天的缺陷很可能在明天就被修复。

他还批评另一种被称为“非理性排斥主义”的态度。他惊讶地发现，许多对 ChatGPT 等系统嗤之以鼻的所谓专家和领导者，经过盘问后才承认，他们自己甚至从未亲手使用过这些系统。这种不经实践就武断否定的态度，是理性思考的大敌。

我们可以想见，那些坚信人类心智拥有不可复制的神秘性的“过程思考者”，那些坚持认为机器无法拥有真正“创造力”和“同理心”的哲学家，都会成为萨斯金德的论战对手。

但萨斯金德通过提出“准创造力”、“准同理心”等概念，试图搭建一座沟通的桥梁，承认机器的过程与人类不同，但同时强调，我们必须正视其产出的结果。

第五章：面对注定到来的智能革命，我们究竟该何去何从？

在为我们提供了所有这些思维工具之后，萨斯金德最终为我们这些“迷茫者”指明了怎样的方向呢？

他给出的核心行动倡议，是一个思想实验，他称之为：“如果 AGI 出现会怎样？”（What if AGI?）AGI，即通用人工智能，是指在几乎所有认知任务上都能与人类匹敌或超越人类的 AI。萨斯金德认为，我们不应该再纠结于 AGI 是否会到来、何时到来，而是应该立即开始假设它必然会到来，并以此为前提，来倒推我们今天应该做什么。

在这个思想实验中，我们才能真正摆脱“技术短视”，去思考那些真正重要且终极的问题：在一个存在 AGI 的世界里，我们希望对这些系统施加怎样的伦理约束？我们如何重新定义工作的意义？我们如何分享它们创造的巨大财富？ 他大声疾呼，回答这些问题的，不应该是萨姆·奥尔特曼或埃隆·马斯克这样的技术大亨，而应该是柏拉图、亚里士多德和康德，**我们需要一场由我们最优秀的哲学家主导的、深刻的公众对话。**

最后，他为人类与 AI 的未来关系描绘了三种可能的图景：第一种，是机器智能彻底超越并“接管”人类；第二种，是人类通过脑机接口等技术与 AI “合并”，成为“超人类”；第三种，是人类与 AI 系统保持分离，像“合资企业”一样共存合作。

萨斯金德坦言，在现阶段，他坚决主张第三种选择——“合资企业”，并把“人类至上”作为基本原则。但他同时也警告我们，“魔盒才打开了一半”，我们或许只剩下大约十年的窗口期来做出决定，并通过法律来执行它。

最后，让我们再次回到全书的核心，那句掷地有声的结语：

平衡人工智能的益处和威胁——用人工智能拯救人类，并使人类免受人工智能的危害——是我们这个时代最具决定性的挑战。

如何思考 AI，最终关乎的，是如何定义我们自己，以及我们想要一个怎样的未来。这个问题，没有简单的答案，但理查德·萨斯金德的书，无疑为我们点亮了一盏至关重要的探路灯。