人类在玩火吗

文/陈赛 　插图/ 郭麒 | By Chen Sai　Illustration by Guo Qi

我们对于这些“聪明”的机器的信任已经近乎于相信上帝了，正不假思索地将控制权让渡到那些距离真正的“思考”、“理解”还很遥远的机器手中，甚至将整个文明置入自动化的快车道。最吊诡的是，在整个权力/权威的交接过程中，每一步都显得如此的理所当然，令人无可拒绝。

《人类简史：从动物到上帝》一书说，在长达数百万年的时间里，人类一直处于食物链的中间位置——我们会猎杀小动物、采集食物，但同时也会遭到大型食肉动物的猎杀。要到10万年前，智人崛起，人类才一下子站到食物链的顶端。

根据作者尤瓦尔·赫拉利的看法，人类所有的欢乐与烦恼，成就与灾难，都与这场过于仓促的地位跳跃有关——在人类之前，凡是站在金字塔顶端的动物（比如狮子、鲨鱼），都要花上几百万年的时间，当终于站到进化的顶峰时，它们看上去威风凛凛，霸气十足，数百万年的统治，让它们充满自信。相比之下，智人就像香蕉共和国的独裁者，看上去威风凛凛，但内心里还是大草原上那些整天充满焦虑和恐惧的小可怜。

用现代心理学的术语来说，正是延续了10万年的身份焦虑，造成了我们内心永远无法平息的空虚和不满足。正是在这种焦虑感的驱动之下，人类自我认知的历程走向了两个方向。一方面，我们创造了各种各样的神话、宗教，以证明自身的存在有着某种特殊的目的。另一方面，我们发明了各种工具，语言、文字、数字、计算机、互联网……以满足不断“进步”和“升级”的欲望，以成为“更好版本的自己”。

但是，无论从哪一个方向来看，人工智能都是一种奇怪的追求。

我至今记得几个月前，在首尔观战Alphago与李世石的那场人机大战时，一位围棋高手是这样形容他眼中的Alphago的，“它像一种智能物种开启了一种全新的看待世界的眼光。而且，你很清楚地知道，这种眼光比人类的更强大。”

一个人的一生，不是经常会遭遇这样的时刻，你觉得自己正在见证一段历史的诞生，或者说见证科幻变成科学的瞬间，但如今回想起来，我只记得当时强烈的不适感——不安、挫败与不知何处安放的敬畏。

计算机科学有一个“恐怖谷理论”，是一个关于人类对机器人和非人类物体的感觉的假设——当机器人在外表、动作上与人类非常相似，但又没有达到完全相似时，我们会产生一种恐怖甚至恶心的感觉。这一理论在动画、僵尸、甚至假肢方面都得到了验证。

对于这种假设有很多理论解释，比如日本科学家伊藤穰一认为这与人类对自我特殊性的认知有关，即某种存在性的“自我”（ego）。而我们之所以会进化出这样一套“自我”，多少是一种自我欺骗的方式，是为了让每个人都能在进化动力的系数之内工作和生活。而当机器在这个系统中变得越来越重要时，我们对自我特殊性的认知会进一步显示出荒谬性。

但是，人类关于人工智能的理想中，何尝不是有着深刻的荒谬性？毕竟，技术是一种文化现象，受文化价值所影响。我们珍视健康，厌恶疾病，所以发明了医学。我们珍视财富和自由，厌恶匮乏与奴役，所以发明了市场与民主以及丰盛的物质世界。我们好奇，所以探索太空。但是，我们为什么非要得发明一种与自己相同甚至更高级的智能，甚至冒着可能被这种智能淘汰和取代的危险呢？

科学家追寻人类智力的源头，怀疑也许是某种浮士德式的疯狂基因变异开始了智人的历史——古DNA的研究发现，大概4.5万年前，现代智人到达了澳大利亚，这一旅程意味着他们得跨越海洋。当直立人、尼安德特人都还忙着在旧大陆繁衍生息时，到底是什么让智人选择了向无边无际的大海进发？在人工智能这个问题上，是否也同样混杂着人类某种近乎自毁性的冒险因子？我们到底向人工智能寻求什么呢？智慧？爱？未来？

据说，今天我们正面对一次根本性的升级——从人类变成“后人类”。纳米科技、生物科技、信息技术和认知科学（统称为“converging technologies”），每一种技术都赋予人类操纵自然以及改造自身本质的能力——掌控生/死、身体/精神、情绪/记忆。

其实，现代技术及其后果的所有争论，都源于关于人类的两幅完全不同的肖像：前者认为人类是造物主最钟爱的造物——我们与动物有着根本的差异，拥有无可复制的智慧，精致的平衡、和谐的整体。后者则认为我们是进化糟糕的产物，就连我们最引以为豪的大脑——自然选择根本没有“努力”地发展过智能，（因为更大的大脑需要的能量也更多，深思熟虑让大脑的反应速度更慢），所以我们的大脑才有那么多的认知盲区与陷阱。就像达尔文在给友人的信中写的，“魔鬼的信徒才会写下这样一本关于笨拙、愚蠢、低劣而残酷的人性的书”。

所以，如果你认同前者，“后人类”就是一个危险的噩梦。自然所给与我们的已经是足够好的礼物，包括我们的生命、身体和大脑，而随便修改自然的赐予是缺乏根据的冒险行为。尤其是当我们身处一个不平等的社会，技术进步的受益者主要是强势群体（弱势群体无法支付技术费用），会进一步制造社会的割裂、冲突与不公。

但是，如果你认同后者，“后人类”至少应该是一个值得追求的目标。没有进化，我们也可以创造和改造生命。苦难、疾病、死亡，并非无可回避的命运，而是可以克服的难题。父母应该利用科技巧妙地处理孩子的“记忆力、性情、耐心、同理心、幽默感、乐观精神”以及其他特质，从而给孩子获得最好人生的最佳机会。

“人工智能”更是人类作为物种延续的必经之道。对此，没有人比哈佛天文学教授迪米塔尔·萨塞罗夫的视角更宏大——“如果我们希望人类的未来长远而繁荣，我们必须开发人工智能系统，以机器与生物的混合体形式，实现对地球式生命周期的超越。”

在他看来，从天文物理学的时空视角下，当下的能源密度、我们的生物性的大脑和身体都已经到达极限。40亿年以后，最古老的地球之子——微生物仍然会统治地球，但一旦太阳死亡，它们没有任何撤退计划。但我们有，我们也许还可以搭它们一程。毕竟，这些微生物与当下的我们更具亲缘关系——植根于化学地球的第一代生命之代表。

在《献给阿尔吉侬的花束》中，智障儿查理·高登接受了一项脑部实验手术，智商从68跃升为200，从一个被朋友欺辱的面包工变成了一个可以洞穿世间奥秘的天才。

作者借查理之口表达了世人对一个更聪慧版本的人类的深深向往：“我生活在一种无与伦比的清晰与美的顶峰……”“没有什么比灵感乍到、解决一个难题让人感到更大的快乐，这是美、爱与真的合而为一，是纯粹的喜悦。”

但是，就像大部分警世科幻小说一样，这仍然是一个悲剧故事——伴随着查理超凡脱俗的智商而来的，是无尽的痛苦、焦虑和孤独，因为他发现原来所有人都在欺负他，那些他称之为朋友的人，只是为了从他的缺陷中获取优越感而已。在见识了一番社会的丑恶不堪，人性的偏狭残酷之后，因为难以克服的技术障碍，天才最终又回复成智障儿。智慧带给他的喜悦与痛苦也最终抵消为零。

人类对于人工智能最初的期待，是模拟人的智能，从而揭开人类智能的秘密。但现在，我们真正向人工智能所寻求的，是一种比人类更高级的智慧。我们似乎越来越相信，软弱的、生物性的人脑只是智能进化中微不足道的一环，要真正解决当前的科学难题，包括量子重力、暗能量、暗物质，都需要人类智能之外的智能，并在这些智能的协助之下设计和发明人类单独无法设计出来的智能形式。

就像《银河系漫游指南》中那个具有高度智慧的跨维度生物种族，为了寻找生命、宇宙以及任何事情的终极答案，特别建造了一台超级计算机——“深思”进行计算。“深思”花了750万年来计算和验证，最后得出了“42”这个答案。那么，现实中的我们会得到什么样的答案呢？

“如果我们希望人类的未来长远而繁荣，我们必须开发人工智能系统，以机器与生物的混合体形式，实现对地球式生命周期的超越。”

在《机器的力量与人类的理性：从判断到计算》一书中， MIT的科学家乔瑟夫·魏泽保认为，人类永远不应该允许计算机为我们做出重要的决定，因为它们缺乏某些至关重要的人类特质，比如同情心与智慧。他还认为选择与决定是两回事——决定是一种计算行为，可以最终被编程；选择则是判断的产物，才是人之所以为人的能力。复杂的人类判断包含非数学的因素，如情感、道德。任何算法都不应该混淆二者之间的界限。

但是，现在越来越多的科学家相信，人的心智本质上是计算性的。大脑的一切认知功能都可以以物理的方式来解释：信仰是一种信息，思考是一种计算，而所谓情感、欲望、动机则是一种反馈与控制。也就是说，只要有足够多的数据（关于人的大脑与身体）与足够强大的计算能力，你可以非常完美地分析出来，人所做的每一个决定，究竟是怎么做出来的。所以，似乎并不存在什么自由选择的空间，就像神经科学家山姆·哈里斯说的那样，我们都是“生化傀儡”。

我曾经就这个问题请教过一位获得过诺奖的生物学家。他说，这是对于物理世界的基本原则的接受——“我不认为这贬低了人类的情感、爱、同情，它只是提供了一种还原论式的解释，关于这些情感、爱与同情由何而起，又如何维持？对此，我不仅不觉得这有什么威胁的，反而觉得非常兴奋，可以理解自然世界到这种程度，正是人类的特殊所在。”

英国DeepMind公司的创始人，Alphago的总设计师德米斯·哈萨比斯也是一位心智计算理论的拥护者。他所设想的“人工通用智能”之路，就是一步步识别大脑中的各种“运算”法则，然后在机器上模拟它们。

Alphago已经在这个领域跨出了小小的、但关键性的一步——机器已经可以模拟人类无监督式的学习能力，也就是学习如何学习的能力。观察周围的世界，发现小小的细微之处与以往的经验不一样，并应用于新的陌生的情境——这种无监督式的学习能力从此可以被迅速复制和应用到各种平常的机器上。

当我们想象人工智能的未来的时候，总是想着库兹韦尔那些关于“奇点”的古怪预言，比如不久的将来，我们会制造出比我们更聪明的机器，它们再造出比它们自己更聪明的机器，如此这般，整个世界朝着我们无法预计的巨型超智能的方向狂奔；再比如，我们很快就能将人的思维载入计算机中，在计算机的电路里获得超强的智力，甚至永生。2014 年的反乌托邦电影《超验骇客》中就有一个情节受此启发，其中有个类似库兹韦尔的科学家，他的思维被人载入网络，给人类带来了毁灭性的后果。

尤瓦尔·赫拉利来中国宣传他的《人类简史》时，谈到当今世界最重要的变化，就在于“权力和权威正在从人类转移到人工智能，到算法等，而人类却毫无知觉。”

是的，今天的人工智能与人类智能还有着本质的差异——它不具备情感、不具备欲望，所以，它不会有统治世界、奴役人类的兴趣与野心。但无人驾驶汽车不需要任何欲望或情感就能代替司机，因为按照现实世界经济系统的设定，司机的工作就是把人/物从a送到b，廉价、迅速即可。如果在这方面机器做得更出色，经济系统就会更倾向于机器，而不是有欲望、有情感的人，于是人就变成了多余。

关于人工智能，我们应该警惕的危机，不是“奇点”，不是超级智能，不是人机大战，而是当下这些因为具备了越来越强的学习能力而变得越来越聪明的平凡机器。

当然，从机器学习到机器理解，人工智能还有很远的路要走，就像一位人类学家告诉我的，“相信奇点，就像重新相信上帝一样。”但是，我们对于这些“聪明”的机器的信任已经近乎于相信上帝了，正不假思索的将控制权让渡到那些距离真正的“思考”、“理解”还很遥远的机器手中，甚至将整个文明置入自动化的快车道。最吊诡的是，在整个权力/权威的交接过程中，每一步都显得如此的理所当然，令人无可拒绝。

今天，再没有人用自己的头脑来做加减运算，因为计算器要快速准确得多。我们信任电子地图，远远胜过自己的方向感。学习一门新的语言听起来是一件性价比越来越低的事情，因为机器翻译越来越强大了。

我们依赖机器告诉我们，哪些信息更重要、更有用、更值得关注；我们依赖机器告诉我们，应该看什么电影、读什么书、听什么歌，甚至选择什么样的伴侣；更深入一点，当面对一个生死攸关的医疗选择时，你觉得你会相信自己，相信医生，还是相信机器？当年安吉丽娜·茱莉切除两侧乳房，不是因为她自己的身体出现问题，也不是出于医生的诊断，而是机器告诉她，她所携带的一种突变基因，意味着她有7%的可能性将来会患上乳腺癌。

“工作，本来应该由人来完成的，现在越来越多的由机器来完成。决定，本来应该由人凭借感觉与理性做出的，现在越来越多的由算法来做出。而且，每一步都让你觉得无法拒绝。” 赫拉利说，“在此过程中，人渐渐变得无用、多余。这是为什么你知道世界正在发生非常严重的变化。”