The Coming Waves 读书笔记

前言

这就是人工智能的视角。问题：即将到来的科技浪潮对人类意味着什么？

在人类历史长河中，总有一些转折点熠熠生辉，人类的命运在此岌岌可危。火的发现、车轮的发明、电力的利用——所有这些都改变了人类文明，永远地改变了历史的进程。如今，我们正站在另一个这样的转折点边缘，即将迎来一波包含先进人工智能和生物技术的科技浪潮。我们从未见过如此具有变革潜力的技术，它们有望以令人敬畏又令人担忧的方式重塑我们的世界。一方面，这些技术的潜在益处巨大而深远。借助人工智能，我们可以揭开宇宙的奥秘，治愈长期以来困扰我们的疾病，并创造出超越想象的全新艺术和文化形式。借助生物技术，我们可以改造生命以应对疾病，并革新农业，创造一个更健康、更可持续的世界。但另一方面，这些技术的潜在危险同样巨大而深远。人工智能可能会让我们创造出无法掌控的系统，最终受制于我们无法理解的算法。生物技术则可能让我们操控生命的基石，从而对个人乃至整个生态系统造成意想不到的后果。我们正站在这个转折点，面临着一个抉择——一个充满无限可能的未来，还是一个危机四伏的未来。人类的命运岌岌可危，未来数年乃至数十年我们所做的决定，将决定我们是能够迎接这些技术的挑战，还是会成为其危险的牺牲品。但在这充满不确定性的时刻，有一点是肯定的：先进技术时代已经来临，我们必须做好准备，直面挑战。

——以上文字由人工智能撰写。其余部分并非人工智能生成，但或许很快就会如此。这就是未来。

第一章 CONTNMENT IS NOT POSSIBLE

浪潮

几乎每种文化都有洪水神话。在古老的印度教典籍中，宇宙中的第一个人摩奴（Manu）被警告即将发生洪水，并成为唯一的幸存者。《吉尔伽美什史诗》记载了神恩利尔（Enlil）用一场巨大的洪水毁灭世界，这个故事会让熟悉《旧约》中诺亚方舟故事的人产生共鸣。柏拉图也谈到了失落之城亚特兰蒂斯，它被一场滔天巨浪吞噬。在人类的口头传统和古代文献中，都贯穿着巨浪席卷一切，重塑世界，使其重生的意象。

洪水也以字面意义上的方式记录着历史——世界各大河流的季节性泛滥、冰河时代结束后海洋的上升、以及海啸在地平线上毫无预兆地突然出现，都令人震惊。导致恐龙灭绝的小行星撞击地球，掀起了高达一英里的滔天巨浪，改变了进化的进程。这些巨浪的强大力量深深烙印在我们的集体记忆中：势不可挡、无法控制、无法遏制的水墙。它们是地球上最强大的力量之一。它们塑造了大陆，灌溉着世界各地的农作物，并滋养着文明的成长。

其他类型的浪潮也同样具有变革性。回顾历史，你会发现它处处可见一系列隐喻性的浪潮：帝国和宗教的兴衰，以及商业的爆发式增长。想想基督教或伊斯兰教，它们最初都只是微小的涟漪，后来逐渐发展壮大，最终席卷全球。这类浪潮反复出现，构成了历史的潮起潮落、权力斗争以及经济的繁荣与衰退的框架。

技术的兴起和传播也如同席卷世界的浪潮一般。自人类发现火和石器——人类最早掌握的技术——以来，一条贯穿始终的趋势经受住了时间的考验。从镐到犁，从陶器到摄影，从手机到飞机，以及介于两者之间的一切，几乎所有基础技术都遵循着一条看似永恒不变的规律：它们变得越来越便宜、越来越容易使用，最终得以广泛普及。

这种技术如波浪般涌现的现象，正是“技术人”（Homo technologicus）——即技术动物——的故事。人类不断追求进步——提升自我、改善境遇、增强能力以及增强对环境的影响力——这种追求推动了思想和创造力的持续演进。发明创造是一个不断展开、蔓延、涌现的过程，由自组织且极具竞争力的发明家、学者、企业家和领导者驱动，他们各自怀揣着不同的动机奋力前行。这种发明创造的生态系统默认以扩张为导向，这是技术的固有本质。

问题是，接下来会发生什么？在接下来的篇幅中，我将讲述历史上的下一个伟大浪潮的故事。

你看到了什么？家具？建筑物？手机？食物？风景优美的公园？你视线范围内的几乎所有物体，很可能都是由人类智能创造或改造的。语言——我们社交互动、文化、政治组织的基础，或许也是我们作为人类存在的意义——也是我们智能的产物和驱动力。你生命中的每一个原则和抽象概念，每一个微小的创造性努力或项目，每一次邂逅，都离不开我们这个物种独一无二、无穷无尽的想象力、创造力和理性。人类的智慧令人叹为观止。

在这幅图景中，只有另一种力量如此无处不在：那就是生物生命本身。在现代之前，除了少数岩石和矿物之外，大多数人类制品——从木屋到棉布衣物再到煤炉——都源自曾经鲜活的生命。自那时以来，世间万物都源于我们，源于我们作为生物的存在。

生命系统或我们的智慧都依赖于此。然而，如今两者都正经历着前所未有的指数级创新与变革，一场空前壮大的变革即将到来，几乎一切都将发生改变。一股新的技术浪潮正席卷而来。这股浪潮释放出重塑两大宇宙基石的力量：智慧与生命的浪潮。

即将到来的浪潮由两大核心技术定义：人工智能（AI）和合成生物学。它们将共同开启人类的新纪元，创造前所未有的财富和盈余。然而，它们的迅速普及也可能赋予形形色色的不法分子以力量，引发难以想象的破坏、动荡，甚至灾难。这股浪潮带来了巨大的挑战，并将定义二十一世纪：我们的未来既依赖于这些技术，又受到它们的威胁。

从我们目前所处的位置来看，似乎遏制这股浪潮——即控制、遏制甚至阻止它——是不可能的。本书探讨了这背后的原因以及如果真是如此，其意义何在。这些问题的深远影响着我们每一个人以及我们之后的每一代人。

我相信即将到来的科技浪潮正将人类历史推向一个转折点。如果无法遏制它，对我们物种而言，后果将是巨大的，甚至可能是灾难性的。同样，如果没有它的成果，我们将面临风险和危机。过去十年间，我曾多次私下阐述过这个观点，但随着其影响日益显现，现在是时候公开阐述我的看法了。

困境

思考人类智能的深远力量，让我不禁提出了一个简单的问题，而这个问题从此便萦绕在我的心头：如果我们能将人类高效能和卓越能力的本质提炼成软件，提炼成算法，那会怎样？找到答案或许能解锁难以想象的强大工具，帮助我们解决最棘手的问题。这或许就是我们能够应对未来几十年严峻挑战的工具——一个看似不可能却又非凡的工具，从气候变化到人口老龄化，再到可持续粮食，无所不能。

怀着这样的想法，2010 年夏天，在伦敦罗素广场附近一间古色古香的摄政时期风格的办公室里，我与两位朋友 Demis Hassabis 和 Shane Legg 共同创立了 DeepMind 公司。我们的目标，现在回想起来，依然像当时那样雄心勃勃、疯狂而又充满希望：复制我们作为物种的独特之处——我们的智能。

为了实现这一目标，我们需要创建一个系统，它能够模仿并最终超越人类的所有认知能力，从视觉和语言到计划和想象，最终甚至包括同理心和创造力。由于这样的系统将受益于超级计算机的大规模并行处理能力以及来自开放网络的海量新数据源，我们深知，即使朝着这个目标取得微小的进展，也将对社会产生深远的影响。