四大危机警示:AI、核武、生物与纳米技术谁更致命?

关注
人类永生不是梦?谈寿命逃逸速度与纳米技术。

编者按:本文来自微信公众号 纪源资本(ID:JiyuanCap),作者:投资笔记,创业邦经授权转载。

投资笔记是纪源资本关于投资、商业、科技的所见所闻所想,探讨关于世界的一切。

在这里,你可以收获:

全球优秀科技公司管理经验、一线调研;

顶级风险投资人&创业者经验分享;

大航海时代的世界人文历史、商业见闻……

时隔几乎20年,雷·库兹韦尔又推出了他的作品《奇点更近》(The Singularity Is Nearer: When We Merge With AI),由中国财政经济出版社·湛庐出版。

2005年,库兹韦尔所著作的《奇点临近》(The Singularity Is Near:When Humans Transcend Biology)首次系统性地提出了技术奇点的概念:随着科技的指数级发展,计算机智能将在2045年左右超越人类智能,人类与机器将融合,进入后人类时代。这本书的前瞻性之强,直接带动了人们对于AGI(Artificial General Intelligence,人工通用智能)的无限畅想。

1.jpg

许多科技界和未来学界人士将其视为技术乐观主义的经典之作。比尔·盖茨曾评价库兹韦尔是“我认识的最优秀的预言家之一”。而库兹韦尔从2012年开始的谷歌之旅也正是源于谷歌联合创始人拉里·佩奇(Larry Page)对书中观点的青睐,因此才邀请他担任谷歌的首席工程师。

在前一本书之中,库兹韦尔对AI发展速度的预测被认为部分实现了,例如书中提到的语言翻译、自动驾驶、语音助手等技术。如今,人类进入了比以往更加笃信人工智能的时代,没人会怀疑AGI所带来的巨大能量,任何与人工智能有关的书籍,都像是在一个已经足够确定的大方向之上叠一层BUFF。

此次的新书,人们关注的是,库兹韦尔是否能够提出让我们更精确预测未来的证据,以及有哪些关于未来的观点,我们需要被他说服。

到底是2045年,还是2029年?

在《奇点临近》中,库兹韦尔提出了他最重要的推测:奇点大约会在2045年到来。

奇点(Singularity)是什么?它通常指的是人工智能发展到超越人类智能的临界点。在它之后,AI将具备自我改进和自我进化的能力,进而以远超人类的速度不断提升自身智能,导致科技进步呈现指数级爆炸式增长,甚至可能彻底改变人类社会。它所带来的直接影响是,AI超越人类智能,科技发展失控而导致人类无法预测或控制科技的发展方向,以及人类与机器融合(人机奇点)即实现脑机接口或数字永生。

库兹韦尔当时的另一个预测是,2029年非生物的智能将通过图灵测试。“图灵测试”是阿兰·图灵在1950年提出的一个想法,用来判断计算机是否拥有了智能。人类评估者通过文本信息的方式跟受试者进行交流,并判断受试者究竟是人类还是机器。如果机器能骗过30%的人类评估者,那就可以认为它具有了智能。实际上,库兹韦尔对此的预言早于出版《奇点临近》之时,他在1999年出版的《灵魂机器的时代》(The Age of Spiritual Machines, 1999)就已经预测过2029年机器通过图灵测试。

1-1.jpg

在库兹韦尔看来,奇点是指人类与机器智能融合、技术发展呈指数级爆发的时刻;AGI(通用人工智能)是实现奇点的重要前提,它能像人类一样灵活思考和学习;而图灵测试则是衡量AGI是否具备人类智能水平的标志之一。

2005年,人类社会对人工智能还有些陌生,《奇点临近》曾被批评为过于乐观和科幻,虽然库兹韦尔引经据典,将探讨了纳米技术、基因工程、人工智能、生物科技放在一起探讨,说服力却仍显得不够。

但如今,人工智能无人不晓,ChatGPT与DeepSeek已经进入了我们的生活,成为了人们的得力助手。另一种声音出现了:库兹韦尔的预言太保守了,2045年之前,奇点即会到来。

新书《奇点更近》中,库兹韦尔重申了他的预测:2045年奇点到来。而对于他自己做出的,2029年机器通过图灵测试的预测,他在新书中将日程稍稍提前了:他认为,在2023年至2029年,第一个严格的图灵测试终将被通过。

写作此书的2023年,ChatGPT首次成为了大众话题。它于2022年11月被发布,2023年引爆全球。新书中,库兹韦尔首先紧跟时事地介绍了他对ChatGPT,DALL-E和Imagen的肯定。

此外,库兹韦尔提出了AI尚需跨越的三大里程碑:

第一,情境记忆,即在一段对话或一篇文章中,机器需要理解并跟踪不同想法之间复杂且不断变化的关系,而不是粗暴记忆;

第二,常识理解能力和洞察力,在自己拥有一只狗,回家发现花瓶碎了的时候,能够迅速判断可能会发生了什么;

第三,社交互动,能够意识到其他人拥有不同于自己的信念和知识,能够设身处地为他人着想,并推断他们的动机。

1-2.jpg

为了将自己的预测更具体一步阐述,库兹韦尔聊到了人类大脑新皮质的革新所带来的人脑革新与脑机连接的促进。科学家估算,人类大脑内大约拥有210亿到260亿个神经元,其中有90%位于新皮质。库兹韦尔认为,21世纪30年代,人类大脑新皮质的上部将被连接到云,人类的思维将会被直接扩充,AI不再是人类的竞争对手,而是人类个体的延伸。随着这种指数级趋势的发展,到2045年,人类的思维能力将扩展数百万倍。由此可见,奇点的出现,伴随的不仅是机器更加的聪慧,也是人类学习能力的新一次进化。

而新书《奇点更近》直面了作为人类个体的我们即将要经历的新阶段:判断自我。库兹韦尔认为,21世纪40年代初纳米机器人将能够进入活人大脑,并复制构成个人记忆和性格的所有数据。

他用来源于古希腊神话的悖论“忒修斯之船”来形容脑机结合后的人类:当一艘木船的第一块木板被替换后,人们认为木船没有改变。但是当它的木板被一一替换掉,似乎就变成一艘新船。如果我们的大脑在几个月的时间里被更新一遍,是否意味着“你”在生物学上成为了全新的“2号你”?

在书中,他直面了“你”与“2号你”所同在时候的状况与其带来的哲思。人们用尖端技术扫描了“你”大脑的一部分,制作了关于这一部分的精确电子副本,又复制了大脑的另一小块,最终得到了“2号你”。“2号你”有意识吗?毕竟,“2号你”与你有着一样的经历,共享着相同的记忆。

而这件事的冲击可能比想象中来得更快。人类在治疗某些大脑疾病时已经开始使用比替代部分能力更强的神经假体了,例如人工耳蜗,能够刺激大脑活动,而21世纪初以来,科学家一直在开发大脑假体,并且正在帮助大脑结构受损或有功能障碍的患者。库兹韦尔认为脑机结合在接下来的10年不仅会有突破,并且会变得更为低廉和普及化。

两本书的区别与进阶

库兹韦尔不是一个预言家,他并不缺少实干经验。

早在20世纪90年代,他创立了“加速回报定律”(Kurzweil's Law of Accelerating Returns),认为技术进步将呈指数级加速,推动计算和信息技术成本不断下降,迭代速度也随之提升。他的观点得到了NASA和谷歌的支持,他们共同创立了奇点大学,并任命库兹韦尔为奇点大学校长,这所大学培养着致力于神经科学、人工智能、纳米技术、基因工程、空间探索、虚拟现实等领域的顶尖天才。

同样在20世纪90年代,库兹韦尔还先后创办了医学公司与对冲基金,相信未来机器学习将比人类更善于投资,这与DeepSeek创始人的思路异曲同工。2012年,库兹韦尔受邀入职谷歌,担任谷歌工程总监,负责机器学习与语言处理的项目研发。2015年2月8日,他发明的K250合成器(第一款使用数字采样技术再现原声乐器)获得了格莱美技术奖。库兹韦尔不仅提出了“寿命逃逸速度”,他还加入了阿尔科生命延续基金会(Alcor Life Extension Foundation),在去世之后将自己的身体冷冻保存,希望未来的医疗技术让自己复活。

库兹韦尔在《奇点临近》中直接指明了一些即将重构的新的机会。无论是AI自动化与智能决策,基因与健康产业爆发,还是数字化和虚拟经济,技术的演进都成为了一道桥梁,总有人会去建设这些桥梁,或者经由这些桥梁走向更尖端的行业。而这些人很可能获得商业利益。

2-1.jpg

而到了《奇点更近》,很多概念都被前面一本书提及过了,我们能明显地感觉到,作者库兹韦尔希望强化一些观点,也同时避免谈及一些话题,或者说避免描述一些具体的画面。

《奇点临近》提到,人类的寿命有望延长到150岁,生物技术和纳米技术革命的完全实现,将使我们能够消除几乎所有死亡的医学原因。另一方面,当人类的思想和信息可以借助人工智能和纳米科技等进行传承,信息的寿命无穷尽,人类客户实现某种意义上的不朽。

紧接着《奇点临近》,库兹韦尔在新书《奇点更近》中更加具体地描述了人类的“寿命延长进行时”,即“寿命逃逸速度”理论。21世纪20年代,人类开启了生物技术与AI的融合,我们将能够在几天而非几年的时间内发现非常强大的新疗法;21世纪30年代,纳米技术会克服生物器官的局限性,人类寿命将大幅延到超过120岁。

在库兹韦尔看来,如果说从90岁到110岁,一个人在接下来一年内死亡的概率每年增加约2%,例如,一名97岁的美国男性在98岁之前死亡的概率约为30%,在99岁之前死亡的概率将为32%,那么,人类从110岁开始死亡风险每年上升约3.5%,是衰老造成了身体损伤,而唯一的解决方案是治愈衰老本身。可忽略衰老的工程策略(Strategies for Engineered Negligible Senescence,SENS)研究基金会已经在进行这项研究,在单个细胞和局部组织层面修复衰老造成的损伤,人们不需要等到这些技术完全成熟才能从中受益。

对于那些让人们对于长寿充满希望的话题,库兹韦尔细细地进行解读,他甚至把一个小章节命名为“更轻松,更安全,更丰富,更美好”。而涉及到未来高速发展的人工智能带来的进一步的伦理问题,他则有所回避。早在《奇点临近》时,有批评家认为库兹韦尔在本书中仍然过于乐观,忽视了AI可能带来的社会风险,例如就业冲击、伦理困境和监管难题,反而是对AI带来的失控风险一笔带过。

《奇点更近》似乎更愿意让读者自己去思考。如果人工智能发展出与人类不同的价值观和目标,我们如何确保共存?最终是否会与人类利益冲突?人工智能时代的到来会加剧还是缓解现有的社会不平等?谁将掌控AGI的力量,又如何防止滥用?人类工作的意义和价值将如何重新定义?人工智能本身是否应该拥有权利和法律地位?

库兹韦尔曾在前一本书中提到“六大纪元”论:第一纪元:物理与化学;第二纪元:生物与DNA(脱氧核糖核酸);第三纪元:大脑;第四纪元:技术;第五纪元:人类智能与人类技术;第六纪元:宇宙觉醒。奇点将从第五纪元开始,进入第六纪元,人类需要为最优级别的计算重新组织物质和能量,继而将这种最优的计算由地球推广至宇宙。

2-2.jpg

那么如此看来,奇点越来越近,人类的控制力也将成为迫在眉睫的问题。当这些争议性问题突然出现,谁应当解决?这些更像是库兹韦尔的留白。

我们为什么推荐库兹韦尔的新书

截至2025年3月,《奇点临近》在豆瓣读书得到2191条点评,《奇点更近》仅280条点评。《奇点临近》带有极强的革命性,与其说它生而逢时,不如说科技爱好者早就在等待着这一本书与这一套观点的降临。它所提到的观点,是需要当时乃至于后面10年的读者们尝试着跳一跳才能理解的。

那么,我们为什么此次推荐《奇点更近》?毫无疑问,作为一本新书,它无法激起如《奇点临近》那样的水花。

上一部著作中,库兹韦尔似乎在点破一些东西,他似乎托举着我们触到了通向未来的神秘开关。而到了《奇点临近》,人类早已隔着纱幔看到了神秘的开关,而掀开纱幔的人是谁似乎并不重要,重要的是,我们明白未来早晚会来。

3-1.jpg《奇点临近》完成于2005年,时隔6年,中文版在2011年出版。信息差使得当年科技圈的一些人率先涉足了人工智能的概念。《奇点更近》的英文版推出同年即迎来了中文版本。从DeepSeek带给全球人工智能行业的冲击来看,世界更平了,中国人对于尖端科技的憧憬也更加明确了。

在《奇点更近》中,他将珍贵的一整个后记部分直接命题为“我们将会面临的四个巨大危机”。他提到的危险包括:

危险1是核武器。尽管相互确保毁灭(Mutually Assured Destruction,MAD)策略降低了核武器风险,但仍危机四伏,他认为应该利用AI所带来的智能指挥与控制系统显著降低因传感器故障而引发的武器风险。

危险2是生物技术。他同样认为AI应当帮助人类避免比COVID-19更致命的东西。

危险3是纳米技术。库兹韦尔提出,纳米武器可能包括在不被发现的情况下向目标投放毒药微型无人机,纳米机器人也可能进入人体并直接摧毁人。生物量大约有10的40次方个碳原子,单个正在复制的纳米机器人体内的碳原子数量可能在10的7次方,那么理论上110代纳米机器人(因为2的110次方约等于10的33次方)将具备摧毁人类的能力。

而危机4便是AI。人类应当致力于构建负责任的AI,我们能够看到,库兹韦尔希望人类感觉到希望,也希望人类感觉到危险。

奇点将至,人类对未来的掌控力却并未同步增强。当技术的步伐快到难以预测时,我们如何确保它不会反噬自身?这或许正是库兹韦尔在《奇点更近》中,既寄望于技术,也隐含着对人类自我掌控能力的提醒。

本文为专栏作者授权创业邦发表,版权归原作者所有。文章系作者个人观点,不代表创业邦立场,转载请联系原作者。如有任何疑问,请联系editor@cyzone.cn。

反馈
联系我们
推荐订阅