参考消息网11月12日报道 据美国《大众机械》月刊网站10月12日报道，“奇点”一词通常用于形容人工智能（AI）超越人类智能，然后开始以无法控制的速度进行自我提升的假设性时刻。简而言之，人们常用“奇点”来指AI开始具有意识的时刻，就像电影《终结者》中的AI超级电脑“天网”产生自我意识那样。但“技术奇点”这一概念起初是一个更为宽泛的隐喻，超过这一临界点，技术变化就会变得极快，导致人类难以预测未来。

转移已经开始

1958年，数学家斯坦尼斯瓦夫·乌拉姆回忆起和物理学家约翰·冯·诺伊曼关于加速的技术进步在人类事务上达到“某些本质奇点”的对话。当时，这一术语指的并非是某种机器意识理论。但到了1993年，数学家兼科幻小说家弗诺·文奇让这个概念对AI圈产生了重要影响。文奇在其《即将到来的技术奇点》一书中写道，创造超越人类的智能可能导致文明发生失控的变化，此后我们预测事件的能力将会失灵。

后来，未来学家雷·库兹韦尔推广了这个术语，尤其是通过其2005年的著作《奇点临近》。在这本书中，他赋予了“奇点”更具体的含义，声称到2045年，人类会与日益强大的非生物智能融合。虽然如今我们许多人担忧AI的危险，一些专家甚至认为“AI奇点”已经到来，但库兹韦尔的想法比这激进得多。他并不只是假定机器将发展出与人脑相同的能力，而是认为AI驱动的机器将与我们的大脑融为一体。在库兹韦尔的技术乐观主义观点中，这是件好事。

在2005年，库兹韦尔的观点似乎还有些牵强。但考虑到近期神经假体、脑机接口技术，当然还有AI的发展，库兹韦尔对奇点的预测在今天似乎合理得多。

库兹韦尔在其2024年更名为《奇点更近》的修订本中强调，人类意识从身体到非生物系统的转移不是一蹴而就的，而且也并非只有一种方式。实际上，通过对我们的外貌以及思考、说话方式进行数字模拟，这种转移已经开始了。一贯乐观的库兹韦尔看到了我们当代深度伪造问题的积极一面。

非生物模拟体

如他所述：“我们已经在通过数字活动创造大量与我们的思考和感受相关的记录，而记录、存储和整理这些信息的技术将在这十年间快速发展。随着21世纪20年代末临近，我们将把这些数据激活为非生物模拟体，它们是对有着具体性格的人类的高度逼真再造。”

将人类（器官）转移到数字复制品的过程也在通过各种设备进行，包括让听障人士听见声音的人工耳蜗、让瘫痪者操控计算机的系统，以及“神经连接”（Neuralink，一种脑机接口设备）等较新植入物。库兹韦尔设想，这些技术和其他人造器官会越来越强大，很快将大幅提高我们的自然力量水平和寿命水平。在某个特定节点，这些不同的假体和模拟体将更为精密，合并为我们极为逼真的机器人化身，以至于无法和原本的人类区分。

库兹韦尔从菲利普·迪克1968年出版的科幻经典《仿生人会梦见电子羊吗？》（后来成为电影《银翼杀手》的叙事原型）中借用了一个概念，来形容我们向控制论（cybernetics）奇点进化过程中的这一步。他写道：“最终，复制人甚至可能被安置在由原版人类的脱氧核糖核酸（DNA）培育而成、又经控制论增强的生物躯体中。”

而这里，“谁是谁”“什么是什么”的问题就变得有点复杂了。因为如果你的模拟体实际上由你的DNA构成，拥有你所有的记忆和人格特质，谁又能说它真的不是你本人？库兹韦尔将这种对整个人的复制称为“You 2”。

“复制人是通过AI和数据挖掘创造出来的，还是来自某人活体大脑中完整上传到‘You 2’的思维，这会有多重要？”他这样问道。不过答案已经暗示得十分清楚了：逼真的深度伪造是一回事，但拥有原版人类所有特质的活生生的复制人又是另一回事。

自我复制机器

最重要的是，所有这些进步将在纳米机器人领导的革命中达到顶峰。目前纳米机器人主要用于药物输送，但库兹韦尔认为，这种机器人将成为我们最终向非生物人类进行控制论进化的关键。重点在于，纳米机器人将使我们的大脑比现在强大数百万倍。库兹韦尔写道：“在21世纪40和50年代，我们将重塑身体和大脑，使之远远超越我们的生物学能力，包括实现它们的备份和存活。随着纳米技术腾飞，我们将有能力随意制造经过优化的身体：能够跑得更快更久，像鱼一样在海底游泳和呼吸，甚至如果想要，还能给自己装上可以飞翔的翅膀。我们的思考速度会加快数百万倍，但最关键的是，我们将不再依赖身体的存活而存在。”

当然，这一切也有一些潜在的不利因素。在库兹韦尔的设想中，最大的危险是纳米机器人可能失控，并开始复制。它们复制的速度实际上可能极快，以至于消化掉地球字面意义上所有的有机物，把一切都变成成堆的黏液。

但让我们姑且相信库兹韦尔，假定这不会发生，而且他所说的控制论奇点真的到来了。然后呢？也许最紧迫的问题是，我们无法从复制人或非生物延伸部分中分辨出真正的自己。换言之，当我们从21世纪30年代开始使用脑机接口，将非生物附加部分引入自己的决策中时，“人类”一词终将意味着什么？这些非生物成分只会以指数级增长，而我们的生物智能却将保持不变。

因此到21世纪30年代末时，我们自己的思考将主要由非生物部分完成。届时，当思考本身很大程度上通过非生物系统进行时，人类决策将何去何从？

还会有什么办法来对人类和非生物进行区分吗？（编译/张斯昊）