人工智能与自然愚蠢

作者:尤瓦尔·赫拉利 来源:《读者校园版》

  一个好消息是,至少在未来几十年里,我们不用担心科幻小说里那种人工智能产生意识、杀光或奴役人类的噩梦会变成现实。我们会越来越依赖算法为我们做决定,但算法并不太可能开始有意识地操纵人类。事实上,它们不会有任何意识。

  科幻小说常把智能与意识混为一谈,并认为如果要有与人类相当甚至更高的智能,计算机就必須发展出意识。几乎所有关于人工智能的电影和小说,基本情节都围绕着计算机或机器人产生意识的那个神奇时刻。而一旦它们有了意识,不是人类主角爱上机器人,就是机器人打算杀光所有人类,或者二者兼而有之。

  但实际上,我们并没有理由相信人工智能会获得意识,因为智能和意识是天差地别的两种概念。智能是解决问题的能力,意识则是能够感受痛苦、喜悦、爱和愤怒等情绪的能力。我们之所以会二者不分,是因为对于人类和其他哺乳动物来说,智能与意识会携手同行。哺乳动物处理大多数问题时靠的是“感觉”,但计算机是用完全不同的方式来解决问题的。

  提高智能的路其实有好几条,其中只有一条需要靠意识。就像飞机不用羽毛,但飞行速度比鸟更快;计算机也不用具备哺乳动物所需要的感受,就更擅长解决问题。确实,人工智能必须准确分析人类的感受,才能好好替人类治病、找出人类的恐怖分子、为人类推荐另一半、在满是行人的街道上行车,但是这一切并不需要它自己有任何感觉。算法只需要学会辨别猿类在快乐、愤怒或恐惧下的生化模式,而不需要它自己感受到快乐、愤怒或恐惧。

  当然,人工智能并不是绝对不可能发展出感受。我们目前对意识的了解还不足以下定论,大致而言,需要考虑3种可能:

  1.意识在某种程度上与有机生化相关,因此只要是非有机体的系统,就不可能创造出意识;

  2.意识与有机生化无关,而与智能有关。这样一来,计算机就能够发展出意识,而且如果计算机要跨过某种智能门槛,就必须发展出意识;

  3.意识与有机生化或高智能并无重要关联。这样一来,计算机确实可能发展出意识,但并非绝对。计算机有可能具备极高的智能,但同时仍然完全不具有意识。

  就目前人类掌握的知识来看,这些可能都无法排除。然而,正因为我们对意识所知太少,短时间内似乎并不可能设计出有意识的计算机。因此,虽然人工智能具有巨大的力量,但在可预见的未来,人工智能的运用在一定程度上还是以人类的意识为准。

  真正的危险之处在于,如果我们太注重发展人工智能而又太不注意发展人类的意识,那么计算机有了极先进的人工智能之后,可能只会增强人类的“自然愚蠢”。在未来几十年内,我们不太可能碰到机器人叛乱的问题,但机器人可能会比你的父母更知道怎样可以触动你的情绪,并且会运用这种神奇的能力来对你进行推销,让你想买某辆车、想把选票投给某个人,或是想接受某种意识形态。这些机器人能够找出我们最深层的恐惧、仇恨和渴望,再用它们来对付我们。从最近全球的选举和公投就可以预见未来:黑客通过分析选民数据,运用选民现有的偏见,就能知道怎样操纵单个选民。科幻惊悚片常常上演的是烈火浓烟、轰轰烈烈的末日景象,但实际上,末日景象可能是在一次又一次的点击当中悄悄而且平凡地来临。

  想避免这种后果,每投入一美元、一分钟来提升人工智能,就应该同样投入一美元、一分钟来提升人类意识。但很遗憾,目前对于人类意识的研究和开发并不多。我们对于人类能力的研发,主要都是为了满足目前经济和政治体制下的迫切需求,而不是为了让人类在很久之后仍然是一种保有意识的生物。上司希望我回复电子邮件越快越好,但他对我品尝和欣赏食物的能力毫无兴趣。结果就是我连吃饭的时候都在收电子邮件,也就慢慢失去了重视自己感官感受的能力。整个经济体系逼着我要扩大投资组合,让投资更多元,但完全没让我有动机去扩大同理心,让我的同理心更多元。于是,我投入大量心力想了解证券交易的种种奥秘,但几乎不花什么心思来了解痛苦背后深层成因是什么。

  在此,人类就像其他经过驯化的家畜。例如我们培育的奶牛,性情温顺、乳量惊人,但在其他方面远远不及其野生祖先,没那么灵活,没那么好奇,也没那么懂得变通。我们现在也正在培育一种驯化的人类,产生的数据量惊人,而且能够像海量数据处理装置中的高效芯片一样运转,然而这些“数据牛”绝对称不上发挥了人类的最大潜能。事实上,因为我们还太不了解人类的心智,根本无从得知人类的最大潜能是什么模样。然而,我们几乎没有投入什么心力来探索人类的心智,只一心想着提升网络连接的速度及大数据算法的效率。如果再不注意,最后的局面就会是退化的人类滥用进化的计算机,伤害自己,也伤害世界。

  未来的危险还不止数字独裁一项。自由主义秩序背后的价值观除了自由之外,也很重视平等。自由主义一直强调政治上的平等,也慢慢发现经济上的平等几乎同样重要。如果没有社会安全网的机制与一定的经济平等,自由就毫无意义。然而,正因为大数据算法可能会抹去自由,同时也就可能创造出历史上最不平等的社会,让所有的财富和权力集中在一小群社会精英手中。大多数人类的痛苦将不再是受到剥削,而是面对更糟的局面:再也无足轻重。