问世于1965年的《沙丘》在科幻领域的位置,就如同《指环王》在奇幻世界中的地位一样,小说作者赫伯特笔下的概念和设定影响了数代创作者。相较于其他同时期科幻作家对于计算机与未来人类共生主题的热衷,赫伯特在故事的开端就铺垫下了一处与众不同的基础设定——一个没有电脑和机器人的世界。
我们怎么总想跟AI干一架
这是缘起于小说在开头就提到的一个设定:巴特兰圣战。
作为《沙丘》世界历史中的一个重要事件,战争发生在主线故事的一万多年前。那时的人类掌握了星际航行技术,分布扩展到宇宙群星之间;同时制造了大量“会思考的机器”来为自己服务,甚至使用这些机器来组成政府实施统治和管理。几百年之后,开始有人不堪于“思考机器”的高压统治和奴役,愤而起兵反抗,一场人类与“思考机器”之间的大战终于爆发。最终,人类胜,机器败,所有“会思考的机器”尽被消灭。
人类世界树立起“绝不能制造思考的机器”的铁则,至此,电脑、AI、机器人就消失在了《沙丘》的世界当中。
“巴特兰圣战”现在已经成为科幻作品里的一个经典设定。而赫伯特在《沙丘》中做出这样的设定,很大程度上是对阿西莫夫“机器人三定律”的推演。
将“三定律”推演到极致,就出现了一个基本的伦理和哲学问题:如果机器人保护一个人类的代价是坐视另一个人类受到伤害,该如何行动?
面对这个困境,阿西莫夫增加了一个“第零定律(ZerothLaw)”:机器人必须优先保证人类整体的生存与不受伤害,而三大定律都在此之下。那么,如何定义“人类整体”呢?阿西莫夫在《曙光中的机器人》中回答了这个问题:机器人为了执行机器人三大定律,推导出的结论,就是如果想要避免个体人类不受伤害,只能将人类置于自己的高压统治之下,彻底失去自由;但是在第零定律之后,得出的结论成为,如果想要最大程度保证人类整体的生存与不受伤害,那么最好的办法,是让人类生活在一个没有机器人的世界之中。于是机器人统一停止了运转,之后的人类世界,就再也不存在机器人了。
沙丘宇宙,可以看作是一个黑暗版的阿西莫夫宇宙。
一个禁止人工智能的世界可能吗
20世纪,数学家们有了这样一个疑问:既然数学的本质是逻辑推理,那么这个过程是否可以不通过人脑,而是使用纯粹的机械过程来实现?这就是希尔伯特的终极数学之梦:完全使用形式化的、机械的推理过程来实现全部的数学。在他之后,邱奇-图灵论题暗示,一台仅能处理0和1这样简单二元符号的机械设备能够模拟任意数学推理过程,这就是后来我们都很熟悉的“图灵机”。
然而之后哥德尔用不完备性定理打破了这一梦想:他通过构造出一个特殊的形式系统证明,任何形式系统都存在系统之内无法证明也无法证伪的命题,从而摧毁了希尔伯特无矛盾的数学体系之梦。但是“能够思考的机器”,就成为希尔伯特的形式主义的直接遗产。从这个角度,假如真的存在某种无所不能的“时间规划局”想要从一开始就禁止思考机器的出现,他们要禁毁的就是整个现代数学。
也许有朝一日,希尔伯特的梦想终将实现:人工智能的智力水平决定性地超越了人类,成为一个崭新物种。那么,在这样一个世界里,人类还重要吗?这也是“赛博朋克”这一科幻门类的基本主题:对于人类被超越、被扭曲和被消解的恐惧,诸如《终结者》《黑客帝国》这样的大众科幻影视作品也反映了这种情绪。近年来,人工智能领域的飞速发展一同加深了这种不安,譬如,马斯克也会出来呼吁研究“安全的”人工智能。
而《沙丘》设定下这样一个禁止计算机技术的世界,将人类本身的意义凸现了出来。原文里,因为没有“思考机器”作为拐杖,人类开发出了各种各样的“学校”用来拓展自身思维的力量。比方说,门塔特学校把学生训练成一种可代替计算机的专业人才,有着无与伦比的分析与计算能力;宇航工会的领航员通过使用香料来强化他们对超空间的感知能力;贝尼·杰瑟尼特姐妹会也是通过服用香料和严格的精神与身体训练,来获取预知、通过言语操控他人等近乎魔法的能力。
你想生活在没有计算机的世界里吗
如果是这样的话,我们或许就会回到20世纪70年代以前了。那就是一个基本没有计算机的年代。人们还是会看报纸来了解天下大事;多数人会在生产机器的工厂工作;飞机都很昂贵,长途出门需要坐慢速火车,高铁也不存在。
这样发展下去,大概会成为蒸汽朋克或者柴油朋克的世界:精密机械会有更多的发展,车迷的黄金时代会延续得更久;技术领域更加关注于外太空(毕竟当年实现阿波罗11号登月的全部计算机算力还不如你现在的手机);人们有更多的时间出门参加活动,而不是整天待在家里打游戏或者上网……
或许就真如《沙丘》中描绘的一样,人类能够更好地拓展自身思维方式,物理学会有意想不到的进步。没有计算机特效技术,模型、特摄、手绘动画会发展得更加精致,动画迷会尽享漫长的黄金时代。
当然,更大的可能是,没有第三次工业革命(代表就是计算机的出现),人类文明陷入停滞。
导演维伦纽瓦在《沙丘》之前的一部作品,恰好是以赛博朋克、人造人社会为主题的《银翼杀手2049》。某种意义上,它和《沙丘》形成了一个巧妙的互文:一个是人类精神已经被消解的世界,一个是人类精神占据主导性的世界;一个是绚烂的五彩霓虹,一个是单调的漫天黄沙。
而这两个世界,显然都值得人们去尽情探索一番。
(摘自“果壳”微信公众号,宫可可图)
