《沙丘》里的電腦和機器人都去哪了?
《沙丘》(Dune)在科幻領域的位置,就如同《指環王》在奇幻世界中的地位一樣,是基石與標桿,也是打通小圈子愛好者和普通受眾之間的橋梁——隨便問一個人,就算沒看過,也總隱約聽說過他們的名號。
小說原著作者赫伯特(Franklin Herbert)筆下的概念和設定影響了數代創作者:沙漠行星阿拉基斯(Arrakis,也被稱為Dune),成為了《星球大戰》中的塔圖因(Tatooine)靈感來源;由Westwood推出的游戲《沙丘2》奠定了“即時戰略游戲”的基礎;而沙蟲、香料(或者被稱為“美瑯脂Melange”)、宇航工會、撲翼機等,更是以各種衍生形態頻繁地出現在后來的各種科幻作品當中。
《沙丘》問世于1965年。相較于其他同時期科幻作家對于計算機與未來人類共生主題的熱衷,赫伯特在故事的開端就鋪墊下了一處與眾不同的基礎設定——一個沒有電腦和機器人的世界。
我們怎么總想跟AI干一架?
這是緣起于小說在開頭就提到的一個設定:巴特蘭圣戰(Butlerian Jihad)。
作為《沙丘》世界歷史中的一個重要事件,戰爭發生在主線故事的一萬多年前。那時的人類掌握了星際航行技術,分布擴展到宇宙群星之間;同時制造了大量“會思考的機器(Thinking Machines)”來為自己服務,甚至使用這些“思考的機器”來組成政府實施統治和管理。幾百年之后,開始有人不堪于“思考機器”的高壓統治和奴役,憤而起兵反抗,一場人類與“思考機器”之間的大戰終于爆發。最終,人類勝,機器敗,所有“會思考的機器”盡被消滅。
人類世界樹立起“絕不能制造思考的機器”的鐵則,至此之后,電腦、AI、機器人就消失在了《沙丘》的世界當中。
“巴特蘭圣戰”現在已經成為了科幻作品里的一個經典設定。例如經典戰棋游戲系列“戰錘40K”(Warhammer 40,000),就基本完整地繼承了“巴特蘭圣戰”的概念:在過去的黃金年代,人類制造出了鐵人為自己服務,而鐵人反叛,人類最終消滅了所有鐵人,黃金年代結束,之后人類禁止制造任何思考機器。
赫伯特在《沙丘》中做出這樣的設定,很大程度上是對阿西莫夫“機器人-銀河帝國-基地”系列作品的一個回應——對于阿西莫夫“機器人三定律”的推演。
將“三定律”推演到極致,就出現了一個基本的倫理和哲學問題:如果機器人保護一個人類的代價是坐視另一個人類受到傷害,該如何行動?一個智能機器版本的“電車難題”:絕對道德主義與功利主義之爭。
面對這個困境,阿西莫夫在劇情里增加了一個“第零定律(Zeroth Law)”:機器人必須優先保證人類整體的生存與不受傷害,而三大定律都在此之下。那么,如何定義“人類整體”呢?阿西莫夫自己寫了《永恒的終結》(The End of Eternity)與機器人系列的最后一部《曙光中的機器人》(The Robots of Dawn)來回答這個問題:機器人為了執行機器人三大定律,推導出的結論,就是如果想要避免個體人類不受傷害,只能將人類置于自己的高壓統治之下,徹底失去自由;但是在第零定律之后,得出的結論成為,如果想要最大程度的保證人類整體的生存與不受傷害,那么最好的辦法,是讓人類生活在一個沒有機器人的世界之中。
于是機器人統一停止了運轉,之后的人類世界,就再也不存在機器人了。
在讀過阿西莫夫這個系列之后,再回頭來看《沙丘》,就可以很明顯的發現其中的對應關系:沙丘宇宙,就可以看做是一個黑暗版的阿西莫夫宇宙。
一個禁止人工智能的世界可能么?
這里的秘密,藏在希爾伯特(David Hilbert)的終極數學之夢里。
自古以來,數學都被認為是一個邏輯推理的學科。到了20世紀,數學家們就有了這樣一個疑問:既然數學的本質是邏輯推理,那么這個過程是否可以不通過人腦,而是使用純粹的機械過程來實現?這就是希爾伯特的終極數學之夢:形式主義,創造出一個無矛盾的數學體系,能夠完全的使用形式化的、機械的推理過程來實現全部的數學。
在他之后,就是圖靈(Alan Turing)和邱奇(Alonzo Church)的工作,為計算機的出現奠定了基礎。圖靈和邱奇分別獨立證明了可以使用一個純粹機械的形式系統,來模擬人類進行數學推導的過程,這就是后來我們都很熟悉的“圖靈機”(Turing Machine)。然而之后哥德爾用不完備性定理(G?del\"s incompleteness theorems)打破了這一夢想:他通過構造出一個特殊的形式系統證明了,任何形式系統都存在系統之內無法證明也無法證偽的命題,從而摧毀了希爾伯特無矛盾的數學體系之夢。但是“能夠思考的機器”,就成為了希爾伯特的形式主義的直接遺產。從這個角度,假如真的存在某種無所不能的時間規劃局(就如《永恒的終結》里一樣)想要從一開始就“禁止思考機器的出現“,他們要禁毀的就是整個現代數學。
也許有朝一日,希爾伯特的夢想終將實現:人工智能的智力水平決定性地超越了人類,成為了一個嶄新物種。那么,在這樣一個世界里,人類還重要嗎?這也是“賽博朋克”這一科幻門類的基本主題:對于人類被超越、被扭曲和被消解的恐懼。諸如《終結者》《黑客帝國》這樣的大眾科幻影視作品也反映了這種情緒,以至于“機器人毀滅人類”已經成為一個固定主題,終結中手持激光槍和金屬骷髏也成為了大眾潛意識中的恐怖化身。近年來人工智能領域的飛速發展一同加深了這種不安,譬如馬斯克(Elon Musk)也會出來湊熱鬧地呼吁研究“安全的”人工智能。
《沙丘》設定下這樣一個禁止計算機技術的世界,結果就是人類本身的意義被凸現出來。原文里,因為沒有“思考機器”作為拐杖,人類開發出了各種各樣的“學?!庇脕硗卣棺陨硭季S的力量。比方說門塔特(Mentat)學校:他們把學生訓練成“門塔特”——一種用來代替計算機的專業人才,有著無與倫比的分析與計算能力;還有宇航工會的領航員,也是通過使用香料來強化他們對超空間的感知能力,才能夠讓星際飛船在亞空間中航行(所以小說中的香料才如此關鍵,它支撐了整個星際的航運事業);還有其中的貝尼·杰瑟尼特姐妹會(Bene Gesserit),也是通過服用香料和嚴格的精神與身體訓練,來獲取強大的、近乎于魔法的能力——諸如預知、通過言語操控他人等。
《沙丘》的古典科幻意味就在這里:沒有計算機或者時髦的新技術,而是在自己的框架下生長出一套完整的、異質性的、能夠自洽的世界。
你想生活在沒有計算機的世界里么?
如果是這樣的話,我們或許就會回到1970年代以前了。
那就是一個基本沒有計算機的年代。人們還是會看報紙來了解天下大事;多數人會在生產機器的工廠工作;飛機都很昂貴,長途出門需要坐慢速火車,高鐵也不存在。
這樣發展下去,大概會成為蒸汽朋克或者柴油朋克的世界:精密機械會有更多的發展,車迷的黃金時代會延續得更久(80年代的JDM,Japan Domestic Market,被認為是消費汽車行業純機械化汽車的巔峰時期);技術領域更加關注于外太空(畢竟當年實現阿波羅11號登月的全部計算機算力還不如你現在的手機);人們有更多的時間出門參加活動,而不是整天呆在家里打游戲或者上網……
或許就真如《沙丘》中描繪的一樣,人類能夠更好地拓展自身思維方式,物理學會有意想不到的進步。沒有計算機特效技術,模型、特攝、手繪賽璐珞動畫會發展得更加精致,動畫迷會盡享漫長的黃金時代。
當然,更大的可能是,沒有第三次工業革命(代表就是計算機的出現),人類文明陷入停滯。
導演維倫紐瓦在《沙丘》之前的一部作品,恰好是以賽博朋克、人造人社會為主題的《銀翼殺手2049》。某種意義上,它和《沙丘》形成了一個巧妙的互文:一個是人類精神已經被消解的世界,一個是人類精神占據主導性的世界;一個是絢爛的五彩霓虹,一個是單調的漫天黃沙。
而這兩個世界顯然都值得人們去盡情探索一番。
參考文獻
[1]https://nerdist.com/article/everything-star-wars-borrowed-from-dune/
[2]https://arstechnica.com/gaming/2017/09/build-gather-brawl-repeat-the-history-of-real-time-strategy-games/
本文來自微信公眾號 “果殼”(ID:Guokr42),作者:作者:鄧思淵,編輯:臥蟲,36氪經授權發布。