神譯局是36氪旗下編譯團隊，關注科技、商業、職場、生活等領域，重點介紹國外的新技術、新觀點、新風向。

編者按：本文通過機器人進校園的故事引出了對機器人智能的思考。你所在的學校或辦公室開始使用機器人了嗎？你想如何跟它相處呢？你認為機器人能自己進化出智能嗎？機器人已經逐漸參與了我們生活的方方面面，希望這篇文章可以啟發你對機器人的思考。本文來自編譯。

誰也說不準機器人到底是什么時候出現在我們身邊的。在沒有任何官方的聲明、解釋或提醒的情況下，它們在學校課間休息時突然出現。這些機器人一共有幾十個：外觀都是清一色的六個輪子，上面嵌有冰柜大小的箱子，箱子頂上插了醒目的小黃旗，便于人們看到。這些機器人使用攝像頭、雷達和超聲波傳感器在校園周圍的人行道上給自己導航。機器人進校園是為學生們服務的，通過一款應用為學校的食品服務部送外賣，但不僅限于食品服務部的工作人員，幾乎我認識的每個校園里的工作人員都在與機器人初遇時發生了一些軼事。

1.初遇機器人

至少，在一開始，人們或者是本著一種消遣心理來分享這些故事的。一些人抱怨說，這些機器人免費使用了自行車道，卻無視社會規范：它們拒絕給行人讓路，在車道上緩慢行駛，阻礙了交通。我有個朋友，是位兼職教練。在某天早上，眼看上課就要遲到了，一個機器人擋在他的前面。他推著自行車跟在后面，打算把它推撞出馬路，可機器人只是繼續沿著自己的路線緩慢向前移動著，對此沒有任何反應。還有一個朋友發現了一個被困在自行車架子里的機器人。因為機器人太重，她不得不求助一個路人才把機器人卸下來。“幸好那只是個自行車架”，她說，“等著瞧吧，它們馬上就要開始撞向自行車和行駛的汽車了。”

還有一個普遍存在的問題就是學生們會過度占用機器人的時間。在宿舍外，學生們總是想要與機器人自拍或聊天，這就耽誤了機器人送貨的時間。機器人具有最低等的語言能力，它們能夠發出問候和指令，當它們慢慢從你身邊走過去的時候，會說“謝謝你，祝你今天愉快!”。雖然只是簡單的一句話，但這足以讓它們作為一類社會群體而受到許多人的喜愛。這些機器人在回到自己的工作崗位時，常常會發現身上貼有這樣的便條：“你好，機器人！我們愛你！”。機器人為威斯康星大學麥迪遜分校的社交媒體網頁貢獻了大量的表情包。一名學生給機器人戴上帽子和圍巾，還拍了張照片，然后在一個約會應用程序上為它創建了簡介。名字：100111（Onezerozerooneoneone），年齡：18歲，職業：交付委員會委員，性取向：無性機器人。

就在機器人在校園里隨處可見的時候，自動智能機器也在全國各地涌現。雜貨店用智能機在過道里巡邏，尋找溢出物和碎片。沃爾瑪在其超級購物中心引進了這種設備，用以跟蹤缺貨商品。《紐約時報》的一篇報道稱，許多機器人的人類同事給他們起了昵稱，還掛了姓名牌。其中一個機器人是在生日派對上獲得昵稱的，它在那次派對中收到許多禮物，其中包括一罐WD-40潤滑劑。這篇文章以諷刺的口吻介紹了這些軼事，大部分都是無害的擬人主義的實例，但這種出于人類本能的做法已經起到了推動公共政策的作用。

在2017年，歐洲議會提議，機器人應該被視為“電子人”，因為某些形式的人工智能已經變得足夠復雜，可以做負責任的代理人。盡管這種言論有再現古老的萬物有靈論之嫌，即認為各種無生命的物體，諸如樹、石頭、煙斗和水壺等，都可被認為是非人類的“人”，這一提議也還是具有一定法律上的意義，是在責任法的背景下進行的法律區分。

這件事讓我想起了理查德·布勞蒂根（Richard Brautigan）在1967年譜寫的一首詩的開頭部分：“

我喜歡去想象

（越快越好!）

那是控制論的伊甸園

哺乳動物和電腦

相依共同生活

編程使他們融洽

像清澈的溪水

倒映著晴朗的天空。

——《慈愛的機器守護著一切》（《All watching by Machines of Loving Grace》）”

布勞蒂根（Brautigan）是在“愛之夏”搖滾音樂會舉辦期間從舊金山反主流文化中心出發時寫下了這些詩句。那時他是加州理工學院的常駐詩人。這首詩接下來的幾節詳細闡述了一幅令人著迷的畫面：“控制型森林”和花朵狀的電腦，在這個世界里，數字技術讓我們與“我們的哺乳動物兄弟姐妹”重聚，這里的人類、機器人和野獸實現了真正的平等。這一作品喚起了西海岸烏托邦主義的一種特殊流派，讓人想起“回歸大地”運動（back-to-the-land movement）和斯圖爾特?布蘭德（Stewart Brand）的《全球目錄》（Whole Earth Catalog），后者設想了將美國工業聯合體的工具重新改變用途，以此帶來一個更公平、生態上可持續的世界。在它的想象中，科技將把我們帶回一個更原始的時代，即歷史上的前現代時期，也可能是基督教誕生前的時期，那時人類與自然和諧相處，無生命的物體被生命施了魔法。

2.讓一切智能起來

被科技摧毀的魔法世界只有通過科技本身來恢復。也許正是這些促使我們被逐出伊甸園的力量，終有一天會用數字生活讓我們的花園重新煥發生機。

在有關技術的討論中，仍能找到對這一夢想的回聲。麻省理工學院（MIT）的戴維?羅斯（David Rose）等人重申了這一觀點。他推測，物聯網很快就會讓日常用品“具有魔法”，即給門把手、恒溫器、冰箱和汽車注入響應能力和智能。這一觀點可以在簡·貝內特（Jane Bennett）等后人類理論家的著作中找到證據，她想象數字技術將重新配置我們對“死物質”的現代理解，并復興了一種更古老的世界觀，“在這種世界觀中，物質具有活力、彈性、不可預測性或頑固性，它本身就是讓我們驚奇的源泉。”

布羅蒂根的詩每一節都是以“我喜歡想象”為開頭，這一疊句讀起來更像是神秘的祈求，而不是成詩的技巧。這種對未來的設想可能只是另一種形式的個人愿望表達，但如果只是因為要凸顯它的歷史對稱性，那就可以說是一個引人注目的想法。

在機器人時代到來之前，布羅蒂根的詩已經在我腦海里縈繞了一段時間。就在機器人已經來到身邊那年的早些時候，我被邀請參加一個名為“書寫非人類”的小組座談，這是一個關于人類本位紀期間人類、自然和技術之間關系的討論。

我的演講內容是關于人工智能中的緊急智能，即更高級別的能力可以自發地出現在沒有被設置過的機器中。我主要關注羅德尼·布魯克斯（Rodney Brooks）的工作，他在20世紀90年代末領導了麻省理工學院人工智能實驗室（MIT Artificial Intelligence Lab），并完善了他施予機器人“具體智能”的方法。在布魯克斯出現之前，大多數的人工智能形式被設計成巨大的脫離身體的大腦，因為科學家認為身體在人類認知中沒有作用。結果，這些機器在微積分、國際象棋的等這些最抽象的智力形式方面表現出色，但在孩子們認為容易的如說話、視覺、區分杯子和鉛筆等活動中屢屢失敗。當機器被賦予了身體，并學會與環境互動時，它們速度緩慢且步伐笨拙，因為它們必須不斷地將每次遇到的情況反饋給它們對外部世界建立的內部模型。

布魯克斯有個發現，他認為正是這個中央處理，也被認為是計算機的“大腦”阻礙了它自身發展。在他看到一個機器人正笨拙地在房間里行走時，豁然意識到，盡管一只蟑螂不需要什么計算能力，卻極可能以更快的速度和更高的靈敏性完成同樣的任務。于是布魯克斯著手以昆蟲為模型制造機器。他采用了一種被他稱之為包容體系架構的全新的計算系統，這種體系是智能分布式的，與他在蜂巢和森林中發現的那種很像。為了替代中央處理，他給機器配備了幾個不同的模塊，每個模塊都有自己的傳感器、攝像頭和驅動器，僅與其他模塊進行最低限度的信息交流。布魯克斯及其團隊并沒有預先設定一個連貫的總體宏圖，而是首先通過直接與環境互動讓機器在飛行中學習。其中一個取名叫赫伯特（Herbert），學會了在實驗室里到處閑逛，從別人的辦公室里偷空的汽水罐。另一個名叫成吉思汗（Genghis），在沒有任何記憶或內部地圖的情況下，在崎嶇的地形中順利完成了導航。布魯克斯認為這些成功意味著智力不需要一個統一的、可認知的主體。他相信，這些簡單的機器人的能力會在彼此的基礎上發展，直到它們進化到與人類智能非常相似的程度。

布魯克斯及其在麻省理工學院的團隊本來就想去嘗試重新創造人類進化的條件。他們認為，如果人類的智能的確是源自我們祖先比較原始的機制，那么機器人也應該從一系列簡單的規則中不斷進化，從而獲得復雜的行為。在人工智能領域，工程師通常使用自上而下的方法來編程，他們把自己比作神，在按照自己的形象創造一切生物。但是進化依賴于自下而上的策略，即由單細胞生物進化成復雜的多細胞生物，這才是布魯克斯認為的更有效的策略。抽象思維是在人類進化的后期發展起來的，并沒有我們想象的那么重要。早在我們能解開微分方程之前，我們的祖先就已經學會了走路、吃飯和在環境中隨意運動。就在布魯克斯意識到他設想的昆蟲機器人可以在沒有中央處理器的情況下完成這些任務時，他隨即把目標轉移到了創造一個類人機器人上。這臺機器人只是一個沒有腿的軀干，但它的確很像一個人的上半身，有頭、脖子、肩膀和手臂。他給它取名為Cog（義為“齒輪”）。他給Cog配備了20多個驅動關節，又加上麥克風和傳感器，使它能夠區分開聲音、顏色和運動。Cog每只眼睛都裝有兩個攝像頭，它能夠模仿人類視覺工作的方式，從一個地方快速掃視到另一個地方。與昆蟲機器人一樣，Cog沒有中央控制，而是以由一系列基本驅動程序編程來替代的。布魯克斯及其組員們認為，通過社會互動、在學習算法的幫助下，機器人將會進化，從而擁有更加復雜的行為，甚至可能會說話。

在研究Cog的這些年里，布魯克斯及其團隊的努力使Cog完成了一些驚人的行為。它不僅學會了識別人臉，還能與人類進行眼神交流。它可以扔球、接球、指認東西，還可以玩彈簧玩具。

在聽到樂隊演奏搖滾音樂時，Cog就能努力在響弦鼓上敲出一個聽起來還算是過得去的節拍。機器人偶爾也會表現出某些突發性行為，這些新行為好像是機器人通過學習人類行為而有機演化而來的。一天，布魯克斯的一個研究生辛西婭·布雷西亞（Cynthia Breazeal）正在搖晃一塊白板橡皮，Cog看到了就伸出手去摸。布雷西亞被逗樂了，她又搖晃了一下橡皮，故意激勵Cog再一次觸摸了橡皮，他們就像在玩游戲一樣。布魯克斯驚呆了。Cog似乎意識到了輪轉的概念，但這種概念沒有被編程，應該是它無法理解的東西。布雷西亞當然知道Cog無法理解這一點，因為她參與了機器的設計。但有那么一會兒，她似乎又忘記了，就像布魯克斯所說的，“表現得好像Cog能理解的東西比實際設計的更多。”根據布魯克斯所講，他的學生愿意以“超出”機器人實際能力的期望對待他們，這引發了一些新奇的東西。他表示：“迄今為止，Cog的表現水平已經超出了其設計要求。”

3.機器人的智能“安全”嗎？

布魯克斯認為，對待參與社會活動的物體，我們更有可能以“人”視之。事實上，他相信智能僅僅存在于我們作為觀察者，在觀察一個實體與其環境互動時所感知到的關系中。他寫道，“智能，存在于觀察者的眼中。”他預測，隨著時間的推移，隨著系統變得越來越復雜，機器人不僅會進化出智能，還會進化出意識。意識不是大腦中的某種物質，而是主體與世界之間復雜關系的產物。它一部分是魔力，一部分是幻覺，是一種協作努力，它會消除我們對自我和他人的標準界定。正如布魯克斯所說，“思想和意識沒必要被編入程序。這些終將會在機器人身上出現。”

人工智能哲學家馬克·A·貝多（Mark A Bedau）認為，作為一種與心理相關的理論，突生論（指上文中提到的機器人自己產生智能）像魔法一樣令人不安。突生論者并沒有去尋找大腦中負責意識的獨特過程，而是相信我們體驗世界的方式，也就是我們的思想、感覺和信仰的內在場景，是一個無法用單個神經元來解釋的動態過程，就像一群椋鳥的行為不能用任何一只椋鳥的行為來解釋一樣。盡管有大量證據表明，自然界中出現了突發現象，但如果將這種想法應用到意識上，就會變得更加難以捉摸，因為意識是無法在大腦中客觀觀察到的。根據突發論抨擊者的說法，突發論是在做“無中生有”的嘗試，想象出一些額外的、無形的力量，認為這種力量會憑空出現在機制中，如同機器中的幽靈一樣。

也有些人認為，突生論就是活力論的更新版本。活力論是貫穿18、19世紀的一種流行理論，認為世界是靠一種難以捉摸的、滲透于萬物的生命力來驅動的。與當時流行的機械論自然觀相反，活力論堅持認為，一個有機體不僅僅是其各物理部分的總和，還意味著除了它的物理身體之外，必須存在一些“生命原則”，或活力原則。有些人認為這種生命力就是乙醚或電，而對這種物質的科學研究方向卻常常從“去發現”轉變成了“人為重新創造”。

意大利科學家路易吉·加瓦尼（Luigi Galvani）進行了一些廣為人知的實驗，他試圖用電流使被肢解的青蛙腿復活。這些實驗的報道啟發了瑪麗·雪萊（Mary Shelley），她因此創造出了小說《科學怪人》（Frankenstein）一書中的主人公，就是一位沉浸在那個時代的活力主義哲學中的瘋狂的科學家。

當我閱讀了有關布魯克斯和他在麻省理工學院的團隊的文章時，我總是感覺他們是在從事一種魔法工作，而且還繼承了那些活力派魔術師的衣缽。這些魔術師的魔力可激發維克多·弗蘭肯斯坦（Victor Frankenstein，《科學怪人》的男主人公），讓他的創造物從死物質中復活。布魯克斯及其團隊似乎也在這樣的危險邊緣試探，畢竟，突發論最神秘的一面是，它暗示著我們可以制造出我們并不完全理解的東西。

幾十年來，批評人士一直認為，人工一般智能，即相當于人類智能的人工智能，是不可能實現的，因為我們還不知道人類大腦是如何工作的。但自然界的突發現象證明，復雜系統在沒有被預期或設計的情況下，會以意想不到的方式自發組織。從混亂中可以產生秩序。在機器智能領域，人們一直抱有這樣的希望：如果我們以正確的方式將各個部分組合在一起，或獨創或偶然，意識將作為復雜性的副產物出現。在某種程度上，自然也將會介入并協同完成這項工作。

這種希望實現的可能性不大。但話又說回來，對于創造者來說，難道不是所有的創造性活動都植根于其一直認定的神秘的過程中嗎?藝術家們早已明白，創作是一種難以捉摸的努力，它可以使藝術家的思維滲透到來自于自身以外的更強大的力量中。哲學家吉莉安·羅斯（Gillian Rose）曾這樣描述寫作行為“寫作是自律與奇跡的結合，即使出現在紙上的東西來自于你無法控制的區域，你依然可以掌控一切。”我在創作自己的作品時也經常會遇到這種奇怪的現象。我總是帶著一個愿景和計劃坐在辦公桌前。但在某一時刻，我所創造的東西張開了它的嘴巴，開始自己發號施令了。這些法令似乎主宰著它們自己的生命，以至于在我寫完的時候，自己都很難解釋這些作品是如何變成現在這樣的。作家們也經常帶著驚奇和敬畏談論各自的類似經歷。但我一直小心翼翼地對待這種奇怪的現象，我真想知道，對于一個藝術家甚至是任何類型的創造者來說，如果主宰他們創造活動的不過是物理定律或潛意識運作，那到底算不算得上是一件好事。就像羅斯所說，如果這些努力所產生的結果，來自于“無法控制的區域”，那么在什么情況下創造出的作品會超越你的愿望或脫離你的意圖?

就在那年春天，我得知了送餐機器人確實時是在課間休息期間出現在了我們的身邊。我有個朋友在學校里已經度過了一整個冬天，他告訴我，機器人在學校里空蕩蕩的人行道上閑逛了好幾個星期，識記了所有的路線，并繪圖標出重要的障礙物位置。這些機器人具有神經網絡，它們學會了通過與環境的反復互動來導航。我這位朋友在湖邊一棟空無一人的大樓里工作，他說他經常從辦公室的窗戶往外看，每次都看到機器人在下面飛快地旋轉著。有一次，他發現機器人們在校園購物中心的中央聚成了一個圈。他說，“它們可能是在舉行某種研討會”。機器人還可以互相傳達危險信號，并遠程傳遞信息，這樣做是來幫助它們適應環境中的新挑戰。那年春天，當一座最大的建筑物外體開始施工時，這個消息就通過機器人的神經網絡傳播開來，這正如一家當地報紙所說，“機器人重新繪制路線圖并‘告知’了彼此。”

4.人類智能暫時占主導地位 

一天下午，在最后一節課下課的時候，也就是傍晚時分，我從圖書館回家，路上經過了學校，那時人行道上已擠滿了學生。我和其他幾十個人一起，在紅綠燈前等著穿過主干道。那是一條繁忙的四車道街道，它將校園一分為二。沿著這條主干道往前走，還有一條人行橫道，不過這條人行橫道沒設紅綠燈。這是一個眾所周知的危險十字路口，尤其是在晚上，偶爾會有學生在最后一秒瘋狂地沖過去，僥幸躲過迎面而來的車流。當我站在那里等待紅綠燈的時候，我注意到每個人的注意力都被吸引到了前面那條人行橫道上。我朝那條道上望去，看見一個送貨機器人正等在街角，帶著一臉茫然和絕望，不知所措 （但那又如何?它甚至連臉都沒有）。它試圖穿過馬路，但就在每次緩慢地駛入人行橫道時，它都感覺到有一輛車在靠近，然后就退回去了。這引來人們發出一陣關切的低語。街對面有人對機器人喊道，“你能行!”。這一喊，人行道上就又多了幾個人停下來觀看這一奇觀。

道路暫時暢通了，機器人再次開始緩慢前進。這是它唯一的機會，盡管機器還在試探性地移動，但也拿不準它還會不會逃跑。學生們開始大喊：“快過去，快過去，快過去!”神奇的是，好像是對這一鼓勵的回應，機器人快速地穿過了人行橫道。當它到達街道的另一邊時，剛好錯過下一波車流高峰，這時整個人群爆發出歡呼聲。甚至有人還大聲說機器人是他心目中的英雄。前面的燈變綠了。當我們開始穿過街道時，人群表現出如釋重負般的輕松，臉上洋溢著笑容。在這片年輕人的人海中，有個年齡和我相仿的女性，引起了我的注意，看來這人是我的盟友。她把圍巾圍在脖子上，看上去是受到了震驚，還搖了搖頭說，“我真的很擔心那個小家伙。”

后來我才知道，有個人類工程師一直在觀察著這些機器人，他就坐在校園內的某個房間里，通過電腦屏幕注視著它們。如果有某個機器人處于特別棘手的困境，人類控制端可以覆蓋它的系統并手動控制它，讓它度過險情。也就是說，我們不會知道機器人是自主行動還是被遠程操縱的。我從它們身上觀察到那些讓人驚訝的智能行為也許是人類智慧的證據。

譯者：甜湯