技術奇點：揭開人工智能的神秘面紗

書名：《技術奇點》

作者：（英）默里-沙納漢

出版社：中信出版社

出版時間：2016年5月

內容簡介

當今社會，新技術給經濟發展提供了前所未有的動力，科技改變着人們的生活方式，改變着人類社會經濟發展和前進的速度。人工智能技術作為引爆下一場財富革命的決定性力量，重塑人類未來生活的關鍵性技術，在經濟發展中起着舉足輕重的作用。

這本深入闡釋人工智能的著作是默里-沙納漢在這一領域深耕多年的思想精髓。他以明白曉暢的語言講述了我們可以通過哪些方式實現人類水平人工智能，以及在實現人類水平人工智能之後，我們是否會迎來顛覆一切的技術奇點。針對人類對發展人工智能的盲目樂觀，默里-沙納漢尖銳地指出了許多曾被我們忽略的問題：人工智能會有感情嗎？如果人類無休止地壓榨人工智能，它們是否會奮起反抗？

作者簡介

默里-沙納漢，倫敦帝國理工學院認知機器人學系教授，負責指導動力學組的研究。畢業於帝國理工學院、劍橋大學，2006起擔任帝國理工學院教授至今。

默里-沙納漢是奧斯卡獲獎影片《機械姬》的科學顧問，作品橫跨人工智能、機器人學、邏輯學、動力系統、計算神經科學和哲學思想等多領域，經常在媒體上就人工智能和機器人問題發表評論。

前言

近年來，隨着科學技術的迅猛發展，「奇點」這個概念已經從科幻小說逐漸轉移到了嚴肅的學術討論中。人們認為當前人類歷史的發展階段距離奇點已越來越近。物理學中的奇點指的是在時間或空間的某一點上，出現了類似黑洞或者宇宙大爆炸的情況，數學已經不再適用，人類也無法理解。人類歷史中出現的奇點指的是由於技術的迅速發展，人類社會中的一切都出現了改變，生活在今天的我們將無法理解。今天被我們當作理所當然的一切（經濟、政府、法律、國家）會改變形態，人類最根本的價值觀（生命的尊嚴、對幸福的追求、選擇的自由）也會被淘汰。我們對人類之所以為人的理解（人性、生存、意識、社會秩序）提出疑問，不是通過漫無邊際的哲學思考，而是由真實存在的環境所推動。

什麼樣的技術進步會帶來這種劇變？本書將要驗證的假說是：人工智能和神經技術這兩個領域的技術進步會加速奇點的到來。我們已經破解了生命的秘密，能夠理解基因和 Dna的工作原理。生物技術帶來的改變已經非常巨大，但是和人工制造思維的能力相比，就差多了。

從某種重要的意義上來說，今天的智能是固定的，這影響了技術進步的廣度和速度。幾千年來，人們掌握的知識已經非常豐富，而且隨着文字、印刷術和互聯網的出現，傳播知識的能力也增強了。但是，創造知識的器官（有智慧的人的大腦）在過去的幾千年中變化不大，認知能力的秘密還沒有被我們揭開。

如果人工智能和神經科學能充分發揮潛力，這種情況將會改變。如果不僅是智能創造技術，技術反過來也可以創造智能，那麼就會產生一個循環。這個循環的結果是難以預料的，可能帶來爆炸性的改變。作為原來的創造者，如果智能也可以被創造出來，那麼它就可以提升自己。根據奇點理 論，不久以後，這個循環中就不再需要人類了，人工智能 或進行過認知改造的生物智能將占據主導地位，人類已經跟不上了。

我們需要認真對待奇點理論的假說嗎？又或者它只適合出現在科幻小說里？雷• 庫茲韋爾認為我們應該認真對待這 一假說，並提出了「加速回報定律」（The law of accelerated return）。如果一項科技符合加速回報定律，那麼這項科技越 先進，它進步的速度就越快，在一段時間以後就會實現指數 級進步。一個很好的例子就是「摩爾定律」（Moore』s law），一塊芯片能容納的晶體管數量每隔 18 個月左右就會翻番。令人驚訝的是，半導體行業幾十年來的發展趨勢一直遵循摩爾定律。 信息技術發展的其他指標，例如 cPu（中央處理器）的時鍾頻率和網絡帶寬，也一直在以指數級速度增長。然而，信息技術不是唯一高速發展的領域。在醫學領域，Dna（脫氧核糖核酸）測序的成本快速下降，測序的速度則呈指數級上升，大腦掃描的分辨率也在以指數級速度上升。

從歷史的角度來看，出現重大技術進步的時間間隔在縮短：從農業、印刷術、電力到電腦。除了技術的進步，進化過程中出現里程碑式突破的間隔也在不斷縮短：從真核生物、脊椎動物、靈長類動物到智人。很多評論家認為人類發展的軌跡是一條復雜的曲線，一直延伸到遠古時代。但是，我們只需要研究這條曲線中科技的部分，並推演科技曲線的未來趨勢。我們發現，未來會出現一個轉折點，人類發明的技術會讓自己落伍。

由於物理規律的制約，指數級技術發展最終會遇到瓶頸。指數級技術發展的停滯可能有各種經濟、政治或者科學的原因。但是，我們先假設與人工智能以及神經技術最相關的發展將會保持勢頭，加快破解大腦秘密的速度，並且最終合成人工智能。我們不難相信，不管是人工智能還是人類智能，都會遵循加速回報定律，最終到達技術奇點。

有些作者預言，奇點的到來會在 21 世紀中葉。我們可以不把奇點只作為預言來研究，預言畢竟是比較虛無縹緲的。首先，奇點是一個很有意思的深刻的學術話題，無論它最後是否真的會出現或不知什麼時候出現。其次，奇點出現的可能性雖然看起來很微小，但是卻值得我們從務實的角度，在理性的基礎上討論它。即使未來學的理論有瑕疵，但只要未來學描述的場景存在可能性，就值得我們認真關注。如果奇點真的出現，對人類來講，其後果將是顛覆性的。

這些顛覆性的後果都有哪些？如果人類到達奇點，世界會變成什麼樣子？我們對奇點的到來是應該恐懼，還是應該歡迎？人類在今天或未來應該做些什麼來保證最好的結果？本書旨在回答這一系列非常宏大的問題。奇點這個概念會引發我們對一些更加原始的哲學問題的討論：人性的本質是什麼？人類最根本的價值觀是什麼？我們應該如何生存？人類為了迎接奇點需要放棄什麼？奇點在給人類的生存帶來機遇的同時，也帶來挑戰。

奇點的到來可能會威脅到人類的生存。這聽起來像是大其詞，但是今天的新興技術已經超越了以往，是人類從來沒有見過的。可能會有人研制經過基因改造的病毒，提高其傳染性和抗藥性——只有瘋子才會做這種事，但是，人類有可能意外地制造出帶來災難的病毒。高級人工智能也有可帶來生存威脅，其原因相似，但更微妙。我們會在後文中研究這些問題。如果未來某個公司、政府、組織，甚至是個人有可能制造出能實現指數級自我提升、極度渴求資源的人工智能，這一可能性足以讓我們提高警惕。

從樂觀的角度來看，技術奇點帶來了生存的機會，也就是哲學上的「存在」的意義。當我們有能力構建大腦時，就可以突破生物的限制，延長人類的壽命。人類的最終極限就是死亡，生物的身體是很脆弱的，會受到疾病、意外傷害和衰老的限制。人類的意識依賴其生物大腦，但是，未來人類將有能力修復任何對大腦的損害，並最終在其他基質上構建大腦，這樣就可以突破意識的壽命極限，將其無限延長。

延長生命是「超級人類主義」的一個分支，但是我們為什麼要滿足於人類的大腦？如果我們能夠重建大腦，為什麼不通過重新設計，提升大腦的能力呢（人類的身體也可以通過重建提升，但是本書只討論智能）？通過醫藥手段可以提高記憶力、學習能力和注意力，這是比較傳統的提升方法。但是，既然人類能夠從無到有重建大腦，就一定能對認知能力進行重組和提升。當我們具備了這種提升能力，又該做什麼呢？有些人認為，這種能力至少能夠應對超級智能帶來的存在風險，趕上人工智能的發展腳步，不過在這個過程中人類的認知方式可能會發生根本改變。

技術奇點可能是一種生存機會，要理解這一概念，必須放棄人類的視角，采取一種更具宇宙性的視角。「人類社會和生活在人類社會中的人們的大腦已經到達了宇宙的極限」是一種人類中心主義的想法。也許智能的復雜程度還有很大的提升空間。可能未來還會出現比我們更高級的意識形式。

我們應該阻止還是迎接這一情況的到來？我們能理解這樣的未來會是什麼樣嗎？不管奇點是否已經臨近，這些問題都值得思考。因為在思考這些問題的同時我們對自身有了新的理解，也理解了我們在大千世界中的位置。