人工智能多可怕 究竟會帶給人類什麼？

　　人機大戰，李世石三戰皆墨，人工智能全面勝出，圍棋小天地，環宇大世界，科幻電影裏的危機似乎就要走進現實，無數人憂心忡忡，以至於當李世石終於扳回一局時，世界沸騰，“李世石終於贏了”“人類取得寶貴一勝”……

　　科技進步不止一次地帶來了倫理的難題，科技究竟會帶給人類什麼？是進步，是毀滅？這是一個永遠都爭論不清的問題。

　　方舟子（科普作家）

　　科學研究要有

　　道德要求

　　科學技術是中性的，可以用以造福人類，也可以用以禍害人類。隨技術的發展，技術的威力越大，它能帶來的效果越來越大，可能的惡果也會越來越嚴重，生的影響會是全球性的和全人類的。實際上人類早就擁有了毀滅自己的能力。一旦發生核戰爭，現在的核武器儲備足以把人類毀滅很多次了。全球氣候變暖、環境問題同樣讓人類的生存面臨困境，這也與技術的發展有關。

　　至於人工智能，在可預見的未來還沒有達到足以讓我們擔憂的地步。阿爾法棋只是一個下棋程序，雖然能戰勝世界冠軍，但也只是個下棋程序，不給它編程它別的什麼都不會做，更不會真正的思考，比如它對李世石的第四盤第97手下出了任何人類棋手都不可能下的自殺式臭棋，表明它其實沒有智能、不會真正下棋。它能戰勝世界冠軍令人驚訝，但是為此誇大人工智能的成就，為此憂心忡忡擔心未來有一天人工智能會失控、人類會被人工智能控制甚至被滅，則大可不必，是科幻電影、科幻小看多了。

　　有人問，你能理解智商2千的人工智能嗎？未來真有那樣的人工智能，也不過意味其思維更嚴密、更敏捷、判斷力更強、解決某些問題更快而已，有什麼恐怖的？對未來人工智能胡思亂想的人，有的是工程師思維，以為世界上的東西都能夠量化、數字越大越好而且增長沒有止境。但世界不是這樣的直線。

　　當然，和所有的技術一樣，人工智能是福是禍，取決於人們怎麼用它。如果將來人工智能毀滅了人類，那也不是它自己的選擇，而是被人類濫用，比如被用來作為武器。

　　既然科技是中性的，就要求科學家、工程師在從事研究的時候要有倫理、道德要求。不過我們也不要把科學家、工程師設想得太可怕。如果未來真的出現威脅人類生存的全球危機的話，那也不太可能是某個瘋狂科學家所為，而是某個瘋狂政客或軍事狂人濫用權力的結果。

　　李河（哲學家）

　　計算機能替代人類嗎？

　　許多年前深藍戰勝卡斯帕羅夫時，就已經討論過很多，現在看來，並沒有超出當時的範疇。

　　計算機在計算領域超過人類，是遲早的事情，有的人目光短淺，還在討論能不能超過，事實上，或許就是幾年十幾年的事情。套用一句著名的話，人類一計算，上帝就發笑，演算是機器的長處，人類的演算，是基於直覺的大致演算，有的人可以通過大量的訓練增強演算能力，但基於直覺這一點沒變，波蘭尼的《個體知識》中的默會知識，就是此類。計算機的長處是精確計算，只要輸出相關的可能性，它就能窮盡它。現在的問題是，當計算機學會了學習之后，它不僅可以窮盡已經輸入的可能性，還會通過長時間的學習去探索沒有輸入的新的可能性，那個時候，計算機在計算上就會全面超越人類。

　　計算機是人類的造物，當人的創造物坐在人面前時，本身就是一個巨大的象徵，后面的命運改變，只是時間問題。人類創造工具，它的核心倫理之一，就是代理與替代。最初機器只是延伸人的感官職能，望遠鏡可以延伸視覺，汽車可以加快行動速度等等。后來開始代理人的職能，機器人管家、機器人司機等，將來都可能出現。而代理這個大門一旦推開，無限的可能就會出現。黑格爾提出主奴關係理論——因為奴隸直接參與工作，那麼長時間之后，奴隸就可能變成自主的人。這一理論影響了很多現代的思想家，也是當前人們對機器擔憂的一個重要方面。

　　計算機代替人類的障礙是否可以跨過？人是情感生物，人的行為受到道德化的評判。這一方面計算機代替不了，但相關的研究其實已經在進行，只是難度還很大。計算機目前還是人類的造物，無論是物理上的機器本身，還是計算的邏輯、程序，都是人在生，計算機不能自我生。什麼時候計算機能夠自我生，自己製造機器，設定運算程序，甚至制定道德倫理，那麼它就會變成另外一個智慧物種，不再僅僅是人類造物。這一天會到來嗎？是早還是晚？人類最重要的特徵，是可以把握自己的行為，這種能力的自足性，一旦被計算機獲得，美國大片中的景象就不難想象。

　　所以，對於技術的發展，最重要的一點是，要明白，人類推動技術進步的目的是什麼？是人類自身的幸福。如果沒有評估、檢驗、預測，放任其發展，在增長局部幸福的同時，就可能對人類整體造成更大的威脅。這才是真正需要思考的問題，我們究竟以什麼樣的態度去對待技術的發展。

　　王渝生（中國科技館館長）

　　人工智能我們

　　走了多遠？

　　人機大戰，20年前有過深藍對戰卡斯帕羅夫；10年前，中國也有過一次計算機和5位象棋高手的對弈，互有勝負，總體上計算機稍勝一籌。

　　人工智能作為一門學科，大概從上世紀50年代開始。過去在農業機械化、工業化、信息化、智能化等方面，嘗試機械代替體力勞動，現在在智力方面的嘗試，則是通過模擬人的思維過程和方式，以此提高腦力工作的效率。這一次比較特殊的是，計算機在本身的計算模式之外，還可以有學習的能力，也就是，它輸了一次，可能會學到更多的東西。

　　我的觀點是，這一智能本身也是人賦予它的，所以不必恐慌和害怕，人類發明它、創造它、設計它的運算方式，賦予它學習的能力，同時人也會意識到安全性的問題，給它裝上類似閥門的東西，控制它去造福於人類，而不是危害人類。所以我們應該為人工智能的進步高興，它不是洪水猛獸。人機大戰，獲勝的實際上是人類的智慧。

　　另一個問題是，我們的人工智能進步如何呢？可能很多人關心但不太了解。可以中國的人工智能和計算機研究，在世界上是有一席之地的。以超級計算機的運算速度而言，2010年天河一號向量運算速度是4700萬億次每秒，當時是世界第一。2011年日本超越了這個數字，2012年美國超越了日本。到2013年，天河二號從千萬億次提升到了萬萬億次，截至2015年，經過了6次提升，現在的浮點運算速度超過了3萬萬億次每秒，什麼概念呢？它1小時的運算量，全國14億人同時用計算器算，要算1000年。

　　速度之外，人工智能如何呢？38年前，我考上中國科學院研究生院，數學家吳文俊給我們上的第一節課，是幾何定理的機器證明。他把人證明幾何定理的方式加以編程，變成計算機程序。上世紀90年代，已成為一門系統的學科，數學機械化或者機械化數學體系。2001年，吳文俊獲國家最高科學技術的，和他同時獲獎的是袁隆平，袁隆平大家都知道，但是知道吳文俊的很少，不能不這是一個遺憾。

　　喬新生（中南財經政法大學教授）

　　人機大戰的技術和社會價值

　　這場比賽被世界各國廣泛關注。一方面是因為圍棋比賽具有世界性，被認為是最為複雜的一種體育游戲項目，它的難度超過了國際象棋和中國象棋；另一方面則是因為這場比賽關係到計算機智能技術發展的方向，反映出國際計算機智能技術發展的最新水平。但是，如果因此而對這場比賽給予過高估計，那麼，有可能會掩蓋事實真相。

　　正如人們所知道的那樣，計算機智能技術是在充分總結人類經驗教訓的基礎之上，通過提高計算機的運算效率，分析各種可能性，從而實現智能化的決策。但是，計算機智能技術的最大弱點就在於，它無法充分反映感情因素，對於在體育比賽過程中可能出現的感情因素以及其他社會性因素，計算機很難有效作出判斷，因此，也很難作出正確決策。譬如，如果計算機世界冠軍出於感情上的考慮，而決定放棄比賽，或者在比賽的過程中故意露出破綻，那麼，計算機很難及時作出反應。更令人感到擔憂的是，如果世界冠軍在比賽的過程中，不是為了贏得獎金，而是為了輸掉比賽，從地下賭場獲得更多獎金或者贖金，那麼，計算機肯定會取得勝利。

　　簡單地，計算機可以專心致志地和世界冠軍進行對壘，但是，計算機永遠是勇往直前。他的終極目標是取得勝利。可是，對於世界冠軍而言，它的目標則可能是多元的。如果他是為了爭取失敗，那麼，在和計算機進行比賽的過程中，他可以利用任何一次機會，為自己爭取商業利益。這是社會複雜性所決定的，也是計算機技術永遠無法逾越的高山大海。

　　人的社會性非常複雜，人類除了可以進行高速運算之外，還有複雜的情感和巨大的商業利益，因此，如果忘記了人類的情感，忘記了人類所需要的商業價值，那就會過於關注比賽的結果。當然，我們希望世界圍棋冠軍能夠盡心盡力，充分展示自己的力量。但不能排除一些地下組織或者個人對這場世界關注的比賽設立地下賭局，那我們有什麼理由對這樣的比賽給予充分信任和無限的讚美呢？真誠地希望計算機能不斷提高運算速度，但也真誠地希望計算機不要了解人類的弱點，並且通過精密的計算把人類的弱點用於戰勝人類的過程之中。畢竟，開發運用人類的弱點是容易的，可是如果計算機完全掌握了人類的弱點，那人類的一切不堪，都會暴露在光天化日之下。

　　北京晨報記者 周懷宗