AI教父Hinton預警：4.8兆美元市場已鎖死 AI正撕裂全球

AI 教父 Geoffrey Hinton 近日發出最尖銳警告：不受監管的 AI 就是一輛沒有方向盤的高速跑車！全球只有 1% 的 AI 研究在做安全，4.8 兆美元的巨獸正在失控加速。

當 78 歲的 Hinton 坐在攝影機前，對著在場的幾百位代表說出這句話時，整個會場安靜了幾秒。「他們想要一輛沒有方向盤的超級快車。」

最近，這位 2024 年諾貝爾物理學獎得主、被全世界叫了十幾年「AI 教父」的老人，在全球數位世界大會上，再次向全人類拉響了警報。這位老人用幾乎是帶著懇求的語氣警告：「我們不知道人類能否與超級智慧 AI 共存。」

「但我們正在建造它。」

在發言中，Hinton 給我們算了一筆很清楚的帳。全球 AI 產業正以人類歷史上前所未有的速度膨脹。UN 貿發會議的數據顯示：2023 年全球 AI 市場規模 1,890 億美元，到 2033 年預計飆升到 4.8 兆美元。

也就是說，人類只花了十年時間，就從零造出一個比日本 GDP 還大的經濟體。這些錢，幾乎都用在了造更大的模型，跑更多的算力。

至於安全呢？ Hinton 給了一個數字：大概 1%。全球 AI 研發投入裡，只有大約 1% 花在了「怎麼讓這東西不出事」上面。對此，Hinton 的評論是：It"s crazy.「AI 科技遊說集團正在花大價錢投廣告，想讓所有人接受一個類比——AI 是油門，監管是剎車。他們的意思是，別踩剎車，會拖慢我們。」

對此，Hinton 表示，這個類比完全是錯誤的！「油門是進步，沒錯。但監管不是煞車，監管是方向盤。他們想要一輛極速狂飆的車，但沒有方向盤。」

坐在他旁邊的 Terry Sejnowski 立刻接了一句：你開過沒有煞車的車嗎？下坡的時候就知道有多慘了。但更慘的是，我們連方向盤都沒有。

油門踩到底，方向盤拆掉，這就是當下全球 AI 競賽的真實狀態。

2026 年世界數位大會的主題是「AI 與社會發展」。

這次大會給 Hinton 和 Sejnowski 頒發了一個獎，表彰他們在 1980 年代發明玻爾茲曼機，它後來成了深度學習革命的催化劑。

頒獎人是微軟的語音辨識專家李登（Li Deng），他自己就是玻爾茲曼機的受益者。

前半場，三個人聊的是科學往事，學術榮光和師生情誼。

Hinton 和 Sejnowski 回憶了 1980 年代在羅徹斯特的一次會議上，他們是如何把 Hopfield 網絡和模擬退火結合在一起，這個靈感迸發的瞬間。

Sejnowski 說，自己記得一清二楚——「我們坐在那裡，突然意識到可以把 Hopfield 網路加熱，讓它變成概率性的。」

隨後，Hinton 補了一個細節：那時候他剛在聖地牙哥跟 David Rumelhart 一起編程反向傳播，用的是 logistic 單元。

而給 Hopfield 網路加溫度之後，出來的剛好也是 logistic 單元。兩條完全不同的路，在同一個數學形式上匯合了。

在科學史上，這種時刻被叫做「晶化瞬間」。

值得玩味的是，Hinton 至今仍認為玻爾茲曼機比反向傳播更優雅。 「它是一個好得多的想法。只是不太好用。」

Sejnowski 笑著附和著：「它在生成式 AI 還沒流行之前幾十年，就已經是生成式神經網路了。」

一個更優雅但不實用的想法，和一個沒那麼優雅但統治了整個時代的演算法，在科學史上，這種故事反覆上演。

「AGI，是一個愚蠢的術語」

但頒獎典禮的後半場，畫風急轉。當主持人把話題引向 AGI 和社會風險時，Hinton 徹底切換了模式。

李登問了一個很多人都想知道的問題：你們怎麼定義 AGI？什麼樣的基準測試能說明 AGI 已經到來？

Hinton 毫不留情地表示：「AGI 是一個愚蠢的術語。」

理由很簡單：它假設智能是一維的，像溫度計一樣，數值越高越聰明。

「但智能顯然是高度多維的。所以不存在一個點，AI 在那個點上等於人類。它相對於人類的能力是鋸齒狀的——在某些方面已經遠遠超過我們，在另一些方面還不如我們。」

他舉了個例子：你現在去問任何一個大模型，斯洛維尼亞的報稅截止日期是哪天，或者怎麼給門廊做防潮處理，它都答得頭頭是道。在通識知識這個向度上，AI 早就把人類甩了幾條街。但在某些推理任務上，它還沒完全追上。

「所以，AGI 這個字沒有意義。」

那什麼詞有意義？在 Hinton 看來，真正有意義的是「超級智慧（superintelligence）」。它的定義很清楚──在幾乎所有人類能做的智力任務上都比我們強。我們相信它正在到來。

接下來，就是整場對話最核心的段落。在場官員問：當超級智慧到來時，人類還能保持對自己創造的系統的有意義的控制嗎？

Hinton 回答：「我們不知道能不能和超級智慧 AI 共存。」

但我們正在建造它，所以我們現在還有很多控制權。我們應該小心地建造，讓我們還能繼續存在，和它和諧共處。 

在已知的模型裡，遠比自己聰明的東西願意給遠不如自己聰明的東西自由──只有一個例子。母親和嬰兒。母親真的關心嬰兒。 

但現在的問題是，我們正處於歷史上一個迫切的節點，必須嘗試解決這個問題，而投入的資源少得可憐。 

也許只有 1% 的工作在研究這件事。相較之下，99% 的工作都在讓 AI 變得更聰明。 這簡直是瘋了。

Hinton 把 AI 風險分成了三類。

第一類：有人故意用 AI 幹壞事。

例如，製造深度偽造影片腐蝕民主，製造致命病毒引發大流行，發動網路攻擊。這是最直接的威脅。

第二類：有人試圖用 AI 賺錢時產生的副作用。

例如用 AI 把女性照片生成非法照片。例如推薦演算法不斷推送比你剛看過的更極端的視頻，最終製造出兩個完全沒有共同語言的群體。

「他們只是在賺錢，但副作用就是撕裂社會。」

第三類：AI 自主接管的存在性威脅。

Hinton 認為，第三類威脅或許會得到國際合作，因為所有人都害怕。

但對於前兩類，特別是第一類，則不會得到合作。各國會嘴上說要合作，但實際上都在互相攻擊，這就要難處理得多。

Hinton 講了這樣一個類比：看看菸草和石棉的歷史。

「生產菸草和石棉的已開發國家——例如加拿大——在本國引入了保護公民的法規。但它們繼續把這些東西賣給第三世界國家。

所以我們真的要擔心：即使我們在開發 AI 的國家製定了正確方向的法規，這些國家仍然可能把 AI 賣到其他國家，在那裡產生惡劣後果——即使這些事情在他們自己國家是不被允許的。

太陽底下無新鮮事，煙草和石棉的劇本，很可能會再次上演。

LLM，究竟是不是死胡同？

接下來，李登也帶來了一個尖銳問題：LeCun 說大語言模型是通往超級智慧的死胡同，你們怎麼看？

Hinton 把這個問題拆成了兩半。

「首先，是一個哲學問題：一個只預測下一個詞的系統，能不能理解空間？答案是能。這非常令人驚訝。」

「然後，有一個實際問題：這是理解空間的高效方式嗎？答案是不能。如果你有攝像頭，能操控物體，你理解空間和基本物理常識的效率會高得多。」

「所以在實際層面，一個多模態 AI——有攝像頭、能操控物體、還能說話——會比純語言模型用更少的數據更快地理解很多東西。但在哲學層面，純語言模型給它足夠多的語言數據，可能也夠了。」

這次大會暴露的另一個裂縫，就是「分配」的危機。

UN 貿發會議代理秘書長 Pedro Manuel Moreno 在同期舉行的科技發展委員會上直接點破：AI 的建造能力和塑造權，集中在極少數經濟體和企業手中。

國際電信聯盟秘書長 Doreen Bogdan-Martin 給出了一個刺眼的對比：已開發國家對於 AI 的採用速度，幾乎是發展中國家的兩倍。

「如果不解決這個問題，這將是第二次大分流。」

在造 AI 的國家和只能消費 AI 的國家之間，鴻溝正以肉眼可見的速度撕開。

4.8 兆美元的市場，基礎建設、投資、人才全部集中在北半球那幾個點。剩下的世界，甚至沒有資格參與規則制定。

顯然，這個後果很可怕。把時間線拉長一點就會發現，Hinton 的這場對話，其實是他過去三年吹哨行動的集大成。

2023 年從 Google 離職時，他說的是「我為自己的畢生工作感到後悔」。 2024 年拿諾貝爾獎時，他在頒獎台上呼籲重視 AI 安全。 2025 年他在多個場合一再強調監管的迫切性。

到了 2026 年，他的措詞變得更具體了。

而他在技術討論中展現的另一面同樣值得注意。

這位 78 歲的老人，在聊完 AI 末日風險之後，能立刻切回去講受限玻爾茲曼機為什麼是正確的貝葉斯推理、為什麼當前的圖像生成模型只用了醒 - 睡算法的一半、怎麼把生成模型和識別模型結合起來才是下一步正確方向。

他同時住在兩個世界裡──一個在思考 AI 怎樣變得更強大，一個在思考人類怎樣不被更強大的 AI 毀滅。這兩件事在他的大腦裡並行運轉，互不矛盾。

這大概就是為什麼他的警告格外有分量。這是親手造出這個東西的人在說：我知道它能做什麼，所以我知道該怕什麼。

而 Hinton 提到的那輛車，現在油門已經踩到底了，4.8 兆美元的引擎在轟鳴。方向盤在不在，取決於接下來的幾年裡，坐在駕駛座上的人——不管是政府、企業還是科學家願不願意伸手。

如今，我們正站在一個極為特殊的時間節點上。在 AI 變得比我們聰明之前，是人類唯一還能決定遊戲規則的窗口。

Hinton 三年前從 Google 辭職時說的那番話，當時很多人覺得是杞人憂天。三年過去了，他還在說同樣的話。不過，現在已經有很多人，真實地理解了他的擔憂。只是，那輛沒有方向盤的車，還在加速。