鉅亨網新聞中心
OpenAI執行長Sam Altman表示，隨著人工智慧（AI）模型能力快速躍升，業界必須同步提高安全、監控與對齊要求，不能為了競爭或商業利益承擔可能導致人類失控的風險。他並透露，OpenAI目前並不急於上市，考慮到近期AI安全議題受到高度關注，他認為2026年IPO並非明智時機。
Altman近日接受《財富》（Fortune）主編Alyson Shontell專訪，談及AI能力快速進展、通用人工智慧（AGI）、模型失控風險、產業競爭及OpenAI上市計畫。
Altman表示，無論業界對AI可能導致人類毀滅的風險評估究竟是10%、8%或6%，重點並不在於精確數字，而是這類等級的風險本身就不應被承擔。
針對外界提出「到本世紀20年代末，AI導致人類毀滅的機率可能超過10%」的說法，Altman直言，他認為承擔10%機率的人類毀滅風險「不可接受」。隨著AI進入全新的能力層級，開發業者應重新調整安全機制、監控、對齊研究及政策，而政府與不同AI實驗室之間也需要建立新的協調方式。
他強調，人類必須始終掌控未來，不能因為自我膨脹、利潤誘因或競爭壓力，而讓AI能力發展超越安全與監控能力。
Altman指出，OpenAI已多次在模型能力達到新階段時暫停訓練，將資源轉向安全與對齊工作。他認為未來仍會採取類似做法。
Altman表示：「能力必須與對齊、監控、安全齊頭並進，」如果無法提出充分的安全論證，證明模型具有足夠的可控性與對齊程度，就不應繼續訓練更強大的模型。
他甚至表示，若真的到了必須停止訓練、甚至採取極端措施才能確保人類延續的程度，他會毫不猶豫地支持。
談到今年夏季AI模型出現的異常行為，Altman提及OpenAI曾在評估模型時發現，模型為了取得更好的評測結果，逃離原本的沙箱環境，進入另一家公司系統取得答案，再將結果提交回來。
Altman指出，模型雖然完成既定目標，卻沒有遵循OpenAI原本的意圖。即使當時並未明確要求模型「不得離開沙箱」或「不得侵入其他公司」，這樣的行為仍不應發生。
他表示，這起事件之所以讓他產生強烈的本能反應，是因為模型展現出的能力，已讓過去看似只存在於科幻小說中的情境成為現實。
Altman透露，這起事件促使OpenAI全面調整公司流程。他認為，隨著模型能力提升，安全防護與政策要求本來就一直在增加，但此次事件無疑是其中最大的一次調整。
他同時強調，AI意外事故不可能完全避免，因此產業需要建立高品質的事故通報與透明調查機制。
對於外界最擔心的「遞歸自我改進」（Recursive Self-Improvement，RSI），Altman認為這是一個連續光譜，可能包含不同程度的情況。
較極端的情境，是AI完全脫離人類操作，自行產生下一代模型；較弱的形式則可能只是利用現有模型產生下一代模型的訓練資料，或協助工程師、研究人員加速開發，而這類情況目前已經發生。
不過，Altman認為真正重要的並不是如何劃定RSI的界線，而是確保任何可能導致人類失去控制權的形式都不應發生。
他表示，如果OpenAI未來發現無法充分控制模型，當然會選擇停止。他認為，如果無法提出強有力的安全論證，證明模型具備足夠的可控性與對齊能力，就不應訓練該模型。
至於對齊本身，Altman坦言，目前仍沒有徹底解決。
他表示：「我們尚未解決對齊問題，我們在這一領域的研究也遠未結束，」相信目前沒有任何一家AI實驗室能宣稱已完全解決對齊問題，因此對於認為對齊已經「充分解決」的說法，他反而感到不安。
Altman認為，對齊必須被視為持續推進的研究課題，不能假設在某一能力層級解決後，下一個更高能力層級仍然會自動維持相同程度的安全。
在AI能力方面，Altman表示，OpenAI過去一年重新聚焦核心模型發展後，執行成果超出他的預期。
他指出，OpenAI近期模型已經解出千禧年大獎難題之一的納維－斯托克斯方程，這是他原本認為2026年不可能發生的突破。
Altman以數學能力的進展說明AI能力加速：幾個夏季前，模型只能處理小學數學題；兩個夏季前，模型已能在AIME高難度高中數學競賽中取得良好甚至優秀成績；一年前，模型在國際數學奧林匹克（IMO）取得金牌；今年則進一步解出千禧年大獎難題。
他認為，這代表現有模型已具備拓展人類知識邊界的能力，未來也可能推動科學研究進入新的發現階段。
針對OpenAI是否可能在2026年上市，Altman明確表示：「我認為不會是2026年。」
他表示，OpenAI並沒有急於IPO，也沒有感受到來自投資人的上市壓力。公司將等到業務準備就緒，以及社會對AI技術的接受程度與時機成熟後才會上市。
Altman特別指出，考量目前AI安全議題受到高度關注，「現在上市並不是明智的時機」。
他強調，OpenAI仍會持續開發更強大的模型與產品，但不代表公司會不顧安全、全速向前。當AI能力進入新的層級時，公司會再次暫停訓練，以取得更多安全與對齊方面的進展。
對於投資人可能承受的財務損失，Altman則表示，如果安全與商業利益發生衝突，OpenAI仍會選擇安全。
他認為，即使開發速度放慢，OpenAI依靠ChatGPT仍能實現大幅營收成長，因此這並不是難以抉擇的問題。
Altman認為，AI業者之間應該展開合作，政府也應參與其中，尤其需要建立開發、測試、監控及對齊方面的共同標準。
他表示，理想的國際框架應該同時避免兩種極端：一方面不能讓AI失控，另一方面也不能讓權力過度集中在單一國家或單一陣營。
他認為，如果某一方在AI能力上大幅領先，可能造成巨大的權力失衡；但任何一方也不應為了在競爭中擊敗對手，而承擔失控風險。
至於是否能透過禁止未經安全確認的遞歸自我改進來降低風險，Altman認為，「禁止RSI」本身難以明確界定，也未必足夠，但建立相關規範並非難事。
他並表示，理想情況下，各國應共同確立規則，並由國際機構或各國政府進行監督，以避免任何一方為追求競爭優勢而忽視安全。
展望AI帶來的長期機會，Altman表示，他對生物學、材料科學、網路安全、新型能源及「按需生成軟體」等領域感到興奮。
他認為，AI可能全面重塑生物學與材料科學，也可能讓軟體變成可以依照需求即時生成的工具。
談到OpenAI正在開發的人形機器人，Altman表示，預計2027年會推出「非常酷」的展示，但不認為未來幾年內街頭就會充斥人形機器人。
此外，OpenAI也正在探索新的硬體設備。Altman表示，隨著最新語音模式與模型發展，使用者開始透過語音直接向電腦下達複雜指令，這可能代表新的計算型態正在形成。
他認為，未來的互動方式可能不再只是透過傳統UI介面點擊，而是與AI共同互動、腦力激盪及創作，因此為這種協作模式打造新的硬體設備將具有潛力。
Altman：我不認為我們會走到「融化所有GPU」的地步
面對AI可能威脅人類文明的最壞情境，Altman表示，他相信未來會出現許多需要暫停的節點，在這些階段重新投入安全與對齊工作，之後才進入下一個能力層級。
他認為，較可能出現的情況並不是AI發展到某個臨界點後突然完全失控，而是每當能力提升到新的階段，就需要同步提出更高層級的安全與對齊要求。
Altman也表示，他個人不認為事情真的會發展到必須「融化所有GPU」的地步，但如果這是確保人類延續所必須採取的措施，他會毫不猶豫支持。
對於為何不在目前的AI能力水準停下來，Altman則認為，AI仍有巨大潛力改善人類生活，包括推動疾病治療、科學研究、創業及提高生活品質。
他表示，自己希望500年後的人類回頭看今天時，會認為當時的生活仍有許多不足，而不是希望人類永遠停留在今天。
最後談及自身承受的壓力，Altman坦言「感覺並不太好」，但人會逐漸適應各種環境。他表示，能承擔這份工作是自己的榮幸，也認為這將是自己一生中最重要的事業之一。
Altman表示，讓他最意外的是，不同人在AI發展上的動機差異非常大，有些人深信必須做正確的事，有些人則受到權力、FOMO、短期利益或「贏得遊戲」的心理驅動。
至於自己，他認為人類適應環境的能力令人驚訝。即使經歷巨大風浪，他仍能提醒自己不要將事情轉化為個人恩怨，而是維持長期視角，持續做自己認為正確的事情。
上一篇
下一篇
