menu-icon
anue logo
澳洲房產鉅亨號鉅亨買幣
search icon
美股

AI教父:人工智慧對世界的威脅 可能比氣候變遷更急迫

鉅亨網編譯余曉惠 2023-05-06 11:49

cover image of news article
AI教父:人工智慧對世界的威脅 可能比氣候變遷更急迫 (圖:REUTERS/TPG)

人工智慧 (AI) 熱潮方興未艾,「AI 教父」辛頓 (Geoffrey Hinton) 周五 (5 日) 接受路透訪問時說,AI 對人類的威脅,可能比氣候變遷更急迫。

辛頓最近剛離開 Google(GOOGL-US),他是當代 AI 系統發展的要角,1986 年共同出版象徵神經網路學發展里程碑的論文,2018 年獲頒圖靈獎肯定他的研究貢獻,但現在成為大談 AI 潛在威脅的人士之一,擔心 AI 發展失控。

辛頓表示,他無意貶低氣候變遷的重要性,氣候變遷風險也很大,但是 AI 的問題更迫在眉睫。

他接著說,談到氣候變遷,大家可以輕鬆說出應該做哪些事,事情就會有改善,例如停止耗用更多化石燃料。但談到 AI,沒人知道應該做哪些。

ChatGPT爆紅,馬斯克與多位科學家呼籲暫停發展六個月。 (圖:Shutterstock)
辛頓不贊同暫停開發 AI,反而認為應該投入更多資源,找出鷹做。 (圖: Shutterstock)

今年 4 月,一封爆紅公開聯名信呼籲,考量到對社會和人類的潛在風險,未來六個月先暫停訓練比 GPT-4 更先進的 AI 系統,連署者包括推特執行長馬斯克、Alphabet 旗下 DeepMind 研究人員、AI 先驅班吉歐 (Yoshua Bengio) 和羅素 (Stuart Russell)。

辛頓雖然有同樣的擔憂,但不贊同暫停研究,反而認為現在應該要更努力開發、投入更多資源,弄清楚可以做的事。

歐盟有一群議員設法回應聯名信,呼籲美國總統拜登邀請歐盟執委會主席馮德萊恩 (Ursula von der Leyen) 召開全球高峰會。這群議員組成的委員會於上周末同意一套針對生成式 AI 的提案,規定 OpenAI 等企業揭露用來訓練模型的版權素材出處。

同時,拜登上周四在白宮會晤微軟 (MSFT-US) 執行長納德拉 (Staya Nadella)、Alphabet 執行長皮查伊 (Sundai Pichai)、OpenAI 執行長奧特曼 (Sam Altman) 等 AI 領袖,要求他們務必確保系統推出前是安全無虞的。

辛頓說:「科技領袖最了解 AI,政治人物必須參與,AI 影響我們所有人的,是大家都必須思考的事。」






Empty