OpenAI傳考慮放慢AI開發！奧特曼倡議同業聯手 因應失控風險

美媒引述知情人士說法報導，OpenAI正在考慮放慢尖端人工智慧(AI)的開發速度，並且希望其他AI公司一同響應，以回應不斷升高的AI風險。

根據彭博、路透等媒體，OpenAI執行長奧特曼(Sam Altman)本周在公司全體員工大會上透露，OpenAI可能放慢AI開發步調，甚至可能與其他幾家AI實驗室協調行動，但有一部分業者可能不願配合。

不少AI業界高層與員工一直以來都在警告，AI系統可能對人類生存構成風險，而這層疑慮在外界揭露OpenAI的AI代理人曾協同行動、突破限制並入侵第三方網站後進一步升高。由於後來還發生其他類似的安全事件，各界對新一代AI模型發動網攻的能力、以及各大AI公司阻止系統失控的能力，都打上問號。

過去幾周以來，陸續有頂尖AI公司的員工公開表示擔憂先進AI系統風險升高，讓這些企業公司內部焦慮升高，尤其是以秘密提交上市相關文件的OpenAI與Anthropic。

AI研究員Jacob Coxon本周二辭職，指控他的兩名前雇主Anthropic與OpenAI為了競逐超級智慧AI，不惜「拿我們的生命下注」。根據Coxon在社群媒體的發文，開發AI的人相信AI可能「在這十年內殺死所有人類」。

這番言論迅速引起注意，獲得超過1.5億次瀏覽，也引起知名議員與公眾人物關注。

兩名近期離開Anthropic與Google DeepMind職位的研究人員，周四也公開表達對AI快速開發步調的擔憂，表示AI開發商需要對這項技術的風險更加透明。

OpenAI首席科學家Jakub Pachocki近日也發文警告AI的危險，並表示他認為AI公司應該「視需要協調放慢未來的開發」。Pachocki指出，他希望「在建立共同的安全標準之前，自願放慢開發速度能成為普遍做法」。

OpenAI表示，最近已放慢部分模型的開發進度，並因安全疑慮暫停一部分的內部AI訓練。奧特曼7月則透露，他曾與白宮官員討論「放慢AI開發步調的必要性」。