從聲紋到視訊都能冒充！OpenAI執行長警告 AI詐欺風暴來了

OpenAI 執行長奧特曼（Sam Altman）22 日發出嚴峻警告，指出全球可能正處於一場由人工智慧（AI）驅動的「欺詐危機」邊緣。他強調，不法分子正利用 AI 技術冒充他人，其逼真程度已超越大多數現有的人類身份驗證方式。

奧特曼的言論是在聯準會（Federal Reserve 一場關於 AI 經濟與社會影響的廣泛採訪中提出的。

奧特曼在採訪中表達了他對當前金融機構仍接受聲紋作為高額資金轉移認證方式的擔憂，直言這種做法「太瘋狂了」。

他指出：「除了密碼之外，人工智慧已經徹底擊敗了目前人類大多數的身份驗證方式。」他預測，未來的詐欺手段將會更加複雜且難以辨識，從當前的語音電話迅速演變為逼真的視訊通話，例如透過 FaceTime 進行的冒充，其真實性將難以與現實區分。

儘管 OpenAI 並未開發此類模擬工具，但奧特曼強調，隨著 AI 技術的持續發展，這將是全球很快需要共同面對的挑戰。他進一步解釋，在世界各國尚未建立足夠的防禦機制之前，不法分子可能會製造並濫用「超級智慧」AI。

他舉例說明，敵對勢力可能利用 AI 攻擊美國電網，甚至製造生物武器。此外，奧爾特曼也表達了對人類可能失去對超級智慧 AI 系統控制權，或賦予該技術過多決策權的深切憂慮。

事實上，奧特曼並非唯一對 AI 加劇詐欺表示擔憂的聲音。美國聯邦調查局（FBI）去年已針對 AI 語音和視訊「克隆」騙局發出警告。本月稍早，美國官員也證實，有人利用 AI 模仿美國國務卿的聲音，聯繫了多位外交部長、一名州長和一名國會議員，凸顯了這一威脅的現實性與迫切性。

在談及 AI 對就業市場的影響時，奧特曼的觀點與矽谷的一些同行有所不同。

儘管 Anthropic 執行長 Dario Amodei 和亞馬遜執行長 Andy Jassy 等科技巨頭曾警告 AI 將會搶走人們的「飯碗」，但奧爾特曼認為「沒有人知道接下來會發生什麼。」

他補充說：「有很多這樣聽起來很聰明的預測。但事實是，沒人知道（將來會如何）。在我看來，這是一個太複雜的系統，這是一項太新、太有影響力的技術，很難預測。」

然而，奧特曼也重申了他先前的一些預測。他表示，某些工作類別可能會整體消失，但同時也會有新的工作類型應運而生。他設想，如果我們能展望未來 100 年，屆時的工人可能不會擁有當今工人所普遍認為的「真正的工作」。

這暗示著 AI 將會徹底改變勞動力的結構與性質，需要社會各界為此做好準備。