金融詐騙危機竄升!OpenAI執行長:除了密碼 AI已擊敗多數ID驗證方式 語音、影像都能仿
鉅亨網編譯許家華
在美國聯準會 (Fed) 周二 (22 日) 於華盛頓特區舉行的會議上,OpenAI 執行長阿特曼(Sam Altman)對在座銀行高管和監管機構表示,他對金融機構在應對人工智慧 (AI) 所引發的詐騙問題上感到擔憂,因為 AI 技術日益成熟,許多金融機構仍在使用如聲音印記等不安全的身份驗證方式,這是極其危險的。

阿特曼在會議中提到:「我對此非常緊張。據我所知,仍有一些金融機構會接受聲音印記作為身份驗證。當你需要轉移大量資金或執行其他操作時,只需說出驗證短語,系統就會照要求做。這樣的作法實在是太瘋狂了。」
他強調,人工智慧已經「完全擊敗了目前大多數的身份驗證方式,除了密碼以外。」他進一步指出,許多現代的身份驗證方法,如自拍或語音識別,可能無法抵擋 AI 的攻擊。他警告說,隨著這些技術的進步,金融詐騙危機可能即將來臨。
阿特曼的公司開發了 ChatGPT,該產品在 2022 年底推出後迅速普及了生成式人工智慧。隨著 ChatGPT 的問世,監管機構開始警告公眾要提防濫用 AI 的詐騙者,這些詐騙者可能會危及消費者的財產和身份。美國財政部的金融犯罪執法網絡(FinCEN)在去年發布的警報中指出,越來越多的金融機構報告懷疑有人使用「深度偽造媒體」,特別是使用虛假的身份證明文件來繞過身份驗證和認證方法。
阿特曼指出,通過語音通話進行的金融詐騙行為,像是冒充某人的孩子或父母要求匯款,將會出現新的形式。他預測,未來可能會出現無法與現實區分的視訊通話詐騙。他強調,民眾需要學會如何驗證請求,以避免成為詐騙的受害者。
Fed 副主席米歇爾 · 鮑曼(Michelle Bowman)回應說,中央銀行可能會尋求新的方法來利用 AI 應對這些問題。她表示:「這可能是我們可以考慮合作的一個方向,識別這些幻覺或故意冒充的行為,我認為這將是一件非常有益的事情。」
全球的銀行和基金經理對這些利用 AI 針對客戶資金的惡意活動保持警惕,同時也在積極採用 AI 技術,以期提高盈利、降低成本或保持競爭優勢。阿特曼的公司向金融機構銷售產品,以自動化員工的任務、撰寫報告和分析數據。他表示,更多公司意識到如何使用 AI 工具將對 OpenAI 帶來好處。
在會議上,阿特曼半開玩笑地說:「我保證我不是來這裡做電視廣告的,但我們當然希望與你們中的任何人合作。」
延伸閱讀
上一篇
下一篇