ChatGPT變假訊息幫兇？OpenAI示警中國組織濫用

根據《路透》報導，美國人工智慧 (AI) 公司 OpenAI 周四 (5 日) 發布報告指出，該公司近期偵測到愈來愈多中國組織利用其 AI 技術從事隱蔽行動，雖然規模有限，但涉及的手法及目標範圍已逐步擴大。

OpenAI 表示，這些中國組織利用生成式 AI 的能力執行各種操作，包括生成虛假內容、輔助駭客行動與發佈分化性社群媒體內容等。該公司稱，自 2022 年底 ChatGPT 問世以來，外界一直擔憂 AI 生成技術可能被不當使用，例如快速產出類人文字、影像或音訊。

報告中提到，部分中國組織曾利用 ChatGPT 帳號製作有關中國議題的社群媒體貼文，內容涵蓋對台灣相關遊戲的批評、對巴基斯坦維權人士的假指控，以及美國國際開發署 (USAID) 業務終止的錯誤訊息。

此外，也有內容針對美國總統川普的高關稅政策發出批評，例如「關稅讓進口商品價格暴漲，但政府卻揮霍海外援助，誰該繼續吃土？」等貼文。

另一案例則顯示，中國相關的威脅行為者透過 AI 協助執行多階段的網路攻擊，包括進行開源研究、修改程式碼、調整系統設定，以及開發用於密碼破解和社群媒體自動化的工具。

OpenAI 還指出，另一個中國背景的影響力行動利用 AI 生成極化的社群媒體內容，支持美國國內的爭議議題雙方，並透過 AI 生成的大頭貼進一步放大輿論影響。

對於這份報告，中國外交部並未立即回應《路透》的置評請求。

OpenAI 自去年起定期發布平台上偵測到的惡意活動報告，舉凡駭客攻擊、假訊息及社群媒體操作等均在監控之列。

這家總部位於舊金山的初創公司，在近期一輪融資中獲得 400 億美元資金，估值達到 3,000 億美元，鞏固了其作為全球最具價值私人企業之一的地位。