OpenAI制定AI安全計畫 允許董事會推翻其決定

人工智慧公司 OpenAI 周一 (18 日) 在其網站上發布計畫，制定一個框架來解決其最先進模型的安全問題，包括允許董事會推翻安全決策。

微軟支援的 OpenAI ，只有在網路安全和核威脅等特定領域被認為安全的情況下才會部署其最新技術。該公司也正組建一個諮詢小組負責審查安全報告，並將其發送給公司的高階主管和董事會，雖由高層做出決定，但董事會可以推翻這些決定。

自 ChatGPT 推出一年以來，生成式人工智慧 (Gen AI) 的潛在危險一直是研究人員和公眾關注的焦點，其書寫類似人類自然對話甚至文學的能力讓用戶眼花繚亂，但也因其潛在的安全性引發了安全擔憂，批評者擔心該技術將傳播虛假訊息並操縱人類。

今年 4 月，一群 AI 產業領袖和專家簽署一封公開信，呼籲暫停開發比 OpenAI 的 GPT-4 更強大系統 6 個月，主張其對社會存在潛在風險。

《路透 / Ipsos》今年 5 月民意調查發現，2/3 以上的美國民眾擔心 AI 可能帶來負面衝擊，61% 受訪者認為它可能威脅文明。