白宮:輝達、IBM和Salesforce同意AI自律協議
鉅亨網編譯張祖仁 2023-09-12 18:50
![cover image of news article](/_next/image?url=https%3A%2F%2Fcimg.cnyes.cool%2Fprod%2Fnews%2F5322254%2Fl%2F43385a056db189b9b4a522a51307534c.jpg&w=3840&q=75)
美國白宮周二 (12 日) 宣布,包括輝達 (NVDA-US)、IBM (IBM-US) 和 Salesforce (CRM-US) 在內的多家公司,將自願加入拜登政府限制人工智慧 (AI) 風險的規定。
這些承諾分為三類,包括在向公眾推出 AI 產品之前確保其安全、將安全放在首位,以及贏得公眾對該技術的信任。
Adobe (ADBE-US)、Coherent (COHR-US)、Palantir (PLTR-US)、Scale ai 和 Stability 是簽署該協議的 8 家公司之一。亞馬遜 (AMZN-US)、Anthropic、谷歌 (GOOGL-US)、Inflection、Meta (META-US)、微軟 (MSFT-US) 和 OpenAI 自也都願加入政府的計畫。
白宮發表聲明表示:「這些承諾是政府行動的重要橋樑,也是拜登與賀錦麗政府兌現 AI 承諾和管理風險的綜合方法之一。」「政府正在制訂一項行政命令,並將繼續尋求兩黨立法,以幫助美國在負責任的 AI 開發方面發揮引領作用。」
根據協議條款,兩家公司將允許在發表 AI 系統之前對其進行內部和外部安全測試,包括其技術如何影響社會、生物安全和網絡安全,並承諾分享安全最佳實踐。
這些公司還表示,將投資於網絡安全和其他保障措施,以防止未發布的模型權重洩露和遭到駭客攻擊。它們還允許第三方報告其自己系統中潛在的安全漏洞。
在公共信任方面,這些公司將確保用戶能夠經由浮水印系統等技術了解 AI 何時生成內容。谷歌於 8 月發表其自有的浮水印技術,稱為 SynthID,該技術將標記直接嵌入到由 Imagen 文本到圖像生成器創建的圖像中。
這些科技公司進一步表示,將研究 AI 的潛在社會風險,並努力解決從氣候變化到癌症研究等問題。
得益於 OpenAI,AI 產業迅速普及。該公司於 2022 年 11 月發布了由 AI 驅動的生成型 ChatGPT 機器人。微軟在 OpenAI 上投資了數十億美元,並於 2 月發表其自家 Bing 聊天機器人和 Edge 瀏覽器。谷歌母公司 Alphabet 也發表了 Bard 機器人版本,並正在開發使用生成式 AI 的搜索引擎實驗版本。
但該技術的發展和創新步伐也引發人們的擔憂,即 AI 可能被用來做各種事情,從傳播虛假訊息到搶走各行業勞工的工作崗位。
皮尤研究中心進行的一項民意調查顯示,52% 的受訪美國人表示,他們對 AI 在日常生活中的使用更加擔心,而不是興奮。
- 不會選高股息ETF?免費講座教你實戰技巧
- 掌握全球財經資訊點我下載APP
延伸閱讀
上一篇
下一篇