白宮科學顧問呼籲加強防範AI風險

外媒週一 (21 日) 報導，白宮科技政策辦公室主任 Arati Prabhakar 受訪時透露拜登政府目前重點是了解 AI 技術與其影響，希望加強防範 AI 風險。

白宮科學顧問 Prabhakar 正成為拜登政府摸索降低 AI 風險過程的關鍵人物，她週一受訪時強調，深度學習、機器學習系統本質上是不透明的，並將它們比作黑匣子。

然而，她也指出，生活中的許多風險是無法解釋，但人們已經找到了保證它們安全的方法。例如，藥品的開發經歷類似的過程，從假設開始，但最終建立臨床試驗和安全方案。Prabhakar  認為，類似的過程可以應用於 AI，可以在確保 AI 的安全性和有效性。

Prabhakar 表達對特定 AI 的擔憂，包括聊天機器人有可能提供製造武器的指令。此外，她還談到了 AI 系統中存在偏見問題，並指出了面部辨識技術導致黑人被錯誤逮捕的特殊案例。

Prabhakar 強調，AI 發展過程中隱私權的重要性，單獨的數據在組合後如何能夠洩露個人資訊。

關於與科技公司的合作，Prabhakar 承認美國企業在推動 AI 方面做出的寶貴貢獻。然而，她指出，即使企業自願承諾遵守 AI 安全標準，市場運營的現實也構成了限制。她表示希望更多的公司能夠站出來做出類似的承諾，同時也強調政府在追究行政和立法部門責任方面的功能。