美國政府擬強制AI開發商和雲端供應商主動報告

美國商務部周一 (9 日) 表示，提議要求先進人工智慧 (AI) 開發商和雲端運算供應商提供詳細的報告要求，以確保技術安全並能夠抵禦網路攻擊。

該部工業和安全局的提案將強制向聯邦政府報告「尖端」AI 模型和計算集群的開發活動。

它還需要報告網路安全措施以及所謂的紅隊工作的結果，例如測試危險能力，包括協助網路攻擊的能力或降低非專家開發化學、生物、放射性或化學物質的進入障礙的能力。

外部紅隊多年來一直在網路安全領域用於識別新風險；這個名詞取自美國冷戰模擬，其中敵人被稱為「紅隊」。

生成式 AI 既讓人興奮，也讓人擔心它可能會讓一些工作變得過時、顛覆選舉，並可能壓倒人類並產生災難性影響。

商務部表示，根據該提案收集的資訊「對於確保這些技術符合嚴格的安全性和可靠性標準、能夠抵禦網路攻擊以及減少被外國對手或非國家行為者濫用的風險至關重要」。

美國總統拜登於 2023 年 10 月簽署一項行政命令，要求對美國國家安全、經濟、公共衛生或安全構成風險的 AI 系統開發商，在向公眾發布之前與美國政府分享安全測試結果。

該規則將為先進 AI 模型和計算集群建立報告要求。

在監管推動之際，國會關於 AI 的立法行動陷入停滯。

今年稍早時，國際清算銀行 (BIS) 對 AI 開發人員進行了試點調查。由於新興產業引發了安全擔憂，拜登政府已採取一系列措施阻止中國在 AI 領域使用美國技術。

頂級雲端供應商包括亞馬遜 (AMZN-US) 的 AWS、Alphabet (GOOGL-UE) 的谷歌雲端和微軟 (MSFT-US) 的 Azure 部門。