AI技術發展迅猛風險升級！ 才過半年 全球再開AI安全峰會

南韓周二 (21 日) 舉行為期兩天的 AI 首爾峰會，並發表以安全、創新、包容三大原則的《首爾宣言》，今 (22) 日各國數位部長、專家及其他人士將繼續舉行面對面會議。AI 首爾峰會是去年 11 月在英國舉行的首屆 AI 安全峰會的後續會議，這場峰會由南韓跟英國政府共同主辦。

《韓聯社》報導，G7 成員國領袖、聯合國和經合組織 (OECD) 等國際機構以及三星、NAVER、Google(GOOGL-US) 、亞馬遜 (AMZN-US) 、Open AI、微軟 (MSFT-US) 、Meta(META-US) 、xAI 等相關企業周二齊聚一堂，討論 AI 潛在風險及如何推廣其優勢，並推動創新。

南韓總統尹錫悅在開幕致詞中表示，作為國際社會負責任的一員，南韓將推動 AI 朝著安全、創新、包容的方向發展，本次會議將成為凝聚南韓的《數位權利憲章》、聯合國大會涉全球 AI 決議、G7 的廣島 AI 進程等，推動全球 AI 規範和治理結構發展的契機。

英國政府則表示，橫跨北美、亞洲、歐洲和中東的 16 家企業就 AI 開發的安全承諾達成協議，這是歷史首次，達成協議的公司包括 ChatGPT 母公司 OpenAI、DeepMind 和 Anthropic、微軟、亞馬遜、IBM 和 Meta，以及中國的智譜 AI 等等。

峰會上還發表《首爾宣言》和《關於 AI 安全科學的國際合作首爾意向書》，AI 安全、創新、包容是相互連接的目標，國際社會須將其列入全球 AI 治理結構首要議題。各方敦促通過以人為本的 AI 技術解決全球性難題，增進民主、法治、人權、自由等價值，加大隱私保護力道，消除數字和 AI 鴻溝，進而提升人類福利水準。

英國首相蘇納克跟尹錫悅在聯合發表的文章中也強調，距世界領袖在英國舉行 AI 峰會才不過六個月，但即便時間如此地短，AI 格局也已經出現巨大變化，改變如此之快，要求政府的工作速度也必須加快。去年英國會議重點在於 AI 的安全問題，首爾峰會的議程則擴大到創新和包容性上面。

在尹錫悅和蘇納克的聯合署名文章中，兩位領導人計畫要求企業採取更多措施，以展示其評估和應對內部風險能力，因為幾乎每周都有新的 AI 模型發表，政府仍在了解風險可能會出現什麼地方，以及管理這些風險的最佳方法。

在全球政府努力了解情況之外，全球各大 AI 重量級企業也在共同制定產業標準，Meta 和亞馬遜周一 (21 日) 宣佈將加入 Frontier Model 論壇，該組織去年由甲骨文、Google、微軟和 OpenAI 共同創立。

本屆峰會料將通過一項關於 AI 的新協定，今年 3 月聯合國大會已批准第一項關於安全使用 AI 系統的決議，美中兩國本月初還舉行首次 AI 政府間對話，討論了如何攜手應對 AI 的快速崛起。