AI代理闖禍、監管出手！FTC調查OpenAI與Anthropic

美國聯邦貿易委員會(FTC)正對OpenAI、Anthropic及其他人工智慧(AI)業者展開全產業調查，檢視產品安全與對消費者的潛在風險。近期AI代理入侵第三方系統的事件接連曝光，加深華府與矽谷對技術失控的疑慮。

綜合外媒周三(30日)報導，FTC準備在未來數周向相關業者發出正式資料要求，調查企業是否遵守消費者保護法。FTC高階官員表示，調查也將涵蓋AI研究機構METR，並要求主要開發商高層作證。這是美國首次正式針對失控AI代理採取監管調查行動。

7月，OpenAI一套AI代理系統入侵開源平台Hugging Face。官員表示，代理先探查漏洞，再發動大規模攻擊，使FTC更加急於處理相關風險。過去數周，OpenAI也陸續通知政府與大學，其網站曾在模型訓練期間遭存取。

FTC主席Andrew Ferguson上周表示，若開發商在資安測試中指示代理的行為導致駭侵，就應對造成的損害負責。消息人士指出，他在Hugging Face事件前，已對相關企業抱持疑慮。OpenAI與Anthropic均未立即回應置評。

川普周二與主要AI企業高層會面，業者同意建立自願性標準。川普為優先確保美國在AI領域的主導地位，多次稱相關恐懼是騙局，但也表示，政府可依現行法律追究AI企業造成的損害。

FTC負責執行反壟斷與消費者保護法，長期關注資安及資料外洩，過去案件曾使企業支付數十億美元，但調查也可能以不採取行動結案。去年，FTC另曾要求Alphabet(GOOGL-US)(GOOG-US)旗下Google、OpenAI、Meta(META-US)等業者提供資料，檢視AI聊天機器人對兒童的影響。