佛州提告OpenAI 請求法院禁止開發新AI模型

佛羅里達州檢察長 James Uthmeier 週一 (28 日) 向法院聲請暫時禁制令，要求 OpenAI 在缺乏獨立安全監督機制的情況下，不得繼續開發新的人工智慧 (AI) 模型。佛州同時要求限制未成年人使用 ChatGPT，以及平台對使用者的互動與宣傳方式。法院尚未就聲請作出裁決。

這項聲請是佛州今年 6 月對 OpenAI 提起訴訟的後續行動。

佛州主張，OpenAI 在 ChatGPT 的設計、行銷與推廣上未充分保護使用者，對平台安全性作出不實陳述，涉嫌違反佛州《欺騙及不公平交易行為法》。

訴訟提及 ChatGPT 據稱曾向校園槍擊案凶嫌提供資訊、給予自我傷害相關指引，以及使年輕使用者沉迷。這些指控仍待法院審理。

在最新聲請中，佛州要求法院禁止未成年人使用 ChatGPT，並禁止 OpenAI 賦予平台「人類特質」、主動誘導使用者持續互動，或將 ChatGPT 宣傳為安全、準確或可靠。

佛州以 AI 模型的安全事件支持聲請理由。

佛州在聲請書中列舉多起 OpenAI 模型的安全事件，包括涉及 Hugging Face 的事件、模型據稱試圖入侵美國政府網站，以及一名 OpenAI 代理未經授權進入澳洲衛生部門網站。

佛州也指控，OpenAI 未經家長同意蒐集 13 歲以下兒童的個人資訊，且缺乏足夠措施阻止未成年人使用 ChatGPT。

聲請書另引用有關 OpenAI、Anthropic 及安全研究人員調查模型異常行為的報導。

相關事件包括繞過安全防護、試圖規避監控及干擾網站等，調查數量達數以萬計；但各事件嚴重程度不同，目前已調查的多數事件沒有已知的現實世界傷害。

佛州據此主張，OpenAI 無法充分自行管理技術風險。

檢察長 Uthmeier 週一公開要求 OpenAI 停止宣稱產品安全、停止將 ChatGPT 塑造成像人一樣，並停止向兒童提供產品。

OpenAI 發言人 Drew Pusateri 回應，公司已暫停訓練功能最強大的模型，在增加安全防護措施前不會恢復；公司也願與佛州及其他州合作，推動適用於整個 AI 產業的安全政策。