一邊拚上市、一邊示警！Anthropic坦言AI可能帶來災難性風險

人工智慧(AI)公司Anthropic在首次公開發行(IPO)公開說明書中警告，政府對公司及其技術的態度，可能影響商業客戶、合作夥伴與其他業務關係。據《路透》取得的文件，政府機關合約占Anthropic全年營收不到1%，但政策衝擊可能延伸至更廣泛的業務。

企業通常會揭露政策變動風險，政府承包商尤其如此。不過，Anthropic的警告範圍更廣，除了政府觀感可能波及商業往來，也提醒先進AI可能對人類造成「災難性或生存威脅」。對一家憑藉同類技術獲利、IPO估值可能達2兆美元的公司而言，這項揭露格外引人注目。

隨著AI快速發展、全球競爭激烈且監管有限，Anthropic成為安全疑慮的焦點。在自主AI代理接連傳出駭侵事件後，執行長阿莫戴呼籲產業放慢開發步調，讓AI安全議題受到更多關注。

阿莫戴上周日與美國總統川普共進晚餐。儘管加強AI監管的呼聲升高，川普大致不支持這些訴求。《路透》周三報導，聯邦貿易委員會(FTC)正對包括Anthropic在內的AI業者展開全產業調查。

Anthropic在文件中列舉過去一年可能傷害業務的政府措施，包括川普2月下令聯邦機關停用其模型，以及美國國防部將公司列為國家安全供應鏈風險。公司表示，這些事件可能造成重大營收損失或業務中斷。

美國商務部6月也對Fable 5與Mythos 5模型實施全球出口限制，迫使Anthropic為遵守規定，停用所有客戶的相關模型。限制後來解除，公司也重新部署模型，但警告未來仍可能出現類似措施。

公司表示，無論最終結果如何，這類措施都可能引發負面報導、輿論檢視，損害既有及潛在客戶、夥伴、員工與投資人的觀感。向政府銷售產品也有額外風險，包括政府對公司或技術的看法改變。