menu-icon
anue logo
澳洲房產鉅亨號鉅亨買幣
search icon
美股

Meta宣布AI訓練與推理晶片計畫 首款客製化晶片問世

鉅亨網編譯段智恆 2023-05-19 02:39

cover image of news article
Meta宣布AI訓練與推理晶片計畫 首款客製化晶片問世(圖:REUTERS/TPG)

臉書母公司 Meta Platforms(META-US) 周四(18 日)公開旗下資料中心專案支援人工智慧(AI)工作的細節,其中提到已打造一款客製化晶片簡稱「MTIA」,用於加快生成式 AI 模型的訓練。這是 Meta 首次推出 AI 客製化晶片,該公司表示 MTIA 是加快 AI 訓練和推理工作的晶片「家族」的一份子。

MTIA 全稱為 Meta 訓練和推理加速器(Meta Training and Inference Accelerator)。所謂推理是指運作經過訓練的模型。MTIA 是一種客製化晶片(ASIC),也就是將不同電路整合在一塊板上的晶片,可以將它進行程式設計,執行一項或多項任務。

Meta 稱,2020 年設計第一代 MTIA 晶片,那是同名 MTIA 專案的部分工作。打造第一代晶片的目的是提高推薦模型的效率,那些模型服務於廣告和其他新聞推送內容。第一代 MTIA 可以將內部 128MB 的記憶體擴展到高達 128GB。在 Meta 設計的基準測試中,它處理了低等和中等複雜度的 AI 模型,效率比 GPU 高。

Meta 的軟體工程師 Joel Cohurn 介紹新晶片時說,Meta 最初用圖形處理器(GPU)執行推理任務,發現 GPU 不太適合這種工作。用 GPU 固然可以大幅優化軟體,但對真實模型的效率很低,現實配置時難度大、成本高,所以 Meta 需要 MTIA。

今年 ChatGPT 掀起 AI 的熱潮後,Meta 正在努力追趕其他矽谷巨頭加速開發 AI 功能的腳步。

2 月 Meta 推出針對研究社區的大型語言模型 LLaMA ,不同於 ChatGPT 和必應這類聊天機器人,它是開源的「研究工具」,可以在非商業許可下提供給政府、社區和學術界的研究人員和實體工作者。當月有報導指出,Meta 將 AI 率先用於廣告功能,推出名為 Advantage + 的廣告產品,針對不同的使用者,讓 AI 根據演算法自動生成廣告。

上月初傳出 Meta 年底前推出 AI 廣告工具的消息。Meta 技術長 Andrew Bosworth 當時說,Meta 將推出生成廣告圖像的 AI 工具,説明公司針對不同的受眾製作不同的圖像。

上月末 Meta 公布優於預期的第一季業績,並承諾要對火爆的 AI 領域加大押注。Meta 執行長祖克柏評價第一季業績時表示,AI 推動應用程式(App)和業務取得良好成果,還在業績電話會上說,對 AI 和元宇宙要兩手抓。





Empty