MLPerf測試結果出爐 英特爾Xeon 6的效能較4年前提升17倍

開放工程聯盟 (MLCommons) 日前公布業界標準 AI 效能基準測試套件 MLPerf Inference v4.1 的結果。英特爾 (INTC-US) 企業副總裁暨資料中心 AI 解決方案總經理 Pallavi Mahajan 指出，Xeon 6 在自然語言處理 (BERT 模型) 上的效能表現提升高達 17 倍，預計今年稍晚將正式發表，並攜手合作夥伴與客戶共同促進 Xeon 6 的普及。

英特爾在最新的 MLPerf 基準測試中，支援思科 (CSCO-US)、戴爾 (DELL-US)、慧與 (HPE)、廣達 (2382-TW) 和美超微 (SMCI-US) 等 5 家 OEM 夥伴。每位客戶皆提交了使用第 5 代 Xeon 可擴充處理器的 MLPerf 測試結果。

英特爾此次將第 5 代 Intel Xeon 可擴充處理器和首次參與測試並搭載效能核心 (P-core) 的 Intel Xeon 6 處理器，提交 6 項 MLPerf 基準測試結果。相較於第 5 代 Xeon 處理器，Xeon 6 處理器在 AI 效能上實現約 1.9 倍的幾何平均效能 (geomean performance) 提升。

英特爾表示，AI 系統需要 CPU 作為關鍵元件，以便於各種情境中成功布署解決方案。英特爾 Xeon 提供優異的 AI 推論解決方案，包括古典機器學習 (ML) 和向量搜尋嵌入 (vector search embedding)。

利用 MLPerf Inference v4.1 測試基準，英特爾提交了第 5 代英特爾 Xeon 處理器和搭載效能核心 (P-core) 的 Xeon 6 處理器，並以 ResNet50、RetinaNet、3DUNet、BERT、DLRM v2 和 GPT-J 模型進行測試。相較於第 5 代 Intel Xeon 處理器，Xeon 6 在六項基準測試中平均提供約 1.9 倍的 AI 推論效能提升。而英特爾是唯一持續向 MLPerf 提交 CPU 測試結果的伺服器處理器供應商。

英特爾自四年前首次提交 MLPerf 測試結果以來，在 CPU 的 AI 效能方面已經取得顯著進展。與 2021 年第 3 代 Intel Xeon® 可擴充處理器相比，Xeon 6 在自然語言處理 (BERT 模型) 上的效能表現提升高達 17 倍，在電腦視覺 (ResNet50 模型) 工作負載上的效能則提升高達 15 倍。

英特爾在其 CPU 產品藍圖規畫中持續投資 AI 領域，例如藉由新的資料類型與效率提升，持續創新 Intel Advanced Matrix Extensions(AMX)。

英特爾強調，最新的 MLCommons 基準測試結果突顯 Xeon 處理器如何為 OEM 提供強大的 CPU AI 伺服器解決方案。隨著 AI 運算需求的成長，許多客戶在執行企業工作負載的同時，也在執行 AI 工作負載，OEM 會將 MLPerf 基準測試結果列為優先考量條件，以確保能為顧客提供針對 AI 工作負載最佳化的高效能 Xeon 系統。