英特爾宣布Aurora genAI模型 參數規模是ChatGPT的5倍
鉅亨網新聞中心 2023-05-24 21:00
在 ChatGPT 的推動下,愈來愈多公司開始參與生成式 AI 的開發,英特爾 (INTC-US) 成為最新參與的科技巨頭,並在近日公布一個名為 Aurora genAI 的產品,它是一個主要用於科學領域的生成式 AI 模型。
英特爾 Aurora genAI 模型以 Megatron 和 DeepSpeed 為基礎,其規模達到了 1 兆個參數。相較之下,ChatGPT 的規模為 1750 億參數,Aurora genAI 在參數規模上增長了約 570%。
據指出,Aurora 超算共有 10624 個節點,每個節點 2 組 CPU 及 6 組 GPU,CPU 是 Sapphire Rapids-SP 架構的,總計 21248 個,GPU 是 Intel 最強的 Ponte Vecchio,總計 63744 個。
此外,還有 10.9PB 的 DDR5 記憶體,1.36PB 的 HBM CPU 記憶體,8.16PB 的 HBM GPU 記憶體,峰值頻寬分別可達 5.95PB/s、30.5PB/s、208.9PB/s。儲存系統則為 230PB 容量,30TB/s 頻寬。
Aurora genAI 模型將在通用文本、科學文本、科學數據和與該領域相關的代碼上進行訓練。它主要用於科學計算領域,包括生物學、癌症、大氣科學、天文學、高分子化學等領域。
- 投資10至18歲孩子的最佳方案
- 掌握全球財經資訊點我下載APP
延伸閱讀
上一篇
下一篇