英特尔面向中国市场推出全新 Gaudi2 处理器:总内存带宽 2.4TB / s、用于训练 AI
感謝網友 西窗舊事 的線索投遞!
7 月 11 日消息,英特爾今日面向中國市場推出全新 Gaudi2 處理器,主要應用于加速 AI 訓練及推理。
匯總該款處理器參數信息:
-
24 個可編程 Tensor 處理器核心(TPCs)
-
21 個 Gbps(RoCEv2)以太網接口
-
96GB HBM2E 內存容量
-
2.4TB / 秒的總內存帶寬
-
48MB 片上 SRAM
-
集成多媒體處理引擎
英特爾 Gaudi2 處理器的架構重點在于高效擴展,以滿足大規模語言模型及生成式 AI 模型的需求;該處理器的每張芯片集成了 21 個專用于內部互聯的 100Gbps 以太網接口。
在 Stable Diffusion 訓練上,英特爾 Gaudi2 處理器展示了從 1 張卡至 64 張卡近線性 99% 的擴展性,從 256 個加速器到 384 個加速器可實現接近線性的 95% 擴展效果。
英特爾與浪潮信息合作的 AI 服務器 NF5698G7 就是基于 Gaudi2 處理器,NF5698G7 是專為面向生成式 AI 市場創新開發的新一代 AI 服務器,該服務器內部集成了 8 顆 Gaudi2 加速卡 HL-225B。
廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節省甄選時間,結果僅供參考,所有文章均包含本聲明。
總結
以上是生活随笔為你收集整理的英特尔面向中国市场推出全新 Gaudi2 处理器:总内存带宽 2.4TB / s、用于训练 AI的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 脂肪粒是否可以针刺入
- 下一篇: 外婆的综合情况