全国性能最强!腾讯发布高性能算力集群:专为AI大模型训练准备
生活随笔
收集整理的這篇文章主要介紹了
全国性能最强!腾讯发布高性能算力集群:专为AI大模型训练准备
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
4月14日快科技獲悉,騰訊云宣布發布面向大模型訓練的新一代HCC(High-Performance Computing Cluster)高性能計算集群。
該計算集群的整體性能比過去提升了3倍,堪稱國內目前性能最強的大模型計算集群。
據悉,該計算集群搭載NVIDIA H800 Tensor Core GPU,能夠提供高性能、高帶寬、低延遲的算力支撐。
而針對大模型訓練,計算集群有著訓練框架AngelPTM,該框架對內支持了騰訊混元大模型的訓練,并在去年10的的萬億參數大模型訓練中,成功將時間縮短了80%。
此外,騰訊用于AI推理的自研芯片紫霄已經完成量產,它采用自研存算架構與加速模塊,能夠提供高達3倍的計算加速性能,以及超過45%的整體成本節省。
而騰訊云提供的大模型能力與工具箱,也能夠幫助企業根據具體需求和場景精調訓練,從而進一步提升效率,實現AI應用的快速部署。
根據騰訊云官方的數據,新的HCC計算集群能夠將大模型的訓練時間從上一代的11天壓縮至4天,有效節省了大量時間。
總結
以上是生活随笔為你收集整理的全国性能最强!腾讯发布高性能算力集群:专为AI大模型训练准备的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 如何根据jar包的名称找到包含对应源代码
- 下一篇: SAP Marketing Cloud的