最近有消息稱，美國(guó)可能進(jìn)一步限制AI芯片對(duì)我國(guó)的出口，國(guó)內(nèi)AI大模型訓(xùn)練因此受阻，那么國(guó)產(chǎn)GPU是否可以滿足AI訓(xùn)練呢？
大模型訓(xùn)練要求AI芯片能夠處理高顆粒度的數(shù)據(jù)，并且對(duì)芯片處理能力和算力速度要求更高，而且目前國(guó)內(nèi)GPU芯片的云端訓(xùn)練公司，大多只能處理單精度浮點(diǎn)計(jì)算，無(wú)法滿足大模型訓(xùn)練的雙精度浮點(diǎn)計(jì)算能力FP64需求，因此從短期來看，國(guó)產(chǎn)的GPU產(chǎn)品還難以應(yīng)對(duì)AI大模型的訓(xùn)練，這意味著如果國(guó)外AI芯片被禁售，國(guó)內(nèi)AI大模型接下來的研究將舉步維艱，但是國(guó)內(nèi)已經(jīng)取得突破，天智數(shù)芯對(duì)外宣布，使用天垓100加速卡的算力集群已成功訓(xùn)練70億參數(shù)模型19天，證明了天智數(shù)芯能夠在一些中小參數(shù)模型的訓(xùn)練上有所作為，目前國(guó)內(nèi)正在積極探索AI大模型相關(guān)訓(xùn)練的芯片技術(shù)，相信未來在AI大模型訓(xùn)練上必然能夠逐步取得進(jìn)展。
今天的分享就到這里啦，EBYTE每一天都致力于更好的助力物聯(lián)化、智能化、自動(dòng)化的發(fā)展，提升資源利用率，更多串口服務(wù)器、數(shù)傳電臺(tái)、lora無(wú)線模塊等產(chǎn)品更多資料，感興趣的小伙伴可以登錄我們的億佰特官網(wǎng)和企業(yè)公眾號(hào)（微信號(hào)：cdebyte）進(jìn)行了解，也可以直接撥打400電話咨詢技術(shù)專員！
