ChatGPT最近火得一塌糊涂,也將AI人工智能推向了新的高潮,而生成式AI需要海量的數據進行推理訓練,高算力的GPU加速卡自然成了搶手貨。
(相關資料圖)
比如ChatGPT背后的GPT模型,其訓練參數在2018年約為1.2億個,到了2020年就猛增到近1800億個,如今恐怕至少在萬億級別。
集邦咨詢估計,生成式AI對于GPU計算卡的需求量在2萬塊左右,未來將達到3萬塊。
這其中受益最多的,自然是NVIDIA,其旗艦級計算卡A100已經在為ChatGPT默默服務,有估算需要3萬塊才能滿足ChatGPT當前的訪問量。
A100計算卡單塊售價8-9萬元左右,3萬塊就是大約25個億。
但它往往不是單賣的,而是以DGX A100服務器整套方案的方式銷售,每套八塊計算卡,算力高達5PFlops(每秒5千萬億次浮點計算),相當于前幾年的一套大型超級計算機,是大規模數據分析、AI加速計算的幾乎不二之選。
DGX A100服務器單套售價約20萬美元,3萬塊卡下來就是大約7.5億美元,相當于人民幣超過50億元。
當然,AMD也有MI100、MI200系列加速卡,今年還會推出CPU+GPU融合的全新MI300,算力也很強,但市場份額遠不如NVIDIA。
另外,有數據顯示,GPT-3訓練一次的成本約為140萬美元,對于一些更大的LLM模型,訓練成本介于200萬美元至1200萬美元之間。
DGX A100服務器
【本文結束】如需轉載請務必注明出處:快科技
責任編輯:上方文Q
標簽: NVIDIA ChatGPT 沒了礦卡 NVIDIA找到新搖錢樹
新聞排行
圖文播報
科普信息網 - 科普類網站
聯系郵箱:85 572 98@qq.com 備案號: 粵ICP備18023326號-39
版權所有:科普信息網 www.www44bkbkcom.cn copyright © 2018 - 2020
科普信息網版權所有 本站點信息未經允許不得復制或鏡像,違者將被追究法律責任!