科普信息網

單價25萬起步 GPT-5被指需要5萬張H100顯卡才能訓練:NVIDIA賺麻了

發布時間:2023-08-07 09:58:38 來源:快科技 責任編輯:caobo


(相關資料圖)

盡管OpenAI CEO之前否認,但業界還是相信他們已經在訓練GPT-5大模型,規模將是GPT-4的10倍以上,但這也意味著更燒錢,尤其是用于訓練AI的顯卡極為稀缺。

全球這么多搞AI大模型的,到底用了多少AI顯卡是各家的秘密,很少公開準確數據,GPT-4猜測是在10000-25000張A100顯卡上訓練的,GPT-5所需的顯卡還是迷,馬斯克估計的是30000-50000張H100顯卡,性能強得多。

除了OpenAI之外,其他公司對高性能AI顯卡的需求也居高不下,Meta、谷歌、微軟、蘋果、特斯拉及馬斯克自己都在搞各種AI,預測總需求高達萬張H100顯卡,價值超過150億美元。

這還只是國外網友分析的美國科技行業需求,實際上國內的需求不比美國少,即便只能購買特供版的A800、H800加速卡,但這沒有妨礙國內公司投身AI大模型,不惜加價搶購AI顯卡。

在當前的市場上,只有NVIDIA才能滿足AI顯卡的需求,AMD及Intel的AI顯卡不僅性能、生態上存在問題,而且供貨也跟不上,AMD的大殺器MI300X要到年底才能出貨,2024年才能大批量上市。

歸根到底,這波又是NVIDIA賺麻了,AI顯卡的需求將持續到2024年底,這一年半中都是供不應求的情況,H100顯卡售價25萬元起步,加價的話就難說了,漲幅波動很大。

標簽:

上一篇:比亞迪騰勢D9尊享型賣34.98萬!要搶30-35萬級6/7座家用SUV用戶
下一篇:最后一頁

新聞排行