“寧王”一線工人：做四休三想加班，沒活干盼著忙起來
“寧王”一線工人：做四休三想加班，沒活干盼著忙起來
2023-04-19 20:09:26
本文來源：時(shí)代財(cái)經(jīng) 作者：謝斯臨
圖片來源：Pixabay
ChatGPT爆火帶動AI芯片需求飆升。
(相關(guān)資料圖)
截至上周五，英偉達(dá)最新發(fā)布的旗艦AI芯片H100在ebay上的售價(jià)超過4萬美元一枚。相比此前零售商3.6萬美元的報(bào)價(jià)，已提價(jià)明顯。
這一價(jià)格仍在持續(xù)上漲。4月19日，時(shí)代財(cái)經(jīng)搜索eBay時(shí)發(fā)現(xiàn)，目前共有5家店鋪掛牌銷售H100芯片，售價(jià)普遍達(dá)到4.5萬美元左右，其中標(biāo)價(jià)最高的一枚超過5萬美元。以人民幣計(jì)，相當(dāng)于不到一周時(shí)間漲價(jià)近7萬元。
而在國內(nèi)，AI應(yīng)用的主力芯片——由英偉達(dá)2020年發(fā)布的A100，其交易價(jià)格也在極短時(shí)間內(nèi)迅速飆升。從事GPU服務(wù)器銷售的文強(qiáng)（化名）向時(shí)代財(cái)經(jīng)表示，從年初開始到現(xiàn)在短短三個(gè)月多時(shí)間里，A100的價(jià)格已經(jīng)從原本的6萬元左右一路漲至9萬元，甚至一度超過10萬元，漲幅超過50%。
在文強(qiáng)看來，A100售價(jià)還將繼續(xù)上漲。去年8月，美國政府發(fā)布政策，禁止英偉達(dá)A100、H100兩款A(yù)I芯片售往中國。目前，國內(nèi)在售的產(chǎn)品都是此前的存貨。業(yè)內(nèi)預(yù)估，國內(nèi)A100芯片僅有3萬枚存貨，奇貨可居。
為符合美國政府出口管制政策，英偉達(dá)隨后宣布推出在性能、帶寬上有所閹割的“減配版”A800、H800芯片。受限于產(chǎn)能問題，這兩款芯片同樣缺貨，價(jià)格也隨之水漲船高。
文強(qiáng)告訴時(shí)代財(cái)經(jīng)，自己手中A800報(bào)價(jià)也已經(jīng)高達(dá)8.7萬元，且僅剩16枚，售完即止。如果需求量大、需要訂貨，報(bào)價(jià)還會再漲5000元至9.2萬元，直逼A100芯片售價(jià)。
“一天一個(gè)價(jià)，一天比一天貴。”
A100芯片缺口達(dá)30萬枚
算力、算法和數(shù)據(jù)構(gòu)成了AI時(shí)代的三要素，而算力又是基礎(chǔ)設(shè)施。有多少枚GPU、多少算力，被認(rèn)為是大語音模型研發(fā)和創(chuàng)業(yè)成敗最為關(guān)鍵的因素之一。
正是因此，在海內(nèi)外一眾巨頭和創(chuàng)業(yè)者涌入大語言模型研發(fā)訓(xùn)練的當(dāng)下，市場對AI芯片的需求量飆升。
據(jù)前人工智能NLP企業(yè)首席科學(xué)家、千芯科技董事長陳巍測算，國內(nèi)如果想要直接訓(xùn)練出一個(gè)GPT-3級別的大模型，最少需要3000到5000枚A100級別的AI芯片。
這意味著國內(nèi)市場存在巨大的供應(yīng)缺口。目前除了阿里巴巴、百度等互聯(lián)網(wǎng)巨頭之外，商湯科技、昆侖萬維、毫末智行、360、知乎等公司也官宣了自己的大模型，如果再加上王小川、王慧文、李開復(fù)等創(chuàng)業(yè)者，中國年內(nèi)即將推出的大模型數(shù)量已經(jīng)超過10個(gè)。光是滿足這些企業(yè)的需求就需要3萬到5萬枚A100級別的AI芯片。
這還只是研發(fā)訓(xùn)練層面的需求量。陳巍向時(shí)代財(cái)經(jīng)表示，如果想要實(shí)際部署，算力的需求量只會更大。以保守情況估計(jì)，國內(nèi)A100級別的AI芯片缺口在30萬枚左右。
“我們算過，如果百度要在自己的搜索引擎內(nèi)接入類似ChatGPT這樣的對話模型，可能需要10萬塊A100級別的AI芯片，這還只是假設(shè)每個(gè)人只對話一次的保守測算。”
正是因此，A800、H800芯片遭到包括服務(wù)器、互聯(lián)網(wǎng)廠商在內(nèi)的公司哄搶。
一份流傳的《阿里AI專家交流紀(jì)要》顯示，百度年初緊急下單3000臺8枚芯片的A800服務(wù)器，這意味著需要2.4萬枚A800，預(yù)計(jì)全年百度會有A800和H800共5萬枚需求。阿里云預(yù)計(jì)在今年需要1萬枚左右，其中6000枚是H800。
在海外，巨頭們的搶購也同樣瘋狂。據(jù)媒體報(bào)道，馬斯克為推進(jìn)推特內(nèi)部的新AIGC項(xiàng)目，購買了大約1萬枚AI芯片。而自2022年末開始，微軟就實(shí)行了GPU資源配額供給，但今年1月以來審批時(shí)間越來越長，如今部分申請需要等待幾天甚至幾周才能獲批。同時(shí)，微軟向英偉達(dá)預(yù)訂的數(shù)萬枚AI芯片，交貨無期。
或拖慢國產(chǎn)大語言模型發(fā)展
對于大語言模型訓(xùn)練來說，英偉達(dá)幾乎成為唯一的贏家。
去年，國產(chǎn)芯片公司壁仞科技發(fā)布的BR100，已經(jīng)被普遍認(rèn)為能夠在算力和能效比上達(dá)到全球領(lǐng)先水準(zhǔn)。然而，在配套的產(chǎn)品生態(tài)上，幾乎無人能與英偉達(dá)抗衡。
一位AI芯片設(shè)計(jì)相關(guān)的從業(yè)者向時(shí)代財(cái)經(jīng)表示，英偉達(dá)于2006年發(fā)布的CUDA平臺早已成為應(yīng)用最為廣泛的AI開發(fā)生態(tài)系統(tǒng)，然而CUDA幾乎只支持英偉達(dá)的Tesla架構(gòu)GPU，這導(dǎo)致開發(fā)者難以脫離英偉達(dá)芯片，進(jìn)行生成式AI的研發(fā)以及訓(xùn)練?！皫缀鯖]有芯片公司可以撼動英偉達(dá)的統(tǒng)治地位。”
IDC數(shù)據(jù)顯示，國內(nèi)GPU服務(wù)器在2021年占國內(nèi)服務(wù)器市場規(guī)模的比例超過88.4%，英偉達(dá)的產(chǎn)品占比超80%。
但受限于美國政府的出口管制政策，中國一眾互聯(lián)網(wǎng)大廠、大語言模型的創(chuàng)業(yè)者都無法及時(shí)獲得最先進(jìn)的AI芯片。在國內(nèi)難以產(chǎn)出替代產(chǎn)品的情況下，毫無疑問將會影響國產(chǎn)大語言模型的發(fā)展進(jìn)程。
在陳巍看來，中國企業(yè)如果使用“減配版”芯片，綜合帶寬性能可能只有同期旗艦型號的六成。這樣需求量更大，跑得卻更慢，綜合成本至少要高出20%至30%?！斑@很有可能是賺錢和不賺錢的分水嶺，活下去和活不下去的分水嶺?！?/p>
關(guān)鍵詞：
2023-04-19 20:12:46
2023-04-19 20:06:38
2023-04-19 19:34:35
2023-04-19 19:07:14
