推理計算成為突破口,性價比優(yōu)勢是關(guān)鍵。
英偉達(dá)在AI芯片市場的壟斷地位,正面臨前所未有的挑戰(zhàn)。
AMD、亞馬遜等科技巨頭,以及SambaNova Systems、Groq等初創(chuàng)公司紛紛瞄準(zhǔn)大模型推理側(cè)發(fā)力,推出各類定制芯片,在可靠性和成本端不斷進(jìn)步。
這些新玩家不僅帶來了更具性價比的選擇,更贏得了重要客戶的認(rèn)可。
例如,Meta已開始使用AMD的MI300芯片支持其新AI模型Llama 3.1 405B的推理計算;亞馬遜的Trainium 2芯片,得到了包括蘋果在內(nèi)的潛在用戶的好評。
市場研究機(jī)構(gòu)Omdia預(yù)計,2024年數(shù)據(jù)中心在非英偉達(dá)芯片上的支出將增長49%,達(dá)到1260億美元。
似乎,市場格局的變化已經(jīng)開始,AI芯片領(lǐng)域的競爭正在進(jìn)入一個更加多元化的競爭新階段。
科技巨頭紛紛入局,推理計算成為突破口
AMD的MI300芯片在發(fā)布首年,就預(yù)計創(chuàng)造超50億美元的銷售額。與此同時,亞馬遜在奧斯汀北部研發(fā)了新一代AI芯片Trainium。
除了傳統(tǒng)科技巨頭,SambaNova Systems、Groq和Cerebras Systems等初創(chuàng)公司也在積極布局。這些公司聲稱在推理方面能夠提供比英偉達(dá)更快的速度、更低的工行和更便宜的價格。
而“推理”階段,正成為競爭對手突破英偉達(dá)壟斷的關(guān)鍵。
“真正的商業(yè)價值來自于推理,而推理正在開始規(guī);备咄 CEO Cristiano Amon表示。Amon稱,高通計劃使用亞馬遜的新芯片執(zhí)行 AI 任務(wù),“我們開始看到變革的開始”。
在成本方面,英偉達(dá)現(xiàn)有芯片售價高達(dá)1.5萬美元,其新款Blackwell芯片預(yù)計將達(dá)到數(shù)萬美元。
相比之下,競爭對手提供了更具性價比的選擇。德克薩斯高級計算中心執(zhí)行主任Dan Stanzione表示,由于功耗和價格優(yōu)勢,該中心計劃在使用英偉達(dá)Blackwell超級計算機(jī)的同時,采用SambaNova的芯片進(jìn)行推理任務(wù),因為它們的功耗和價格較低。
亞馬遜展現(xiàn)雄心
亞馬遜在AI芯片領(lǐng)域表現(xiàn)出強(qiáng)烈的進(jìn)取心,今年已投入750億美元用于AI芯片等計算硬件。其新款Trainium 2芯片的性能是前代產(chǎn)品的4倍,并已宣布更強(qiáng)大的Trainium 3芯片計劃。
舊金山AI初創(chuàng)公司Poolside的CTO Eiso Kant估計,相比英偉達(dá)的硬件,Trainium 2在每美元計算性能上提升了40%。更重要的是,亞馬遜計劃在全球數(shù)據(jù)中心提供基于Trainium的服務(wù),這對推理任務(wù)尤為重要。
值得注意的是,亞馬遜還與AI初創(chuàng)公司Anthropic達(dá)成合作,將建造一個包含數(shù)十萬枚新Trainium芯片的巨型AI工廠,其計算能力將是Anthropic此前使用過的任何系統(tǒng)的5倍。
盡管如此,競爭加劇并不意味著 Nvidia 短期就會失去領(lǐng)先地位。英偉達(dá)CEO黃仁勛仍然強(qiáng)調(diào),公司在AI軟件和推理能力方面具有重大優(yōu)勢,新款Blackwell芯片的需求依然強(qiáng)勁。
在斯坦福大學(xué)的一次演講中,黃仁勛表示:
“我們產(chǎn)品的總擁有成本非常劃算,即使競爭對手的芯片是免費的,它們也不夠便宜。”