7月23日，阿布扎比科技控股集團(tuán) G42 近日宣布推出全球最快的超級(jí)計(jì)算機(jī) Condor Galaxy-1 (CG-1)，該計(jì)算機(jī)擁有 5400 萬個(gè)核心，處理能力達(dá)到 4 exaFLOPS（每秒 4 百億億次），可用于訓(xùn)練最先進(jìn)的人工智能模型。該計(jì)算機(jī)位于美國(guó)加州圣克拉拉，由美國(guó)人工智能公司 Cerebras 運(yùn)營(yíng)。
據(jù)悉，CG-1一共用了 72704 個(gè) AMD EPYC 處理器，總體的片上內(nèi)存容量達(dá)到了 82TB，各個(gè)系統(tǒng)間的帶寬速率高達(dá) 388Tbps。
在 16 位計(jì)算下，該系統(tǒng)可以提供 4 exaFLOPS 的計(jì)算能力，這是目前世界上最快超級(jí)計(jì)算機(jī)速度的四倍。它可以用于訓(xùn)練 6000 億參數(shù)模型，并可擴(kuò)展到支持 100 萬億參數(shù)模型。作為對(duì)比，OpenAI 公司的 GPT-4 模型是使用 1.7 萬億參數(shù)訓(xùn)練的。
Cerebras 和 G42 還計(jì)劃在 2024 年初在美國(guó)引入另外兩臺(tái)超級(jí)計(jì)算機(jī)，CG-2 和 CG-3，同時(shí)將 CG-1 作為云服務(wù)提供給客戶。
CG-1 可以原生地處理 50000 個(gè)令牌，而無需任何特殊的軟件庫(kù)。在 CG-1 上編程完全不需要使用復(fù)雜的分布式編程語言，節(jié)省了在 GPU 上分配工作流的寶貴時(shí)間。
G42 和 Cerebras 相信，最快的超級(jí)計(jì)算機(jī)將有助于應(yīng)對(duì)醫(yī)療、能源和氣候變化等挑戰(zhàn)。
