9月21日,在華為全聯(lián)接大會2023現(xiàn)場, 華為云CTO張宇昕發(fā)表演講表示,大模型重塑千行萬業(yè)的背后,是眾多復雜的技術挑戰(zhàn),需要核心技術的持續(xù)創(chuàng)新和突破。華為云以全局的系統(tǒng)性創(chuàng)新,不斷攻堅克難,構建AI時代最佳云底座。
華為云CTO張宇昕
隨著大模型能力涌現(xiàn),多模態(tài)融合,MOE等趨勢,模型參數(shù)將從現(xiàn)在的5400億很快超過數(shù)萬億,對海量的穩(wěn)定算力、大規(guī)模并行訓練、以及整體的架構設計都提出了更高要求。同時,數(shù)據(jù)集規(guī)模的快速增長,數(shù)據(jù)高效存儲、清洗和標注的難度,以及海量Token的訓練等仍然具有挑戰(zhàn)性。張宇昕指出,這些挑戰(zhàn)相互影響、環(huán)環(huán)相扣,可以說,大模型及相關應用是迄今為止最復雜的軟硬件系統(tǒng)工程。
為應對AI時代的挑戰(zhàn),華為云實現(xiàn)了軟硬件結合的系統(tǒng)性創(chuàng)新:
在系統(tǒng)架構層,QingTian架構基于高速新型網(wǎng)絡協(xié)議,打破算力、存儲和網(wǎng)絡的邊界,實現(xiàn)多元算力的對等全互聯(lián),為客戶提供最佳AI算力基礎設施,實現(xiàn)超大規(guī)模的高性能AI算力。
基于QingTian架構,華為云昇騰AI云服務提供算力集群、計算引擎CANN、AI開發(fā)框架MindSpore和AI開發(fā)平臺ModelArts,為大模型和AI應用的開發(fā)、運行提供最佳算力服務。
在數(shù)據(jù)處理層,華為云提供云上全流程一站式能力,包括數(shù)據(jù)存儲、分析、共享、標注方案,讓企業(yè)實現(xiàn)大模型數(shù)據(jù)“找得到”“存得下”“記得住”“用得了”。
在模型訓練層,華為云通過盤古大模型的5+N+X的架構實現(xiàn)分層解耦,賦能千行萬業(yè),讓每個行業(yè)、每個企業(yè)基于自己的場景都可以擁有自己的大模型。
在應用開發(fā)層,華為云整合了應用開發(fā)需要的開發(fā)生產(chǎn)線、低碼/無碼平臺、AI應用框架及全新的AI應用工程套件,讓客戶輕松實現(xiàn)基于大模型的AI原生應用的零門檻構建。
同時,這些系統(tǒng)性創(chuàng)新的云服務能力,已經(jīng)可以跨云、網(wǎng)、邊、端等多平臺,以及公有云,邊緣云、混合云等多形態(tài),實現(xiàn)靈活自由的部署和應用。對于建立自己專屬AI平臺和大模型的需求,企業(yè)可通過華為云Stack混合云平臺,在企業(yè)的數(shù)據(jù)中心部署昇騰AI云服務和大模型的關鍵產(chǎn)品,幫助企業(yè)一站式建設專屬大模型。會上,張宇昕正式發(fā)布華為云Stack 8.3,相關服務將于9月底全面上市商用。
張宇昕表示,華為云致力于系統(tǒng)性創(chuàng)新,構建AI時代最佳的云底座,用云的技術幫助行業(yè)攻堅克難。讓云無處不在,讓智能無所不及,共建智能世界云底座。