飛象網(wǎng)訊 6月26日，2024年上海世界移動(dòng)通信大會(huì)啟幕，中興通訊總裁徐子陽(yáng)應(yīng)邀出席同日舉辦的“人工智能先行”主題演講和以“5G-A×AI”為主題的GTI國(guó)際產(chǎn)業(yè)大會(huì)（上海），分享中興通訊在人工智能浪潮下的數(shù)智實(shí)踐與創(chuàng)新。
在“人工智能先行”主題演講中，徐子陽(yáng)以《匠心筑基，開(kāi)放共贏》為題展開(kāi)分享。他表示，當(dāng)前全球已經(jīng)進(jìn)入AI驅(qū)動(dòng)的產(chǎn)業(yè)革命，但除了幻覺(jué)、安全和倫理等問(wèn)題外，生成式AI發(fā)展還面臨算力、能耗、數(shù)據(jù)集、標(biāo)準(zhǔn)化及商業(yè)應(yīng)用等挑戰(zhàn)。對(duì)于AI進(jìn)階，中興通訊秉承開(kāi)放解耦、以網(wǎng)強(qiáng)算、訓(xùn)推并舉的核心主張，同時(shí)以客戶價(jià)值為核心，提供從算力、網(wǎng)絡(luò)、能力、智力到應(yīng)用的全棧全場(chǎng)景智算解決方案，以硬實(shí)力筑基，以軟實(shí)力啟智，靈活實(shí)現(xiàn)與客戶能力的優(yōu)勢(shì)互補(bǔ)和強(qiáng)強(qiáng)協(xié)作，賦能千行百業(yè)的數(shù)智化轉(zhuǎn)型需求，為經(jīng)濟(jì)高質(zhì)量發(fā)展注入源源不斷的動(dòng)能，共筑AI時(shí)代的美好未來(lái)。
在GTI國(guó)際產(chǎn)業(yè)大會(huì)（上海）中，徐子陽(yáng)參加GTI-GSMA 5G-A×AI合作簽約儀式并圍繞5G-A×AI這一主題，以《算網(wǎng)進(jìn)階，智創(chuàng)未來(lái)》為題發(fā)表演講。他結(jié)合當(dāng)下核心挑戰(zhàn)、解決方案和實(shí)踐案例，闡釋了傳統(tǒng)工業(yè)化向新型工業(yè)化的升級(jí)路徑，最重要的就是：結(jié)合數(shù)智技術(shù)在底層的核心突破、基礎(chǔ)設(shè)施的效率和能力升級(jí)、與行業(yè)Know-How的深度融合，加速數(shù)字和物理世界的交融，提升生產(chǎn)和交易效率，并構(gòu)建敏捷和自適應(yīng)組織，在不確定的未來(lái)中行穩(wěn)致遠(yuǎn)。中興通訊主張圍繞數(shù)字化、網(wǎng)絡(luò)化、智能化和低碳化四個(gè)緯度，突破現(xiàn)階段核心挑戰(zhàn)或掣肘，承前啟后繼往開(kāi)來(lái)。中興通訊將始終秉持創(chuàng)新引領(lǐng)、多樣互補(bǔ)、開(kāi)放利他的原則，以“開(kāi)放解耦、以網(wǎng)強(qiáng)算、以智升維、以綠奠基” 全力支持產(chǎn)業(yè)鏈健康可持續(xù)發(fā)展，繁榮數(shù)字經(jīng)濟(jì)。
以下為徐子陽(yáng)《匠心筑基，開(kāi)放共贏》主旨演講全文：
應(yīng)勢(shì)而變，賦能智能進(jìn)階
過(guò)去的一年多，大模型和生成式AI為數(shù)智浪潮推波助瀾，技術(shù)高速迭代，產(chǎn)品層出不窮，新場(chǎng)景和新業(yè)態(tài)蓄勢(shì)待發(fā)。雖然生成式AI依然處于發(fā)展初期，但大家已經(jīng)有普遍共識(shí)，即全球已經(jīng)進(jìn)入AI驅(qū)動(dòng)的產(chǎn)業(yè)革命，AI將對(duì)生產(chǎn)生活的方方面面產(chǎn)生深遠(yuǎn)的影響和變革。人工智能將深刻重塑全球經(jīng)濟(jì)格局。業(yè)界咨詢機(jī)構(gòu)預(yù)測(cè)，至2030年，AI將顯著推動(dòng)中國(guó)GDP增長(zhǎng)26%，北美GDP增長(zhǎng)14.5%，預(yù)計(jì)為全球貢獻(xiàn)約10.7萬(wàn)億美元的經(jīng)濟(jì)增長(zhǎng)，占據(jù)全球影響的近七成。這一變革將為零售、金融服務(wù)和醫(yī)療保健等行業(yè)帶來(lái)前所未有的商業(yè)機(jī)遇。
除了幻覺(jué)、安全和倫理等問(wèn)題外，生成式AI發(fā)展還面臨算力、能耗、數(shù)據(jù)集、標(biāo)準(zhǔn)化及商業(yè)應(yīng)用等挑戰(zhàn)，因此，需要從多個(gè)方面實(shí)現(xiàn)進(jìn)階發(fā)展，中興通訊提出算網(wǎng)進(jìn)階、訓(xùn)推并舉、開(kāi)放解耦的核心主張。首先是突破技術(shù)瓶頸，加強(qiáng)架構(gòu)、算法、算網(wǎng)和軟硬件協(xié)同優(yōu)化等研究，提升AI訓(xùn)練和推理效率；其次，以RAG、Agents等多種解決方案確�？煽啃�、安全性和可解釋性，以實(shí)現(xiàn)大模型的廣泛應(yīng)用和更高價(jià)值，構(gòu)建數(shù)據(jù)飛輪，兼顧能力提升和商業(yè)閉環(huán)；最后，以“開(kāi)放解耦”加速標(biāo)準(zhǔn)化，構(gòu)建繁榮的產(chǎn)業(yè)和商業(yè)生態(tài)。
算網(wǎng)進(jìn)階，打造高效基座
首先是算網(wǎng)進(jìn)階，打造高效基座。在智算領(lǐng)域，高速網(wǎng)絡(luò)連接不僅不可或缺，而且至關(guān)重要，無(wú)論是芯片內(nèi)裸Die互聯(lián)、芯片之間、服務(wù)器之間、DC之間，網(wǎng)絡(luò)連接技術(shù)的持續(xù)創(chuàng)新和突破，將極大的提升智算的性能與效率。
Die2Die即芯片內(nèi)的裸Die間高速互聯(lián)網(wǎng)絡(luò)，結(jié)合自研的并口/串口全系列IP、成熟的2.5D/3D先進(jìn)封裝，支持異構(gòu)解構(gòu)和集成，一定程度上突破摩爾定律失效和工藝方面的制約，實(shí)現(xiàn)異構(gòu)計(jì)算和網(wǎng)絡(luò)處理在內(nèi)的多種芯片架構(gòu)，提供更高的性能表現(xiàn)和更優(yōu)的性價(jià)比。
Chip2Chip即跨芯片之間的互聯(lián)網(wǎng)絡(luò)，通過(guò)芯片間可分布式高速交換互聯(lián)，及PCIe5/6、56G/112G/224G SerDes全系列高速接口結(jié)合的解決方案，更好地解決目前Mesh互聯(lián)靈活性差和帶寬利用率低的問(wèn)題，并進(jìn)一步突破算力芯片TP8/16互聯(lián)的規(guī)模瓶頸，更好地適應(yīng)復(fù)雜的大規(guī)模智算應(yīng)用場(chǎng)景的需求，為客戶提供差異化的競(jìng)爭(zhēng)優(yōu)勢(shì)。中興通訊也在積極參與中移全向智感高速互聯(lián)架構(gòu)（OISA）的推進(jìn)。另外，面向下一代102.4T網(wǎng)絡(luò)交換機(jī)光電異構(gòu)集成的需求，LPO（Linear-drive Pluggable Optics，線性驅(qū)動(dòng)可插拔光模塊）光電融合互聯(lián)和CPO(Co-packaged Optics，光電共封裝)，均可極大地提升互聯(lián)密度，并降低能耗，同時(shí)，布局光互連I/O，其在帶寬密度、功率效率、延遲方面將實(shí)現(xiàn)革命性的提升。
Server 2 Server即智算集群的互聯(lián)場(chǎng)景，中興通訊正全力配合中國(guó)移動(dòng)，完善全調(diào)度以太網(wǎng)（GSE）產(chǎn)業(yè)生態(tài)，打造無(wú)阻塞、高帶寬及超低時(shí)延的新型智算中心網(wǎng)絡(luò)，在今年2月份，中興通訊積極參與了中國(guó)移動(dòng)組織的GSE原型機(jī)互聯(lián)互通測(cè)試，后續(xù)基于千卡和萬(wàn)卡場(chǎng)景驅(qū)動(dòng)，共智合力，加速突破，積極助力鏈長(zhǎng)壯大產(chǎn)業(yè)發(fā)展。在自身能力上，中興通訊將持續(xù)推動(dòng)關(guān)鍵芯片的轉(zhuǎn)發(fā)能力從12.8T向51.2T能力升格，通過(guò)提供單層/盒盒/框盒的多樣化方案，更好的服務(wù)全域智算訓(xùn)練場(chǎng)景需要。
DC 2 DC屬?gòu)V域連接場(chǎng)景，400G光傳輸產(chǎn)業(yè)在中國(guó)運(yùn)營(yíng)商的引領(lǐng)下蓬勃發(fā)展，為“光電貫東西、一網(wǎng)通九州”的算間智聯(lián)打下了堅(jiān)實(shí)基礎(chǔ)。中興通訊正在全力支持國(guó)內(nèi)運(yùn)營(yíng)商全球規(guī)模最大400G OTN 商用網(wǎng)絡(luò)部署，驗(yàn)證了全場(chǎng)景Real 400G的大容量連接能力，聯(lián)合國(guó)內(nèi)運(yùn)營(yíng)商完成了基于S+C+L波段的單波T比特實(shí)時(shí)系統(tǒng)傳輸實(shí)驗(yàn)，并創(chuàng)造了傳輸容量的世界記錄。后續(xù)，中興通訊也將繼續(xù)發(fā)揮連接優(yōu)勢(shì)，以網(wǎng)強(qiáng)算，打造算力網(wǎng)絡(luò)高效全光底座。
訓(xùn)推并舉，賦能實(shí)體經(jīng)濟(jì)
對(duì)于大模型在各行業(yè)的落地應(yīng)用，除了常規(guī)的幻覺(jué)、安全和倫理等問(wèn)題，還需要解決專業(yè)性、準(zhǔn)確性、魯棒性和可追溯性等一系列剛性場(chǎng)景下的挑戰(zhàn)，同時(shí)在基礎(chǔ)大模型基礎(chǔ)上構(gòu)建領(lǐng)域模型時(shí)，專業(yè)數(shù)據(jù)治理、增量訓(xùn)練等工程經(jīng)驗(yàn)和工具集等也至關(guān)重要。以電信自智網(wǎng)絡(luò)場(chǎng)景為例，大小模型結(jié)合、RAG（Retrieval Augmented Generation）、多智能體（Agents）協(xié)同、數(shù)字孿生、多模態(tài)CoT（Chain-of-Thought）等等技術(shù)創(chuàng)新，都已經(jīng)有所成效。
在AI應(yīng)用商業(yè)化的征途上，訓(xùn)推并舉是驅(qū)動(dòng)實(shí)體經(jīng)濟(jì)騰飛的關(guān)鍵。中國(guó)憑借豐富的應(yīng)用場(chǎng)景和私域數(shù)據(jù)資源，可以為全球AI產(chǎn)業(yè)做出巨大貢獻(xiàn)。為了充分發(fā)揮這一優(yōu)勢(shì)，我們需要注重準(zhǔn)確性、專業(yè)性和推理效率的提升，同時(shí)加強(qiáng)領(lǐng)域數(shù)據(jù)治理和數(shù)字孿生技術(shù)的應(yīng)用。訓(xùn)推并舉，以訓(xùn)練創(chuàng)造能力，以推理和應(yīng)用驗(yàn)證價(jià)值，構(gòu)建數(shù)據(jù)飛輪，雙循環(huán)將進(jìn)一步促進(jìn)AI能力迭代和商業(yè)變現(xiàn)，從而鍛造核心優(yōu)勢(shì)。
具體操作上，我們主張錨定高價(jià)值行業(yè)和天使客戶。天使客戶通常是行業(yè)中最具影響力的企業(yè)，數(shù)字化基礎(chǔ)好，同時(shí)積極擁抱技術(shù)變革，并可以引領(lǐng)整個(gè)行業(yè)數(shù)智化進(jìn)程。通過(guò)與天使客戶的合作，數(shù)智技術(shù)與Know-How結(jié)合，優(yōu)勢(shì)互補(bǔ)，并快速驗(yàn)證迭代技術(shù)方案，樹(shù)立標(biāo)桿�；谧匝谢蜷_(kāi)源基礎(chǔ)大模型，利用豐富的行業(yè)數(shù)據(jù)和知識(shí)工程構(gòu)建領(lǐng)域大模型，打造行業(yè)樣板，實(shí)現(xiàn)從0到1突破�；陬I(lǐng)域大模型，結(jié)合不同場(chǎng)景實(shí)現(xiàn)從1到N的應(yīng)用拓展。
開(kāi)放解耦，構(gòu)建繁榮生態(tài)
最后是開(kāi)放解耦，構(gòu)建繁榮生態(tài)。AI技術(shù)處于高速迭代期，但當(dāng)下依然普遍生態(tài)封閉，同時(shí)缺乏行業(yè)標(biāo)準(zhǔn)，并帶來(lái)一系列問(wèn)題，比如重復(fù)開(kāi)發(fā)和資源浪費(fèi)、技術(shù)孤立和風(fēng)險(xiǎn)集中、選擇受限和供應(yīng)壟斷等，制約了AI的快速良性發(fā)展。
中興通訊倡導(dǎo)構(gòu)建全棧開(kāi)放的智算方案。在基礎(chǔ)設(shè)施層面，軟硬協(xié)同，最大化資源效率。硬件兼容適配國(guó)內(nèi)外主流GPU/CPU，支持OSIA、RoCE/GSE等開(kāi)放標(biāo)準(zhǔn)的高速無(wú)損互聯(lián)，為客戶提供多樣化的選擇；軟件支持異構(gòu)資源管理、訓(xùn)推作業(yè)調(diào)度和異構(gòu)集合通信等，在強(qiáng)化對(duì)多廠家GPU支持的同時(shí)，為模型運(yùn)行提供高性能、高可靠的運(yùn)行環(huán)境；通過(guò)算力卸載及在網(wǎng)計(jì)算等技術(shù)，大幅縮減數(shù)據(jù)讀寫與傳輸時(shí)間，提升算力利用率。在能力平臺(tái)層面，適配PyTorch、TensorFlow等主流框架，自動(dòng)實(shí)現(xiàn)向后端平臺(tái)編譯和優(yōu)化，并提供從數(shù)據(jù)處理、模型開(kāi)發(fā)/訓(xùn)練/優(yōu)化/評(píng)估/部署等端到端的工程工具集，在支持全生命周期保障和管理的同時(shí)，還應(yīng)支持算力原生、混池訓(xùn)練、高效推理、數(shù)據(jù)飛輪構(gòu)建等。在算力網(wǎng)絡(luò)層面，強(qiáng)化算網(wǎng)協(xié)同，支持應(yīng)用全域無(wú)感遷移。
“一花獨(dú)放不是春，百花齊放春滿園”，全棧開(kāi)放的智算方案將有利于開(kāi)放的技術(shù)生態(tài)和共贏的商業(yè)生態(tài)的構(gòu)建，是智算良性發(fā)展的關(guān)鍵。通過(guò)軟硬解耦、訓(xùn)推解耦、模型解耦，推動(dòng)各類能力組件化和共享賦能，加速AI技術(shù)的創(chuàng)新、研發(fā)、應(yīng)用和商業(yè)化進(jìn)程，構(gòu)建開(kāi)放的技術(shù)生態(tài)；通過(guò)產(chǎn)業(yè)內(nèi)的芯片廠商、ICT硬件廠商、應(yīng)用開(kāi)發(fā)者、集成商、運(yùn)營(yíng)商的生態(tài)定位和優(yōu)勢(shì)互補(bǔ)，共同做大做強(qiáng)，實(shí)現(xiàn)共贏的商業(yè)生態(tài)。
筑基啟智，共創(chuàng)美好未來(lái)
中興通訊始終以客戶價(jià)值為核心，提供從算力、網(wǎng)絡(luò)、能力、智力到應(yīng)用的全棧全場(chǎng)景智算解決方案，并已形成高速互聯(lián)、在網(wǎng)計(jì)算、算力原生、無(wú)感遷移、數(shù)據(jù)處理和算法優(yōu)化等多個(gè)關(guān)鍵技術(shù)積累。一方面，中興通訊聚焦算力網(wǎng)絡(luò)的高效、綠色、安全，以硬實(shí)力筑基，以及能力應(yīng)用的靈活、敏捷、智慧，以軟實(shí)力啟智；另一方面以數(shù)字星云的組件式交易的全開(kāi)放研發(fā)架構(gòu)，可分可合，靈活實(shí)現(xiàn)與客戶能力的優(yōu)勢(shì)互補(bǔ)和強(qiáng)強(qiáng)協(xié)作，賦能千行百業(yè)的數(shù)智化轉(zhuǎn)型需求。
在基礎(chǔ)設(shè)施領(lǐng)域，提供算、存、網(wǎng)、數(shù)據(jù)中心等全系列產(chǎn)品及方案，全面滿足從中心到邊緣的多樣化智算中心建設(shè)需求。在算力維度，芯片側(cè)兼容適配國(guó)內(nèi)外多廠家GPU/CPU，自研定海芯片支持RDMA標(biāo)卡、智能網(wǎng)卡、DPU卡等多種形態(tài)，提供高性能、多樣化的算力內(nèi)核和硬件加速；整機(jī)側(cè)，基于扣卡模組/PCIe插卡AI服務(wù)器、訓(xùn)推一體機(jī)等系列產(chǎn)品，靈活適配差異化場(chǎng)景；數(shù)據(jù)中心側(cè)，依托風(fēng)液融合、彈性配電等節(jié)能技術(shù)，打造PUE低至1.1、機(jī)柜功率密度最高達(dá)60kW的新型智算中心。在網(wǎng)絡(luò)維度，中興通訊與產(chǎn)業(yè)伙伴一起建立開(kāi)放的GPU互聯(lián)標(biāo)準(zhǔn)Olink（Openlink），也將全面融入中移OSIA架構(gòu)，在兼容現(xiàn)有RDMA協(xié)議實(shí)現(xiàn)機(jī)內(nèi)機(jī)間統(tǒng)一互聯(lián)技術(shù)的同時(shí)，重點(diǎn)推動(dòng)機(jī)內(nèi)通信從Mesh互聯(lián)轉(zhuǎn)向交換互聯(lián)支持單機(jī)更大規(guī)模TP計(jì)算，降低連接復(fù)雜度，提升集群規(guī)模和效能；自研的RoCE網(wǎng)卡和盒式、框式RDMA交換機(jī)，支持構(gòu)建百卡-萬(wàn)卡規(guī)模的智算集；Real 400G助力打造算力網(wǎng)絡(luò)高效全光底座。
在能力領(lǐng)域，算力統(tǒng)一云管平臺(tái)ZTE TECS支持異構(gòu)資源管理、訓(xùn)推作業(yè)調(diào)度和異構(gòu)集合通信；ZTE AIS訓(xùn)推平臺(tái)，則支持擁有面向大模型的數(shù)據(jù)處理和模型開(kāi)發(fā)平臺(tái)，提供大模型工程化全棧工具和引擎。在具體應(yīng)用場(chǎng)景中，如無(wú)感遷移可以實(shí)現(xiàn)5天可用，15天好用；高效推理實(shí)現(xiàn)千億模型單卡部署；數(shù)據(jù)自動(dòng)標(biāo)注，時(shí)間節(jié)約80%等等。
在智力方面，中興星云大模型集中發(fā)力算法創(chuàng)新、數(shù)據(jù)工程和高效算力平臺(tái)。星云基礎(chǔ)大模型包括2.5B/16B/40B/100B多種規(guī)模，可以覆蓋從手機(jī)、邊緣到中心云各種部署場(chǎng)景。在訓(xùn)練階段采用多階段預(yù)訓(xùn)練、中文詞表改進(jìn)、高質(zhì)量語(yǔ)料精煉、合成數(shù)據(jù)訓(xùn)練等多項(xiàng)技術(shù)創(chuàng)新，在算力需求降低50%的同時(shí)保證了模型訓(xùn)練效果。在推理效率方面，在保證模型準(zhǔn)確率不受影響的情況下，以權(quán)重INT4量化和KVCache FP8量化算法，節(jié)省推理資源3倍。星云通信大模型已完成千億級(jí)（9*20B）MoE（混合專家）大模型的訓(xùn)練，并且支持多模態(tài)輸入及十二萬(wàn)的有效上下文窗口，對(duì)通信業(yè)務(wù)場(chǎng)景提供通信專家級(jí)的見(jiàn)解和幫助。星云研發(fā)大模型通過(guò)多模型協(xié)作技術(shù)，可以支持需求、設(shè)計(jì)、編程、測(cè)試等不同階段全流程30多種場(chǎng)景，多種編程語(yǔ)言如Python、Java、C/C++、Go、Java script代碼生成能力可以達(dá)到GPT4水平，并且在單元測(cè)試準(zhǔn)確率、覆蓋率大幅超越GPT4-Turbo，可以根據(jù)需求直接生成測(cè)試用例（測(cè)試驅(qū)動(dòng)開(kāi)發(fā)）。
在應(yīng)用方面，中興通訊積極探索大模型在行業(yè)中的實(shí)際應(yīng)用，先后在研發(fā)提效、通信網(wǎng)絡(luò)運(yùn)維、城市治理、工業(yè)園區(qū)等多個(gè)方向推出大模型應(yīng)用。其中，星云編程大模型在HumanEval的評(píng)分位列業(yè)界編碼模型第一梯隊(duì)，目前日活用戶已超過(guò)1.3萬(wàn)，日請(qǐng)求數(shù)達(dá)到11萬(wàn)+，日吞吐量達(dá)3.3億 tokens，編碼提效30%，整體研發(fā)提效10%。同時(shí)基于端到端智算平臺(tái)為客戶提供全流程大模型工具鏈，降低客戶進(jìn)入門檻和開(kāi)發(fā)、使用成本，助力大模型在行業(yè)的普惠應(yīng)用。
中興通訊始終秉持多樣互補(bǔ)、開(kāi)放利他的原則，堅(jiān)定不移的支持并推動(dòng)產(chǎn)業(yè)繁榮發(fā)展；同時(shí)強(qiáng)化內(nèi)外雙循環(huán)，持續(xù)引領(lǐng)創(chuàng)新發(fā)展。未來(lái)，中興通訊將持續(xù)加大投入，致力于在多個(gè)領(lǐng)域?qū)崿F(xiàn)技術(shù)引領(lǐng)，進(jìn)一步推動(dòng)智算產(chǎn)業(yè)的壯大與發(fā)展，為經(jīng)濟(jì)的繁榮貢獻(xiàn)力量。
