9月21日,在華為全聯(lián)接大會2023現(xiàn)場,華為常務(wù)董事、華為云CEO張平安以“共建智能世界云底座,讓AI重塑千行萬業(yè)”為題發(fā)表主旨演講。張平安宣布,華為云昇騰AI云服務(wù)正式上線,所有企業(yè)可即刻在華為云官網(wǎng)上購買和使用。
全智能時代,AI算力需求講迎來爆發(fā)式增長。華為預(yù)計,到2030年通用計算能力將增長10倍,AI計算能力將增長500倍。然而,由于AI服務(wù)器的功率密度遠超通用服務(wù)器,單機柜功耗是傳統(tǒng)機柜的6至8倍,并需專用液冷系統(tǒng)散熱,且大模型訓(xùn)練需要百卡、千卡甚至萬卡,服務(wù)器之間的互聯(lián)、時延、可靠性、運維極為復(fù)雜,自建AI數(shù)據(jù)中心面臨諸多挑戰(zhàn)。
為更好地支持大模型的“百模千態(tài)”創(chuàng)新,華為云在貴安、烏蘭察布、蕪湖打造了3大AI云算力中心,為企業(yè)提供澎湃昇騰AI算力,讓企業(yè)再也不需要高價搶購GPU,也不需要擔(dān)心GPU未來潛在的供應(yīng)連續(xù)性挑戰(zhàn)。
同時,華為云昇騰AI云服務(wù)百模千態(tài)專區(qū)已正式上線,讓企業(yè)和開發(fā)者可以快速創(chuàng)建自己的大模型應(yīng)用,在大模型時代快人一步。
華為云昇騰AI云服務(wù)百模千態(tài)專區(qū)收錄了業(yè)界主流開源大模型,如LLAMA,GLM等,并全面基于昇騰AI云服務(wù)進行適配和優(yōu)化,精度和性能顯著提升。同時,專區(qū)提供豐富的應(yīng)用開發(fā)的工具鏈,開發(fā)工具已經(jīng)全部實現(xiàn)了云化,免去繁瑣的配置流程,實現(xiàn)一鍵接入,即開即用。
在云上,華為云提供了高效長穩(wěn)的大模型訓(xùn)練環(huán)境和完備的工具鏈:實現(xiàn)千卡訓(xùn)練連續(xù)30天不中斷,任務(wù)恢復(fù)時長小于30分鐘;通過30多個可視化調(diào)優(yōu)和部署工具,幫助企業(yè)更高效進行數(shù)據(jù)處理、模型微調(diào)、Prompt工程等,完成一個千億參數(shù)的行業(yè)模型端到端開發(fā),從過去需要5個月縮短到現(xiàn)在1個月,整體速度提升5倍。
昇騰AI云服務(wù)百模千態(tài)專區(qū)
此外,專區(qū)還提供了豐富的使用指導(dǎo),企業(yè)和個人開發(fā)者只需要登錄專區(qū),自助申請體驗。審核通過后,即可通過點擊相應(yīng)的開源大模型進入控制臺進行部署,并發(fā)布成在線服務(wù)進行推理調(diào)用。
在大模型訓(xùn)練數(shù)據(jù)安全方面,華為云采用了數(shù)據(jù)傳輸與存儲加密、數(shù)據(jù)安全清除、數(shù)據(jù)訪問控制、數(shù)據(jù)水印防泄露等多重技術(shù),確保大模型訓(xùn)練數(shù)據(jù)的全生命周期安全。