飛象網(wǎng)訊 （易歡）4月10日消息，以“共創(chuàng)云網(wǎng)智聯(lián)新時代 釋放數(shù)實融合新動能”為主題的“2024年云網(wǎng)智聯(lián)大會”在今天舉辦。中國電信科技委主任韋樂平出席活動并發(fā)表了在人工智能時代大模型的發(fā)展與思考，他表示，大模型的價值在應用。
他指出，在最尖端領域，存在高技術、高投入、高能耗、高風險的弊端，僅ChatGPT等5-6個基礎大模型能夠長期存活。在次尖端領域，行業(yè)大模型層出不窮，成千上萬，各領風騷。而泛在應用無窮無盡，是各類大模型真正體現(xiàn)價值和商業(yè)落地的地方。
與此同時，韋樂平強調，小模型的作用也不容忽視。究其原因，大模型訓練所需要的技術、算力、語料以及成本很高，卻通而不專，在面向具體運行環(huán)境的適應性和經(jīng)濟性方面，往往小模型更加實用、省錢、省力、省時間。
目前已經(jīng)有多種小模型產品問世，技術角度看，有兩大方向。一是知識蒸餾，主要對大模型進行裁剪、優(yōu)化，使訓練好的模型的體積和尺寸更小、成本更低、更適合具體部署環(huán)境的實際需求。二是微型機器學習（TinyML），旨在低于1mW功耗下（如紐扣電池）運行機器學習，解決成本和功率受限系統(tǒng)中完成機器學習任務，是物聯(lián)網(wǎng)領域AI的主要方向之一。
