2024年12月25日,智源研究院與安謀科技(中國)有限公司(以下簡稱“安謀科技”)與正式簽署戰(zhàn)略合作協議,雙方將面向多元AI芯片領域開展算子庫優(yōu)化與適配、編譯器與工具鏈支持、生態(tài)系統(tǒng)建設與推廣等一系列深入合作,共同打造基于Arm架構的開源技術生態(tài)體系,賦能國內大模型與人工智能產業(yè)的高速發(fā)展。
智源研究院副院長兼總工程師林詠華表示:“智源研究院作為一家專注于AI技術原始創(chuàng)新的新型研發(fā)機構,致力于構建FlagGems開發(fā)者生態(tài),充分發(fā)揮Triton編譯器開源及輕量級優(yōu)勢,為產業(yè)提供易適配、高性能的算子實現方案。此次攜手安謀科技,我們希望以Arm及其生態(tài)架構為‘基石’、以Triton算子為‘鑰匙’,結合雙方在大模型領域的前沿技術布局,樹立起產研協同的新范式,為國內多元AI芯片的生態(tài)建設和成果落地注入創(chuàng)新活力!
安謀科技銷售及商務執(zhí)行副總裁徐亞濤表示:“當前,生成式AI在云邊端領域加速滲透,強化產業(yè)鏈間的跨領域合作已成為共識。安謀科技作為國內芯片產業(yè)上游的核心企業(yè),持續(xù)致力于Arm技術體系下的本土AI生態(tài)建設。通過與智源研究院的戰(zhàn)略合作,充分發(fā)揮雙方的技術積累與生態(tài)資源,實現優(yōu)勢互補、協同創(chuàng)新,基于成熟先進的Arm架構與開源開放的Triton算子庫,共筑統(tǒng)一、易用、開放的AI‘芯’生態(tài)!
在開源生態(tài)對接方面,智源研究院將聯合安謀科技,共同基于Arm架構特點,Triton算子優(yōu)化與適配,充分發(fā)揮多元AI芯片性能優(yōu)勢;提供編譯器支持與工具鏈集成,打造統(tǒng)一便捷的開發(fā)環(huán)境,降低開發(fā)難度,提高開發(fā)效率;開展開源項目建設,推動相關技術的開源,加速技術迭代與創(chuàng)新;聯合推動行業(yè)標準的制定,共同推動邊緣計算領域行業(yè)標準制定。
智源研究院于2024年6月推出面向多元AI芯片的開源大模型通用算子庫FlagGems,目前FlagGems已經成為了全球最大的、基于Triton的人工智能通用算子庫,擁有超過130個大模型高頻使用的算子,并在英偉達硬件上取得比CUDA更好的算子平均性能。當前FlagGems已經支持了包括英偉達在內的7家芯片廠商的多種AI芯片,旨在為多元AI芯片提供開源、統(tǒng)一、高效的算子層生態(tài)接入方案。
以FlagGems為開始,智源致力于面向多元AI芯片、面向全球的統(tǒng)一、開源、合作型軟硬件生態(tài)。以大模型需求為導向,面向多元芯片,發(fā)揮Triton編譯器開源及輕量級優(yōu)勢,為產業(yè)提供易適配、高性能的算子實現方案,未來,智源研究院將攜手安謀科技,進一步推動基于Triton的統(tǒng)一、開源的生態(tài)發(fā)展,助力大模型和人工智能技術產業(yè)落地。