在人工智能(AI)領(lǐng)域,訓(xùn)練與推理兩大核心環(huán)節(jié)相輔相成,如同教育的“學(xué)習(xí)”與“考試”。訓(xùn)練階段,如同學(xué)生汲取知識(shí),需要龐大的數(shù)據(jù)集與強(qiáng)大的計(jì)算能力作為支撐;而推理階段,則類似于學(xué)生應(yīng)用所學(xué)解答問題,強(qiáng)調(diào)快速、準(zhǔn)確地應(yīng)對(duì)實(shí)際應(yīng)用場(chǎng)景的需求。隨著AI技術(shù)應(yīng)用的日益廣泛,推理算力的需求顯著增長(zhǎng)。據(jù)國際數(shù)據(jù)公司(IDC)數(shù)據(jù)顯示,2022年,云端推理算力占比已達(dá)到58.5%,并預(yù)計(jì)將在2026年進(jìn)一步上升至62.2%。
近期,一家在AI芯片領(lǐng)域深耕11年的上市公司,宣布將重心轉(zhuǎn)向大模型推理算力的發(fā)展。7月25日,在2025年世界人工智能大會(huì)(WAIC)前夕,云天勵(lì)飛(股票代碼:688343.SH)正式發(fā)布了深穹Edge200芯片以及深穹X6000 Mesh推理計(jì)算卡等一系列新品。
深穹X6000 Mesh推理加速卡,以其高達(dá)256Tops的算力,專為AI推理計(jì)算設(shè)計(jì),能夠支持30fps的1080p視頻解碼,滿足千億參數(shù)大模型的推理應(yīng)用需求。基于這款加速卡,云天勵(lì)飛還推出了深目6203視頻高密2U推理一體機(jī)、天舟6408大模型4U推理一體機(jī)以及天舟680G大模型滿血版8U推理一體機(jī),提供最高可達(dá)4PFlops的推理算力,助力AI模型的商業(yè)化落地。
云天勵(lì)飛董事長(zhǎng)兼CEO陳寧表示,公司正全面聚焦于AI推理芯片領(lǐng)域。2025年是AI發(fā)展的關(guān)鍵轉(zhuǎn)折點(diǎn),大模型技術(shù)不斷成熟,調(diào)用成本大幅降低。盡管當(dāng)前AI推理芯片市場(chǎng)相較于訓(xùn)練芯片市場(chǎng)仍顯小眾,但預(yù)計(jì)未來三至五年內(nèi),其增長(zhǎng)速度將遠(yuǎn)超訓(xùn)練芯片。這標(biāo)志著AI正從訓(xùn)練時(shí)代邁入推理時(shí)代,推理算力的需求將迎來爆發(fā)式增長(zhǎng)。
陳寧進(jìn)一步指出,未來五年,AI將重塑機(jī)器人、AI眼鏡等終端硬件產(chǎn)品,推理算力網(wǎng)絡(luò)將無處不在。作為底層算力設(shè)施,AI推理芯片將貫穿端、邊、云,構(gòu)建無處不在的算力網(wǎng)絡(luò),使各類智能體能夠更好地服務(wù)于人類的工作與生活。
成立于2014年的云天勵(lì)飛,擁有大模型和AI芯片兩大技術(shù)平臺(tái),業(yè)務(wù)覆蓋消費(fèi)級(jí)、企業(yè)級(jí)和行業(yè)級(jí)三大場(chǎng)景。經(jīng)過11年的發(fā)展,云天勵(lì)飛已推出五代神經(jīng)網(wǎng)絡(luò)處理器(NPU),并形成了一系列產(chǎn)品矩陣。早在2020年,云天勵(lì)飛就全面轉(zhuǎn)向國產(chǎn)工藝,成為首家采用國產(chǎn)Chiplet工藝的AI芯片公司。
2023年,云天勵(lì)飛正式發(fā)布基于“算力積木”架構(gòu)的DeepEdge10芯片平臺(tái),包括DeepEdge10C、DeepEdge10標(biāo)準(zhǔn)版、DeepEdge10Max和DeepEdge200四款芯片,算力范圍覆蓋8T至256T,滿足從小型邊緣設(shè)備到智算中心高性能計(jì)算的需求。云天勵(lì)飛還推出了面向云、邊、端的AI推理產(chǎn)品系列,包括模組、邊緣智能盒子、AI推理加速卡、大模型推理一體機(jī)以及智算服務(wù)器等。
隨著AI熱潮的興起,云天勵(lì)飛的業(yè)績(jī)持續(xù)增長(zhǎng)。財(cái)報(bào)顯示,2024年,公司營(yíng)業(yè)收入超過9億元,同比增長(zhǎng)81.3%。截至2025年第一季度,公司營(yíng)收達(dá)到2.64億元,同比大幅增長(zhǎng)168.23%,創(chuàng)歷史同期新高。在消費(fèi)級(jí)業(yè)務(wù)方面,云天勵(lì)飛通過智能穿戴設(shè)備和AI硬件產(chǎn)品線,預(yù)計(jì)2025年上半年將保持50%以上的增速。
對(duì)于為何從邊緣AI計(jì)算戰(zhàn)略轉(zhuǎn)向AI模型推理算力,陳寧表示,對(duì)于中國而言,AI推理芯片是推動(dòng)AI產(chǎn)業(yè)大規(guī)模落地的關(guān)鍵領(lǐng)域和關(guān)鍵技術(shù)。未來五年,大模型、算法和推理芯片為核心的AI技術(shù)將重新定義人類的電子產(chǎn)品;未來五到十年,以推理芯片為核心的AI算力網(wǎng)絡(luò)將無處不在。
云天勵(lì)飛深穹X6000 Mesh加速卡具有多項(xiàng)核心技術(shù)特點(diǎn),包括采用自研第四代NPU,高效支持Transformer架構(gòu);Edge芯片采用國產(chǎn)工藝制造,并通過自主可控國產(chǎn)化C級(jí)認(rèn)證;作為國內(nèi)首顆量產(chǎn)的基于國產(chǎn)先進(jìn)工藝的“算力積木”架構(gòu)的AI芯片,它實(shí)現(xiàn)了片間算力擴(kuò)展,滿足千億級(jí)大模型部署需求。
陳寧透露,目前基于深穹X6000 Mesh推理加速卡的推理一體機(jī)正在逐步量產(chǎn)落地。同時(shí),云天勵(lì)飛在智算中心領(lǐng)域也有所布局,服務(wù)于城市級(jí)智算中心建設(shè)、科研院所、運(yùn)營(yíng)商以及互聯(lián)網(wǎng)大廠等客戶。

云天勵(lì)飛CTO李愛軍透露,下一代“算力積木”架構(gòu)和AI推理芯片將有五個(gè)方面的重要升級(jí),包括采用新型計(jì)算、近存計(jì)算、NB-Mesh新型互聯(lián)、新型封裝以及NB-Link通用擴(kuò)展性等,以滿足嵌入式物聯(lián)網(wǎng)、邊緣端、云推理對(duì)邊緣大模型、MoE大模型的極致推理效率、能效比和性價(jià)比需求。基于第二代“算力積木”架構(gòu)的云天勵(lì)飛下一代AI推理芯片預(yù)計(jì)將于2026年底陸續(xù)推出。
面對(duì)國產(chǎn)芯片發(fā)展的挑戰(zhàn)與機(jī)遇,陳寧表示,云天勵(lì)飛作為國產(chǎn)AI芯片公司,面臨著起步晚、生態(tài)不完善等挑戰(zhàn),但團(tuán)隊(duì)擁有基于矩陣類并行計(jì)算芯片的基因、決心和信念,可以克服各種挑戰(zhàn)。同時(shí),云天勵(lì)飛持續(xù)擁抱國產(chǎn)工藝,擁有市場(chǎng)差異化競(jìng)爭(zhēng)優(yōu)勢(shì)。
本文鏈接:http://m.rrqrq.com/showinfo-24-174384-0.html云天勵(lì)飛陳寧展望:2030年AI推理芯片將普及至各類終端設(shè)備
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 懂車帝智駕測(cè)試風(fēng)波:馬斯克點(diǎn)贊背后,國產(chǎn)車企沉默,央視悄然撤出
下一篇: 商湯科技推出「悟能」平臺(tái),賦能機(jī)器人實(shí)現(xiàn)與現(xiàn)實(shí)世界的深度交互