近日,云天勵飛在業(yè)績說明會上披露,公司下一代高性能推理芯片正按計劃研發(fā)中。目前公司企業(yè)級業(yè)務已經積累了頭部互聯網大廠、龍頭硬件廠商等客戶及生態(tài)資源。后續(xù)公司將以自研芯片和核心模組等形式面向家庭主機、機器人、無人車、無人機、智慧交通邊緣加速計算等場景提供高能效、低功率和高實時性要求的算力,并尋求在使用量級上持續(xù)突破;另一方面,以AI推理加速卡、服務器整機、智算集群提供服務等形式,基于原有生態(tài)上持續(xù)擴大在AI公司、互聯網廠商等的國產化AI算力機會。

在過去幾年,人工智能的發(fā)展主要集中在AI模型的訓練上。深度學習算法的迭代和大模型的涌現,均依賴于強大的計算資源以支持海量數據的學習與優(yōu)化。以英偉達為代表的芯片廠商憑借其在GPU領域的優(yōu)勢,在訓練階段的市場中占據顯著地位。然而,隨著AI應用場景的日益豐富和落地,AI推理的重要性逐漸提升。推理,即指將訓練完成的AI模型部署到實際應用中,進行實時的數據處理和決策。例如,在自動駕駛、機器人等交互等應用中,對AI推理芯片的性能、能效和實時性均提出了特定要求。

當前,AI應用需求的增長正在推動推理芯片市場的發(fā)展。從智能家居、機器人到無人機、無人車等終端設備,對本地化AI推理能力的需求日益增加,以支持設備自主運行。同時,隨著數據量的不斷增長,將所有數據傳輸至云端進行處理的模式面臨效率和帶寬挑戰(zhàn),邊緣AI推理因此受到關注。它將AI算力下沉到數據源頭,有助于提升響應速度并優(yōu)化數據處理。市場對輕量化、低功耗、高能效的AI芯片需求持續(xù)存在,這促使了各類AI加速卡、專用ASIC芯片等創(chuàng)新硬件產品的出現,為不同應用場景提供定制化的推理解決方案。在此背景下,AI推理芯片的市場規(guī)模預計將有所增長。

據悉,云天勵飛一直在大力投入AI推理芯片研發(fā),沉淀了11年的研發(fā)經驗。目前已開發(fā)出多款AI芯片,包括 DeepEdge10C、DeepEdge10標準版、DeepEdge10Max和DeepEdge200 等,并于2024年推出了大模型推理加速卡 IPU-X6000。

其中,DeepEdge10芯片是云天勵飛自主研發(fā)的AI推理高性能芯片,采用國產14nm Chiplet工藝,并內置國產RISC-V核。該系列芯片基于“算力積木”AI芯片架構,能夠封裝成不同算力的芯片,覆蓋8T至256T的算力應用,可支持包括Transformer模型、BEV模型、CV大模型、LLM大模型等各類主流模型的高效推理,并已完成DeepSeek 系列模型以及國產鴻蒙操作系統(tǒng)的適配。這些芯片已在機器人、邊緣網關、服務器等領域實現商業(yè)化應用。

值得一提的是,公司AI芯片還獲得工信部、科技部、發(fā)改委AI芯片專項“大滿貫”,并已通過國家科技部重大專項驗收。

未來,云天勵飛將以NPU推理芯片為核心,涵蓋邊緣推理芯片與云端推理芯片,構建起具備更高性價比的計算平臺,并以此為基礎推進大模型一體機、軟硬一體推理服務器等產品,以及相關服務及生態(tài)。

2025 年,公司將繼續(xù)加強神經網絡處理器技術研發(fā),著重解決“卡脖子”技術攻關,實現神經網絡處理器芯片的自主可控;通過面向大模型的專用指令集、專用算子、專用的存算一體架構、保證精度的低比特混合量化,實現算法與芯片的聯合深度優(yōu)化,滿足大模型的推理需求;開發(fā)包括芯片工具鏈、軟件開發(fā)包等組成的配套全棧軟件開發(fā)平臺,為公司神經網絡處理器生態(tài)化發(fā)展提供有力保障。