SoC 設(shè)計與應(yīng)用技術(shù)領(lǐng)導(dǎo)廠商Socionext Inc.(以下“公司”)宣布成功發(fā)開一款集成有量化深度神經(jīng)網(wǎng)絡(luò)(DNN)技術(shù)的原型芯片,可為小型、低功耗邊緣計算設(shè)備提供先進(jìn)的AI處理。

受日本新能源與產(chǎn)業(yè)技術(shù)綜合開發(fā)機(jī)構(gòu)(NEDO)委托,Socionext參與了以《先進(jìn)的低功耗AI-Edge LSI技術(shù)開發(fā)》為課題的項目研究,成功完成了結(jié)合量化DNN技術(shù)的芯片測試,并確認(rèn)了其運行和性能。該測試芯片搭載有“量化DNN引擎”,能以高速、低功耗執(zhí)行深度學(xué)習(xí)推理處理。

目前,基于通用GPU的邊緣計算處理器無法滿足日益增長的人工智能處理需求。以搭載有圖像識別和分析功能的邊緣計算設(shè)備為例,其系統(tǒng)功耗和發(fā)熱量與通用GPU相比有明顯增加,不得不通過提升成本擴(kuò)容設(shè)備等方式滿足AI處理需求。

量化DNN引擎

為提高AI處理性能并減少系統(tǒng)功耗,Socionext開發(fā)了一款采用“量化DNN技術(shù)”的專有體系架構(gòu),它減少了深度學(xué)習(xí)所需的參數(shù)和激活位。該體系架構(gòu)將1-bit (binary)、2-bit (ternary) 低比特率技術(shù)、傳統(tǒng)8-bit技術(shù)及公司獨創(chuàng)的參數(shù)壓縮技術(shù)結(jié)合,以較少的計算資源執(zhí)行大量計算處理,并減少數(shù)據(jù)量。

除此以外,Socionext還開發(fā)了一種新穎的片上存儲技術(shù),可提供高效的數(shù)據(jù)傳輸,從而減少深度學(xué)習(xí)通常所需的大容量片上或外部存儲器。

通過結(jié)合上述新技術(shù),Socionext將AI芯片及“DNN引擎”原型化,并確認(rèn)了其功能和性能。 原型化芯片通過“YOLO v3”以不到5W的低功耗及30fps的速度實現(xiàn)了目標(biāo)檢測,其效率是通用GPU的10倍。 此外,該芯片還配備了高性能、低功耗的Arm Cortex-A系列CPU,無需外部處理器即可以單芯片執(zhí)行整個AI處理。

深度學(xué)習(xí)軟件開發(fā)環(huán)境

除硬件開發(fā)外,Socionext還構(gòu)建了深度學(xué)習(xí)軟件開發(fā)環(huán)境,通過結(jié)合TensorFlow作為基本框架,允許開發(fā)人員用原始低bit位進(jìn)行量化感知訓(xùn)練(Quantization Aware Training)和訓(xùn)練后量化(Post Training Quantization)。 開發(fā)新芯片時,用戶可以選擇最佳量化技術(shù)并將其應(yīng)用于各種神經(jīng)網(wǎng)絡(luò)中執(zhí)行高精度處理,例如在小型低功耗邊緣設(shè)備上增設(shè)最先進(jìn)的計算機(jī)視覺功能,應(yīng)用于高級駕駛員輔助系統(tǒng)(ADAS)、監(jiān)控攝像頭和工廠自動化等場景。

Socionext目前正在通過對該原型芯片進(jìn)行評估進(jìn)一步調(diào)整電路優(yōu)化其性能。公司將繼續(xù)與合作伙伴一起共同開發(fā)并交付AI-Edge LSI最終產(chǎn)品,完成NEDO的委托項目。

搭載有量化DNN引擎的AI測試芯片

NEDO項目名稱

《創(chuàng)新型AI芯片及下一代計算技術(shù)開發(fā)》

《創(chuàng)新型AI邊緣計算技術(shù)開發(fā)》

《先進(jìn)的低功耗AI-Edge LSI技術(shù)開發(fā)》