2020年伊始，AI技術(shù)持續(xù)深入發(fā)展，人工智能場(chǎng)景規(guī)?；涞嘏c應(yīng)用不斷創(chuàng)造新的中國速度。隨著AI技術(shù)與傳統(tǒng)行業(yè)的不斷融合，智能經(jīng)濟(jì)時(shí)代的全新產(chǎn)業(yè)版圖初步顯現(xiàn)。

進(jìn)入智能時(shí)代，AI芯片和深度學(xué)習(xí)框架二者融合成為構(gòu)建我國自主AI生態(tài)的關(guān)鍵力量。作為智能時(shí)代的操作系統(tǒng)，深度學(xué)習(xí)框架起到承上啟下的作用——上承應(yīng)用、下接芯片。作為智能時(shí)代的核心大腦，AI芯片支持框架平臺(tái)讓AI技術(shù)更加普及易用，為行業(yè)賦能更多應(yīng)用場(chǎng)景。近日，百度飛槳深度學(xué)習(xí)平臺(tái)新增適配比特大陸最新算豐系列AI芯片，兩者的成功融合在芯片利用率、性能功耗比等指標(biāo)上盡顯優(yōu)勢(shì)，相比傳統(tǒng)GPU更適合深度學(xué)習(xí)推理，成為我國構(gòu)建自主AI生態(tài)的典范。

輕量化推理引擎Paddle Lite再升級(jí)

作為國內(nèi)功能最完備的端到端開源深度學(xué)習(xí)平臺(tái)，飛槳以其兼具靈活和效率的開發(fā)機(jī)制、工業(yè)級(jí)應(yīng)用效果的模型、超大規(guī)模并行深度學(xué)習(xí)能力、推理引擎一體化設(shè)計(jì)以及系統(tǒng)化的服務(wù)支持，成為加快產(chǎn)業(yè)智能化升級(jí)的主力軍。

Paddle Lite是飛槳推出的一套功能完善、易用性強(qiáng)且性能卓越的輕量化推理引擎。輕量化體現(xiàn)在使用較少比特?cái)?shù)用于表示神經(jīng)網(wǎng)絡(luò)的權(quán)重和激活，能夠大大降低模型的體積，解決終端設(shè)備存儲(chǔ)空間有限的問題。推理性能也整體優(yōu)于其他框架，以ResNet50模型做例，在高通驍龍845上，Paddle Lite相比其他框架，比MNN快10.26%，比NCNN快17.1%。近期已正式上線的V2.3版本更通過支持“無校準(zhǔn)數(shù)據(jù)的訓(xùn)練后量化”及網(wǎng)絡(luò)結(jié)構(gòu)與算子優(yōu)化，在不犧牲性能的條件下，將模型壓縮率提升至75%，有效將模型體積大幅縮小，進(jìn)而滿足移動(dòng)及邊緣端設(shè)備的輕量化需求。而搭載了比特大陸AI芯片的V2.4版本即將在近期上線。

百度飛槳與比特大陸兼容性認(rèn)證書

通過對(duì)比特大陸AI芯片的適配，Paddle Lite不僅可實(shí)現(xiàn)對(duì)多種硬件平臺(tái)的兼容，亦能更好地服務(wù)用戶實(shí)際業(yè)務(wù)需求、節(jié)省模型遷移時(shí)間、加快敏捷開發(fā)部署，極大豐富了飛槳的硬件生態(tài)。

Paddle Lite支持比特大陸算豐BM系列芯片

算豐芯片與飛槳整合效能

與百度同為國內(nèi)人工智能企業(yè)先行者的比特大陸是世界上少數(shù)幾家有能力開發(fā)云端人工智能芯片的公司之一，并已成功推出四代人工智能芯片(云端芯片算豐BM1680、算豐BM1682、算豐BM1684，終端芯片BM1880)。憑借多年技術(shù)積累與行業(yè)實(shí)踐，比特大陸AI芯片正在迅速成長為國產(chǎn)智能芯片陣營的中堅(jiān)力量，為中國乃至全球的AI平臺(tái)落地提供核心支撐。比特大陸開發(fā)的形態(tài)豐富的各種AI硬件產(chǎn)品均基于自主研發(fā)AI芯片，擁有完整的國內(nèi)自主知識(shí)產(chǎn)權(quán)和專利，同一套SDK和簡單易用的工具鏈支持多形態(tài)應(yīng)用，充分滿足云+邊的“新基建”算力基礎(chǔ)設(shè)施建設(shè)需求。

最新一代算豐BM1684芯片，聚焦于云端及邊緣應(yīng)用的人工智能推理，采用臺(tái)積電 12nm 工藝，在典型功耗僅 16 瓦的前提下，INT8 算力可高達(dá) 17.6Tops，在 Winograd 卷積加速下，INT8 算力更提升至 35.2Tops，是一顆低功耗、高性能的 SoC 芯片。其算力性能和性能功耗比指標(biāo)業(yè)界領(lǐng)先，超過主流推理GPU，在性能滿足視頻分析業(yè)務(wù)需求的前提下，可以實(shí)現(xiàn)視頻結(jié)構(gòu)化的單路成本最優(yōu)。

算豐1684在飛槳框架上int8運(yùn)行Resnet50的性能指標(biāo)

強(qiáng)強(qiáng)聯(lián)手合構(gòu)AI生態(tài)圈

與此同時(shí)，比特大陸積極參與百度的黃埔學(xué)院計(jì)劃，進(jìn)一步深化雙方合作關(guān)系，并成功合作開發(fā)運(yùn)行百度“行人車輛”算法的SS-5416C3人工智能一體機(jī)，交付于公安部安全與警用電子產(chǎn)品質(zhì)量檢測(cè)中心進(jìn)行檢測(cè)。此外，在接下發(fā)布的飛槳開源框架版本，也會(huì)完整對(duì)比特大陸的編譯工具BM Lang及相關(guān)Profiler工具的支持。

隨著飛槳在穩(wěn)定性、兼容性和成熟度等方面不斷升級(jí)，比特大陸AI芯片也在不斷提升性能、優(yōu)化指標(biāo)，助力飛槳加速產(chǎn)業(yè)結(jié)合，二者聯(lián)手幫助產(chǎn)業(yè)實(shí)現(xiàn)智能轉(zhuǎn)型，為我國產(chǎn)業(yè)智能化發(fā)展貢獻(xiàn)力量。