8月9日，由中國(guó)高科技行業(yè)門戶OFweek維科網(wǎng)主辦，以“與AI大咖對(duì)話 看AI如何賦能萬(wàn)物”為主題的WAIE 2019 第四屆上海國(guó)際人工智能展覽會(huì)暨人工智能產(chǎn)業(yè)大會(huì)在上海新國(guó)際博覽館隆重開(kāi)幕！Imagination中國(guó)區(qū)戰(zhàn)略市場(chǎng)與生態(tài)高級(jí)總監(jiān)時(shí)昕出席了本次會(huì)議，為大家?guī)?lái)題為《邊緣智能IP，加速AI應(yīng)用》的演講，介紹了有著中資背景英國(guó)血統(tǒng)的英國(guó)芯片巨頭Imagination，分析智能IP與AI間的關(guān)系。

Imagination中國(guó)區(qū)戰(zhàn)略市場(chǎng)與生態(tài)高級(jí)總監(jiān) 時(shí)昕

以下為時(shí)昕先生的發(fā)言內(nèi)容，OFweek人工智能網(wǎng)編輯做了不改變?cè)獾恼砑熬庉嫛?

演講原文如下：

謝謝大家，非常感謝主辦方給我們這樣一個(gè)機(jī)會(huì)，可以跟大家交流一下我們?cè)谌斯ぶ悄芊矫娴囊恍┕ぷ?。我今天要做的?bào)告的題目是《邊緣智能IP，加速AI應(yīng)用》。

近幾年AI取得突破來(lái)源于三個(gè)方面，第一是數(shù)據(jù)，第二是算法，第三是計(jì)算算力的突破。我們主要的方向就是提高計(jì)算算力，能夠讓所有的AI應(yīng)用算得更快。加速AI應(yīng)用其實(shí)有兩層含義，第一個(gè)含義就是剛才提到的提高計(jì)算算力使AI應(yīng)用更快；另一層含義是，作為一個(gè)IP公司，我們可以幫助我們的客戶更快地完成他們的應(yīng)用設(shè)計(jì)。

Imagination公司是一家IP公司，我們的主要產(chǎn)品是GPU IP、人工智能加速器以及一些數(shù)據(jù)連接器。其中最為人所熟知的就是我們的GPU IP。大家都知道，現(xiàn)在做的所有的應(yīng)用，最重要的一點(diǎn)就是用戶體驗(yàn)需要做的好。要保證用戶體驗(yàn)做得好，反過(guò)來(lái)就要考慮對(duì)于我們?nèi)祟悂?lái)說(shuō)的話，在我們的感知當(dāng)中哪一個(gè)感覺(jué)是最重要的？

毫無(wú)疑問(wèn)是視覺(jué)。因?yàn)槿祟悘耐饨缢@取的信息當(dāng)中，70％是來(lái)源于視覺(jué)，剩下大概有20％來(lái)源于聽(tīng)覺(jué)，再剩下的就包括觸覺(jué)、嗅覺(jué)等等。所以做出來(lái)的應(yīng)用要獲得比較好的用戶體驗(yàn)，GPU是非常重要的。

雖然Imagination公司大家聽(tīng)說(shuō)的不多，但其實(shí)在生活當(dāng)中基于我們的技術(shù)做的產(chǎn)品覆蓋率已經(jīng)很高了?；谖覀兊募夹g(shù)所設(shè)計(jì)的芯片，到現(xiàn)在累計(jì)全球出貨量已經(jīng)達(dá)到了110億，包括智能手機(jī)、汽車電子等。在汽車電子的GPU方面，我們的市占率一度是業(yè)內(nèi)最高的，前段時(shí)間稍有下降。除了智能手機(jī)、汽車電子之外，在廣泛的IoT應(yīng)用領(lǐng)域，包括AR／VR以及很多的消費(fèi)電子里面都能看到我們的產(chǎn)品。雖然不能直接看到，但這些高端產(chǎn)品里面的GPU芯片，基本上都是使用我們的IP授權(quán)來(lái)設(shè)計(jì)的。這是我們的第一大類產(chǎn)品。

第二類產(chǎn)品是我們基于Power VR GPU開(kāi)發(fā)出的專門針對(duì)AI的一些神經(jīng)網(wǎng)絡(luò)加速器。目前也已經(jīng)有一些客戶基于我們的Power VR NNA的硬件加速設(shè)計(jì)芯片已經(jīng)投入量產(chǎn)。

第三類是我們的Ensigma連接部件。當(dāng)今的社會(huì)有非常多的技術(shù)突破，包括AI、5G等等，這些突破帶來(lái)了海量的數(shù)據(jù)，這些數(shù)據(jù)一方面需要很強(qiáng)大的算力處理，另一方面也需要更強(qiáng)大的傳輸能力來(lái)傳遞。我們收購(gòu)的Ensigma就是針對(duì)數(shù)據(jù)連接這一部分進(jìn)行發(fā)力。

我們的重點(diǎn)的產(chǎn)品是Power VR GPU。在GPU領(lǐng)域全球只有5家公司具有圖形處理的基礎(chǔ)專利，其中4家是美國(guó)公司，只有Imagination總部位于英國(guó)，是被中資全資收購(gòu)了的中資企業(yè)?；谖覀?cè)贕PU方面30多年的技術(shù)積累，我們?cè)谇皫啄晖瞥隽薖ower VR NNA，也就是neural network accelerator——神經(jīng)網(wǎng)絡(luò)加速器。這類產(chǎn)品在benchmark跑分結(jié)果排名第一。

我們的GPU產(chǎn)品除了圖形處理能力之外，還會(huì)帶來(lái)PVRIC4這樣的壓縮技術(shù)，這一技術(shù)跟我們的5G時(shí)代緊密相關(guān)。隨著5G時(shí)代的到來(lái)，會(huì)有更多基于視頻的應(yīng)用出現(xiàn)，會(huì)有更多的帶寬，我們相信針對(duì)視頻的壓縮未來(lái)也是一個(gè)非常關(guān)鍵的性能指標(biāo)。我們上一代的壓縮技術(shù)已經(jīng)能夠確保無(wú)損壓縮，但它不能確保一定能夠壓到50％以下，因此按照這樣的帶寬去設(shè)計(jì)內(nèi)存的容量，會(huì)對(duì)整個(gè)系統(tǒng)的硬件成本、電池壽命等產(chǎn)生較大影響。

我們推出的最新一代壓縮技術(shù)是用兩個(gè)流水線來(lái)做壓縮。一個(gè)流水線確保無(wú)損壓縮，另外一個(gè)流水線，就是確保壓縮率小于50％。如果無(wú)損壓縮不能達(dá)到50％的時(shí)候，我們就用有損壓縮去替代它。實(shí)際上有損壓縮到50％的時(shí)候，肉眼基本上看不出來(lái)。這樣就帶來(lái)一個(gè)好處，我們?cè)谌魏吻闆r下都能夠保證50％的壓縮率。這意味著系統(tǒng)所需要的使用的內(nèi)存、相應(yīng)的帶寬、對(duì)應(yīng)的電池壽命都可以節(jié)省一半。

另一項(xiàng)比較得意的技術(shù)是光線追蹤技術(shù)（ray tracing）。如果說(shuō)CPU GPU是處理器設(shè)計(jì)的皇冠的話，那么ray tracing這個(gè)技術(shù)就是皇冠上最大的那顆寶石。我們知道，光柵化是傳統(tǒng)的GPU圖形處理技術(shù)，它的好處在于計(jì)算量相對(duì)較小，但對(duì)于有反射折射的地方，它模擬出來(lái)的圖片效果就沒(méi)有那么的真實(shí)。而ray tracing技術(shù)是模擬真實(shí)世界里面一個(gè)光源發(fā)出了數(shù)百萬(wàn)個(gè)光線照射到不同的材質(zhì)上面，經(jīng)過(guò)數(shù)次反射折射，最終呈現(xiàn)出照片級(jí)的真實(shí)的效果。但它對(duì)計(jì)算量要求非常大。Imagination在2017年的時(shí)候推出了一項(xiàng)專用于移動(dòng)設(shè)備的ray tracing技術(shù)，能夠滿足對(duì)性能、功耗、實(shí)時(shí)性的要求，可用于手持設(shè)備上。而傳統(tǒng)的場(chǎng)景則依然使用光柵化方式來(lái)做。

為什么我們會(huì)同時(shí)推出GPU和NNA這樣兩個(gè)技術(shù)？因?yàn)樵谧鎏幚砥骱芏嗲闆r下需要進(jìn)行折中。如果要達(dá)到最好的普適性就用CPU來(lái)做，所有的算法都可以在CPU上跑，但缺點(diǎn)就是多算法效率比較差。另外一個(gè)極端就是把所有的算法全部硬化，把軟件的東西全部用硬件來(lái)實(shí)現(xiàn)，那它的效率一定是最高的。但是這里的問(wèn)題就是算法不能有一點(diǎn)改變，沒(méi)有任何普適性，算法有一丁點(diǎn)調(diào)整整個(gè)處理器就用不了。

而在這兩個(gè)極端中間其實(shí)是有很多的過(guò)渡空間，比方說(shuō)可以用DSP來(lái)做AI。但這也要面對(duì)一些難題，DSP的編程是很困難的，同時(shí)DSP更多專注于做定點(diǎn)運(yùn)算，對(duì)浮點(diǎn)運(yùn)算是不太擅長(zhǎng)的。而將GPU用于AI運(yùn)算為AI產(chǎn)業(yè)帶來(lái)很大突破，雖然GPU擁有很好的普適性和編程效果，但它的計(jì)算效率還有更多的空間。所以在這個(gè)基礎(chǔ)上，我們投入在專門做神經(jīng)網(wǎng)絡(luò)處理的NNA，它介于GPU和完全硬化的設(shè)備之間，既有一定的普適性，又能保證一定的效率。所以我們的兩個(gè)產(chǎn)品GPU和NNA結(jié)合在一起，通過(guò)一種異構(gòu)的方法，能夠既滿足普適性，同時(shí)又能夠提供很高的計(jì)算效率。

目前很多初創(chuàng)公司都號(hào)稱做了一個(gè)專用的AI芯片，在benchmark理論上計(jì)算分能夠達(dá)到多少？但AI不僅僅是需要硬件，它還需要軟件，是一個(gè)整體的系統(tǒng)。我們的NNA，包括我們的GPU有一個(gè)最大的好處，不僅僅在于我們的性能最好，benchmark跑分第一，還在于我們對(duì)軟件方面的支持是最豐富的，所有主流的框架我們都支持。我們還有很多現(xiàn)成的已經(jīng)做好的網(wǎng)絡(luò)，包括常見(jiàn)的inception，mobilenet，resnet，SSD等。也就是說(shuō)我們的用戶可以非常方便的去實(shí)現(xiàn)他們自己的網(wǎng)絡(luò)，同時(shí)也能夠非常容易的在我們的芯片上跑起來(lái)。

除了AI應(yīng)用之外，我們講邊緣計(jì)算還有一點(diǎn)就是汽車電子。這兩年我們可以看到汽車上使用屏的地方越來(lái)越多了，可能后視鏡以后不再是一面鏡子而是一個(gè)顯示屏。汽車電子有它自己的獨(dú)特性，和消費(fèi)電子不同。從設(shè)計(jì)流程上來(lái)說(shuō)的話，汽車電子芯片需要一個(gè)特定的認(rèn)證流程，不符合設(shè)計(jì)流程的芯片不能進(jìn)入汽車系統(tǒng)。此外它的生命周期也比一般的消費(fèi)電子要長(zhǎng)很多，一般的消費(fèi)電子可能幾年產(chǎn)品就消失了，不再繼續(xù)支持，但汽車電子的產(chǎn)品推出之后還要能夠保持長(zhǎng)達(dá)10年左右的技術(shù)支持。

目前非?；鸬淖詣?dòng)駕駛也需要更多的計(jì)算能力。要在有限的空間里面放下這么多的計(jì)算能力，同時(shí)又不能導(dǎo)致過(guò)分的消耗電力，也不會(huì)帶來(lái)太多散熱問(wèn)題，就需要用到我們剛才講的異構(gòu)計(jì)算的技術(shù)。我們可以通過(guò)不同的處理器架構(gòu)來(lái)滿足不同的任務(wù)。比方說(shuō)我們?cè)谧鋈珗?chǎng)景、全視野圖像拼接的時(shí)候，可以用GPU來(lái)做圖像的變形和拼接；做路徑規(guī)劃的時(shí)候，我們可以用神經(jīng)網(wǎng)絡(luò)加速器單元來(lái)完成；包括語(yǔ)音識(shí)別、人機(jī)接口這種娛樂(lè)系統(tǒng)，我們可以使用GPU來(lái)處理；對(duì)于一些目標(biāo)檢測(cè)，我們可以使用神經(jīng)網(wǎng)絡(luò)處理器來(lái)加速。通過(guò)這種異構(gòu)的方式，我們可以幫助我們的客戶在一輛車的空間內(nèi)實(shí)現(xiàn)非常強(qiáng)的計(jì)算能力。

接下來(lái)再簡(jiǎn)單說(shuō)一下，我們第3產(chǎn)品線就是我們的Ensigma。我們Ensigma的專家都是當(dāng)年WIFI和藍(lán)牙標(biāo)準(zhǔn)制定組的專家，在這方面已經(jīng)推出5代的產(chǎn)品，同時(shí)累積的出貨量也已經(jīng)到幾千萬(wàn)。也就是說(shuō)，因?yàn)槲覀冇辛薌PU NNA IP，再加上我們的數(shù)據(jù)連接IP，我們可以幫助客戶直接設(shè)計(jì)出一個(gè)系統(tǒng)級(jí)的SoC芯片出來(lái)。

說(shuō)起SoC，除了外圍的GPU、NNA和WIFI藍(lán)牙之外，還有非常核心的一點(diǎn)，就是CPU。CPU是所有的電子系統(tǒng)里面必不可少的中央處理單元，在CPU方面我們也有很多布局，和主流的CPU都能配合使用，同時(shí)我們也與最近很火的RISC－V的IP與芯片公司有著密切合作。

最后總結(jié)一下，Imagination是一家做GPU和AI，包括數(shù)據(jù)連接的一個(gè)IP公司。在GPU方面，我們是世界上唯一的一家具有基礎(chǔ)專利，同時(shí)又跟美國(guó)沒(méi)有任何關(guān)聯(lián)的公司。在AI方面，雖然目前國(guó)內(nèi)做AI芯片的公司多如牛毛，但我們相信整個(gè)AI產(chǎn)業(yè)剛剛起步，整個(gè)AI產(chǎn)業(yè)的發(fā)展包括應(yīng)用的發(fā)展，其實(shí)是一場(chǎng)非常艱苦的馬拉松運(yùn)動(dòng)，而不是一個(gè)100米的賽跑。這項(xiàng)運(yùn)動(dòng)才剛剛開(kāi)始，能夠堅(jiān)持到最后也只有少量的玩家。我們希望能夠幫助我們的客戶一起堅(jiān)持到終點(diǎn)。

謝謝大家。