3月15日，由智東西主辦，AWE和極果聯(lián)合主辦的GTIC 2019全球AI芯片創(chuàng)新峰會在上海成功舉辦！本次峰會報名參會的觀眾覆蓋了近4500家企業(yè)，到會觀眾極為專業(yè)，其中總監(jiān)以上級別占比超過62%，現(xiàn)場實際到會人數(shù)超過1800位。

大會現(xiàn)場來自學術(shù)、投資、安防、芯片等多個領(lǐng)域的21位重磅嘉賓共聚一堂，系統(tǒng)的探討了AI芯片在架構(gòu)創(chuàng)新、生態(tài)構(gòu)建、場景落地等方面的技術(shù)前景和產(chǎn)業(yè)趨勢。

會上，比特大陸AI產(chǎn)品線總裁阮沈勇為我們帶來了主題為《AI芯片激發(fā)數(shù)據(jù)中心澎湃算力》的演講，分享了比特大陸的AI技術(shù)與芯片發(fā)展歷史以及比特大陸的產(chǎn)品部署三大案例。

在他看來，基于GPU的圖片處理會帶來高成本以及高能耗，而基于TPU架構(gòu)芯片部署一定會帶來速度的大幅提升，以及能耗的數(shù)倍降低。

此外，比特大陸還宣布SC3加速卡正式對外銷售。

附比特大陸AI產(chǎn)品線總裁阮沈勇演講實錄

阮沈勇：大家好，我叫阮沈勇，是比特大陸AI產(chǎn)品線的負責人。

首先我先給大家介紹一下比特大陸的AI芯片發(fā)展歷程。

比特大陸是2013年成立的，2013年底發(fā)布首款區(qū)塊鏈芯片；2014年Antpool上線；2015年區(qū)塊鏈市場領(lǐng)先，AI業(yè)務(wù)啟動；2016年開發(fā)第一代BM1680 AI芯片；2017年第一代AI云端芯片面世；2018年推出了第二代AI云端芯片BM1682以及第一代AI終端芯片BM1880。

那么大家都知道驅(qū)動人工智能的三個因素是算法、數(shù)據(jù)以及算力。

算法方面，AlphaGo的出現(xiàn)是一個分水嶺，自從AlphaGo以后，人工智能高速發(fā)展。2015年人工智能的算法的錯誤率已經(jīng)低于人類的認知水平。另外在互聯(lián)網(wǎng)上，每年產(chǎn)生的圖片流是10的15次方，在安防行業(yè)的數(shù)量10的17次方，我們可以清晰的看到數(shù)據(jù)和算法在推動人工智能的發(fā)展。

那么算力呢？互聯(lián)網(wǎng)圖片加視頻流，全球34億互聯(lián)網(wǎng)用戶，每年產(chǎn)生10^15的圖片和視頻流，每秒產(chǎn)生10^9的圖片和視頻流。我們GPU按照P4的算力5T flops來算，每個圖片處理30GFlops，乘以每秒10^9的圖片和視頻流，對應(yīng)需要的算力為30,000,000Tflops，需要的就是6,000,000張GPU，對應(yīng)的就是1,800,000千瓦功耗以及3000億人民幣的成本。不難看到GPU芯片的高成本以及高能耗。

再放眼安防行業(yè)，當前，全球的安防行業(yè)共計有5億多個攝像頭，僅僅中國就有2億多個攝像頭。按照GPU芯片的性能來算，0.5T處理一路視頻結(jié)構(gòu)化，如果四千萬路的視頻那就需要兩千萬TOPS的算力。另外，這也會帶來很大的功耗問題。

因此我們在思考我們到底需要什么樣的AI芯片，可以提升性能，比如從CPU到GPU已經(jīng)有了10倍以上的性能提升。

當前谷歌已經(jīng)推出了TPU的芯片，比特大陸是全世界第二家推出基于TPU芯片架構(gòu)的企業(yè)。因為我們相信TPU架構(gòu)一定會帶來速度10倍的提升，能耗10倍的降低。

比特大陸的AI芯片是部分可編程的架構(gòu)，不是完全的ASIC。因為我們相信算法軟件定義的芯片，未來TPU會打破云端AI的GPU壟斷地位。魏少軍教授在早上的峰會中講到的軟件定義芯片，我們也正在往這個方向追求發(fā)展。

這是比特大陸算豐AI路線圖，2019年我們今年上半年會推出第三代芯片BM1684，其處理性能與處理路數(shù)會比1682均有幾倍的提升。我們現(xiàn)在正在跟很多客戶接觸，把1684芯片推給他們。另外，我們現(xiàn)在還在規(guī)劃2020年的產(chǎn)品，1686芯片。

基于1682芯片我們做出了加速卡SC3，它支持兩路的4K視頻，可用于視頻圖像解碼加速和CV加速。其硬件視頻解碼引擎支持1080P@240fps，最高至4K@60fps的高清視頻流解碼；支持視頻前處理、后處理等加速。我們今天也借助智東西這個平臺，正式宣布SC3加速卡對外銷售。

我們前面講我們的產(chǎn)品時，并沒有講很高深的技術(shù)，其實我們想告訴大家比特大陸是做事很低調(diào)的公司，我們的產(chǎn)品已經(jīng)有很多客戶用了。應(yīng)用案例中，用于視頻的VCR處理，視頻廣告，游戲AR的增強，或者醫(yī)療影像的處理，或者證照處理，還有客戶用于人臉識別的應(yīng)用場景都是可以的。

舉一個例子，我們有一個合作伙伴叫優(yōu)必達，這是一家游戲云服務(wù)商。他們的用戶可以通過互聯(lián)網(wǎng)的方式訪問優(yōu)必達的服務(wù)器產(chǎn)品，然后在上面做各種AI處理。優(yōu)必達在其當前的 GameCloud云服務(wù)器生產(chǎn)環(huán)境中，有越來越多的應(yīng)用各種 AI 模型，用于游戲圖像的特征提取、分類；游戲畫質(zhì)增強；AI 游戲(自動駕駛游戲)等?？焖僭鲩L的 AI 應(yīng)用使得云端服務(wù)器的算力性能需求急劇增加，并對計算加速產(chǎn)品的適用度、兼容性、穩(wěn)定性、計算效率、性價比提出了較高的綜合要求。

此前這些部署都是基于GPU和CPU做的。那么我們雙方的合作方式為基于BM1682芯片的SC3板卡，在優(yōu)必達的數(shù)據(jù)中心做了批量部署，其次使用易用成熟工具鏈BMNETT將客戶用Tensorflow訓練好的模型快速部署在SC3加速卡上，另外對外提供Python接口，調(diào)用形式兼容常規(guī)的Tensorflow，最后就是讓客戶云端生產(chǎn)環(huán)境下增強了AI算力、并快速部署。

當前他們已經(jīng)完成了移植的工作，已經(jīng)部署在云端用起來了。

那么對方為什么要和比特大陸合作，為什么從CPU、GPU移植到SC3呢？

第一，在移植性能上，比特大陸的產(chǎn)品比如在游戲增強性能的主要特征提取以及強化學習模型上的推理性能表現(xiàn)優(yōu)異，相當于標稱11.5T算力的TITAN X GPU加速卡。我們的有效利用率和GPU是相似的，我們的產(chǎn)品物理算力雖然比GPU低了3倍，但是有效利用率相當高，這是給客戶帶來性價比，能夠以更有益的性價比得到產(chǎn)品和服務(wù)。

第二是我們在模型的移植上，從開始這個項目開始合作到驗證、部署只花三周的時間。我們做AI產(chǎn)品和別的東西不太一樣，芯片本身是一方面，需要很完備的工具鏈，把軟件做好。我們這方面表現(xiàn)優(yōu)異，我們做移植的時候非?？?，只用三周的時間完成了部署。我們對技術(shù)支持的時候也是點對點的技術(shù)支持，保證客戶的問題及時響應(yīng)。我們從開始做這個東西，到最后量產(chǎn)很快夠弄完了，客戶已經(jīng)部署在云端上了。

我們的產(chǎn)品主要為視頻、圖片加速處理，我們的芯片做了很多的加速處理，剛才我們講的是互聯(lián)網(wǎng)的應(yīng)用場景，那么安防場景呢?

安防是一個對圖片和視頻做加速處理一個非常合適的應(yīng)用場景，比如說安防行業(yè)出去和客戶交流，他們說需要做人臉識別，或者根據(jù)圖片分析人的軌跡等，這是目前很常規(guī)的應(yīng)用場景。另外，在視頻結(jié)構(gòu)化處理上，可以做比如機非人（機動車、非機動車、人），看到這個人什么樣子的頭發(fā)，穿著什么顏色的衣服，戴不戴帽子，衣服褲子什么顏色的？這樣各種各樣的結(jié)構(gòu)化處理下來，追蹤人的速度就會非?？?，結(jié)構(gòu)化以后視頻空間變得非常少。

另外就是車輛分析，比如看我們開車的時候經(jīng)過紅綠燈是否有違章，晚上是否有渣土車出現(xiàn)，通過攝像頭的方式抓拍過來在云端計算，然后分析出來結(jié)果。我們的產(chǎn)品已經(jīng)和很多的客戶進行的合作。

這是一個我們在福建省的合作案例，客戶基于比特大陸的SA3服務(wù)器，用三個CPU的服務(wù)器加5個TPU的服務(wù)器在公安局內(nèi)部的網(wǎng)上進行的合作。深瞐科技基于比特大陸服務(wù)器進行了算法的移植工作，可以更好的對車進行結(jié)構(gòu)化。

順便講一下我們SA3服務(wù)器相對友商來說，我們的產(chǎn)品密度更高，比如說SA3服務(wù)器里面有18顆1682的芯片，可以提供54T算力，比如說用GPUX86服務(wù)器，密度是我們友商的2-4倍。這說明在一樣的成本下，我們可以給客戶帶來更大的路數(shù)，更高的計算密度，幫客戶間接降低了成本，提供更好的性價比。

第三個案例是加速政府超算數(shù)據(jù)中心，在DFCC數(shù)字福建云計算中心中應(yīng)用。對方會把數(shù)據(jù)中心建好之后，提供出租服務(wù)給他們的客戶，比如說初創(chuàng)公司在上面進行人工智能開發(fā)或者其他的應(yīng)用，他們之前基于P100的服務(wù)器做的，這款服務(wù)器是基于訓練做的，對科學計算比較擅長。那么比特大陸的產(chǎn)品特點是更加擅長對圖像進行處理加速，所以當客戶需要更好的圖像處理加速產(chǎn)品的時候，他們就和我們進行了合作，我們基于SA3服務(wù)器進行部署和加速處理。跟P100的服務(wù)器比起來，我們提供了更高性價比，路數(shù)更高，而且對視頻和圖片處理進行了非常好的加速。

我們認為比特大陸是一個做事情的公司，做事情一直比較低調(diào)，因此一直沒有對外宣布過我們的產(chǎn)品用在哪些客戶。今天講了三個案例，一個在互聯(lián)網(wǎng)上的應(yīng)用也就是優(yōu)必達的應(yīng)用，第二個用在安防方面的公安局應(yīng)用，第三個在數(shù)據(jù)中心的應(yīng)用。我們其實想告訴大家，我們的產(chǎn)品已經(jīng)在市場上批量部署，有很多客戶已經(jīng)實際應(yīng)用完成了部署。

那么最后總結(jié)來說，我們基于TPU的服務(wù)器是軟件可編程，對算法是友好的，客戶可以基于我們的產(chǎn)品對算法進行很好的加速處理。回應(yīng)今天上午魏教授的講話，我們認為軟件算法定義的AI芯片未來一定成為基礎(chǔ)設(shè)施。