美國(guó)東部時(shí)間12月1日，國(guó)際權(quán)威AI基準(zhǔn)測(cè)試MLPerf?公布最新一期訓(xùn)練（Training）榜單V1.1。浪潮信息提交了AI服務(wù)器所有8項(xiàng)單機(jī)測(cè)試的固定任務(wù)（Closed Division）成績(jī)，并斬獲其中7項(xiàng)冠軍。

MLPerf?是影響力最廣的國(guó)際AI性能基準(zhǔn)評(píng)測(cè)，本次測(cè)試吸引谷歌、微軟云、英偉達(dá)、浪潮信息、百度、戴爾、聯(lián)想等14家公司及科研機(jī)構(gòu)參與，共提交180項(xiàng)固定任務(wù)成績(jī)，6項(xiàng)開放任務(wù)成績(jī)。固定任務(wù)要求參賽各方使用與參考模型等價(jià)的模型和限定的優(yōu)化器，對(duì)于實(shí)際用戶評(píng)測(cè)AI計(jì)算系統(tǒng)性能具備很強(qiáng)的參考意義，也一直是MLPerf?中角逐最激烈及主流廠商最關(guān)注的領(lǐng)域。

本次性能基準(zhǔn)評(píng)測(cè)涵蓋了8類極具代表性的機(jī)器學(xué)習(xí)任務(wù)，分別為圖像分類（ResNet）、醫(yī)學(xué)影像分割（U-Net3D）、目標(biāo)物體檢測(cè)（SSD）、目標(biāo)物體檢測(cè)（Mask R-CNN）、語音識(shí)別（RNNT）、自然語言理解（BERT）、智能推薦（DLRM）以及強(qiáng)化學(xué)習(xí)（MiniGo）。

浪潮AI服務(wù)器在單機(jī)系統(tǒng)測(cè)試的全部8項(xiàng)固定任務(wù)中，獲得7項(xiàng)冠軍。其中，AI服務(wù)器NF5688M6獲得醫(yī)學(xué)影像分割、目標(biāo)物體檢測(cè)（Mask R-CNN）、自然語言理解、智能推薦4項(xiàng)冠軍；AI服務(wù)器NF5488A5獲得圖像分類、目標(biāo)物體檢測(cè)（SSD）、語音識(shí)別3項(xiàng)冠軍。

全棧AI能力 引領(lǐng)AI訓(xùn)練速度突破

憑借卓異的軟硬件系統(tǒng)優(yōu)化能力，浪潮AI服務(wù)器將MLPerf?訓(xùn)練基準(zhǔn)的單機(jī)效率進(jìn)一步提升至新的高度。相比半年前的MLPerf?AI訓(xùn)練榜單V1.0，浪潮AI服務(wù)器將醫(yī)學(xué)影像識(shí)別、語音識(shí)別、智能推薦和自然語言處理任務(wù)的單機(jī)AI訓(xùn)練速度提升18%、14%、11%和8%。

MLPerf?作為國(guó)際最權(quán)威的AI性能基準(zhǔn)測(cè)試，不斷刷新業(yè)內(nèi)的AI訓(xùn)練速度。目前，浪潮信息是MLPerf?基準(zhǔn)測(cè)試中醫(yī)學(xué)影像分割、目標(biāo)物體檢測(cè)（Mask R-CNN）、自然語言理解、智能推薦、圖像分類、目標(biāo)物體檢測(cè)（SSD）、語音識(shí)別7項(xiàng)AI任務(wù)的單機(jī)最快訓(xùn)練速度保持者。浪潮AI服務(wù)器在圖像分類訓(xùn)練中每秒可處理27400張圖片、在目標(biāo)物體檢測(cè)訓(xùn)練中每秒可處理12600張圖片、在語音識(shí)別訓(xùn)練中每秒可處理8000段語音，引領(lǐng)全球AI訓(xùn)練速度突破，凸顯出頂級(jí)AI服務(wù)器在AI模型訓(xùn)練效率上的巨大價(jià)值。

浪潮AI服務(wù)器在MLPerf?基準(zhǔn)評(píng)測(cè)中的出色表現(xiàn)，得益于在AI計(jì)算系統(tǒng)創(chuàng)新上卓越的系統(tǒng)設(shè)計(jì)能力和全棧優(yōu)化能力。在硬件層面，針對(duì)AI訓(xùn)練中常見的密集IO傳輸瓶頸，浪潮AI服務(wù)器以領(lǐng)先設(shè)計(jì)大幅降低通信延遲，極大提升了AI訓(xùn)練效率；同時(shí)，針對(duì)高負(fù)載多GPU協(xié)同任務(wù)調(diào)度，對(duì)NUMA節(jié)點(diǎn)與GPU之間的數(shù)據(jù)傳輸進(jìn)行全面優(yōu)化和深度調(diào)校，確保訓(xùn)練任務(wù)中的數(shù)據(jù)IO無阻塞；在散熱層面，針對(duì)目前業(yè)界功率最高的A100-SXM-80GB(500W) GPU，浪潮率先開發(fā)的先進(jìn)冷板液冷系統(tǒng)，確保GPU在全功率甚負(fù)載下依然穩(wěn)定工作，將AI計(jì)算系統(tǒng)的性能發(fā)揮到極致。

MLPerf?2021年度收官 浪潮信息共獲44項(xiàng)第一

MLCommons每年組織2次MLPerf? 推理性能測(cè)試和2次MLPerf? 訓(xùn)練性能測(cè)試。本次成績(jī)公布意味著MLPerf?2021年度4次性能測(cè)試正式收官。浪潮AI服務(wù)器共斬獲44項(xiàng)第一，名列MLPerf?2021年度冠軍榜首。

2021年，浪潮AI服務(wù)器在MLPerf?數(shù)據(jù)中心AI推理場(chǎng)景的總32項(xiàng)任務(wù)中斬獲17項(xiàng)冠軍，在邊緣AI推理場(chǎng)景的總31項(xiàng)任務(wù)中斬獲16項(xiàng)冠軍，從云到邊全面領(lǐng)先；在單機(jī)AI訓(xùn)練場(chǎng)景的16項(xiàng)任務(wù)中浪潮AI服務(wù)器共斬獲11項(xiàng)冠軍。

2021年，浪潮AI服務(wù)器NF5488A5、NF5688M6以及邊緣服務(wù)器NE5260M5參加到MLPerf?競(jìng)賽中，各斬獲18項(xiàng)、15項(xiàng)及11項(xiàng)冠軍。

NF5488A5是全球首批上市的A100服務(wù)器，在4U空間支持8顆第三代NVLink互聯(lián)的A100 GPU和2顆AMD Milan CPU，同時(shí)支持液冷和風(fēng)冷散熱技術(shù)。NF5688M6是面向大規(guī)模數(shù)據(jù)中心優(yōu)化設(shè)計(jì)的具備極致擴(kuò)展能力的AI服務(wù)器，支持8顆A100 GPU和兩顆Intel Ice Lake CPU，支持多達(dá)13張PCIe Gen4的IO擴(kuò)展卡。NE5260M5通過極致優(yōu)化的信號(hào)和電源等系統(tǒng)設(shè)計(jì)，兼容高性能CPU和多種AI加速卡，通過減震降噪優(yōu)化和嚴(yán)苛的可靠性測(cè)試，機(jī)箱深度430mm較普通服務(wù)器縮短近二分之一，滿足空間受限的邊緣計(jì)算場(chǎng)景部署需求。

浪潮信息是全球領(lǐng)先的AI計(jì)算廠商，AI服務(wù)器市場(chǎng)份額全球第一，中國(guó)市場(chǎng)份額已連續(xù)五年穩(wěn)居第一。浪潮信息致力于AI計(jì)算平臺(tái)、資源平臺(tái)和算法平臺(tái)的研發(fā)創(chuàng)新，并通過元腦生態(tài)與AI領(lǐng)先企業(yè)共同推進(jìn)AI產(chǎn)業(yè)化和產(chǎn)業(yè)AI化進(jìn)程。