近日，業(yè)界應(yīng)用最為廣泛的Kubernetes平臺創(chuàng)建者Rancher Labs(以下簡稱Rancher)宣布加入NVIDIA初創(chuàng)加速計(jì)劃。Rancher將通過旗下核心產(chǎn)品Rancher2.x和k3s，在數(shù)據(jù)中心側(cè)和邊緣計(jì)算側(cè)提升NVIDIA GPU的管理效率，進(jìn)而幫助GPU進(jìn)一步發(fā)揮AI能力。

NVIDIA初創(chuàng)加速計(jì)劃，是NVIDIA所推出的旨在培養(yǎng)顛覆行業(yè)格局的優(yōu)秀初創(chuàng)AI企業(yè)虛擬加速器，協(xié)助構(gòu)建、支持和培育使用深度學(xué)習(xí)、機(jī)器學(xué)習(xí)和數(shù)據(jù)科學(xué)的初創(chuàng)AI企業(yè)，幫助初創(chuàng)企業(yè)加速成長。

“Rancher并不是一家AI公司，而是致力于通過容器實(shí)現(xiàn)跨越各種環(huán)境和基礎(chǔ)設(shè)施的計(jì)算力靈活管理，后者已經(jīng)發(fā)展成為AI普及的基礎(chǔ)能力?！盧ancher中國CEO秦小康解釋道：“Rancher通過管理任何基礎(chǔ)設(shè)施上的Kubernetes集群，并與NVIDIA展開合作，進(jìn)一步提升Rancher2.x和k3s對NVIDIA GPU管理能力，發(fā)掘容器和AI結(jié)合的潛力，推動計(jì)算無處不在?！?

AI的未來發(fā)展，需要容器技術(shù)的加持

Gartner 2019年CIO調(diào)查報告顯示，過去四年中實(shí)施人工智能(AI)的企業(yè)數(shù)量增長了270%。如此神速的發(fā)展，很大程度上是因?yàn)镹VIDIA這些年在GPU硬件、軟件和生態(tài)上的不斷進(jìn)取。

得益于NVIDIA的不斷努力，全球的AI發(fā)展不僅越來越快，應(yīng)用場景也變得愈加寬泛。從云到端的各個場景中，都有NVIDIA GPU執(zhí)行AI任務(wù)的身影。

云計(jì)算的觸角已經(jīng)從云端延伸到邊緣再到終端，而AI計(jì)算的任務(wù)在這個維度上大致可以分為兩類：訓(xùn)練和推理。其中，前者主要在云端完成，云廠商大規(guī)模部署GPU，通過調(diào)用大數(shù)據(jù)集對神經(jīng)模型進(jìn)行高效訓(xùn)練。推理則主要在邊緣和終端側(cè)完成，通過驅(qū)動少量的GPU或者專有芯片來完成。

AI的高速發(fā)展，不僅僅需要上層算法和訓(xùn)練框架的演化，還需要基礎(chǔ)設(shè)施平臺對GPU管理能力的提升。保證GPU能力的靈活調(diào)用，才能保證AI應(yīng)用的高效實(shí)現(xiàn)，這其中都存在著不同程度的挑戰(zhàn)。

NVIDIA早在2017年就將目光聚焦到了Kubernetes之上，并開始探索通過插件實(shí)現(xiàn)Kubernetes對GPU的調(diào)用管理。在Kubernetes 1.6版本中，Kubernetes提供了對 NVIDIA GPU容器集群管理調(diào)度的支持，進(jìn)一步提高了對 GPU 等擴(kuò)展資源進(jìn)行統(tǒng)一管理和調(diào)度的能力。

隨著Kubernetes生態(tài)的日臻完善，原有常見的深度學(xué)習(xí)工具都提供了Kubernetes平臺的運(yùn)行版本，如Tensorflow、Pytorch等。這些開源工具的容器化進(jìn)一步提升了機(jī)器學(xué)習(xí)在Kubernetes上的運(yùn)行效率，進(jìn)而增強(qiáng)Kubernetes的機(jī)器學(xué)習(xí)能力。

機(jī)器學(xué)習(xí)是實(shí)現(xiàn)AI的普遍認(rèn)可的方法，而深度學(xué)習(xí)又是實(shí)現(xiàn)機(jī)器學(xué)習(xí)的主要技術(shù)，Kubernetes已然成為深度學(xué)習(xí)工具的主流基礎(chǔ)設(shè)施平臺。

NVIDIA+Rancher，輕松實(shí)現(xiàn)基于Kubernetes的GPU管理

Rancher作為業(yè)界領(lǐng)先的企業(yè)級Kubernetes管理平臺，為Kubernetes賦能AI提供了更為簡單易用的落地途徑。

旗艦產(chǎn)品Rancher2.x是一款開源的企業(yè)級多集群Kubernetes管理平臺，幫助企業(yè)實(shí)現(xiàn)Kubernetes集群在混合云+本地?cái)?shù)據(jù)中心的集中部署與管理。發(fā)展3年，Rancher已成為業(yè)界采用最為廣泛的Kubernetes管理平臺，全球累計(jì)下載次數(shù)逾一億次，擁有知名企業(yè)客戶逾40,000家。

k3s是目前業(yè)界公認(rèn)的邊緣Kubernetes最佳解決方案。k3s大小僅為60MB，可以減少邊緣基礎(chǔ)設(shè)施服務(wù)的資源占用。同時，k3s以其簡潔易用的特性，大大提升了用戶的運(yùn)維效率。用戶可以專注于GPU和計(jì)算框架的管理，而無需深入學(xué)習(xí)Kubernetes的專業(yè)知識。

Rancher 2.x+k3s組成了Rancher“Kubernetes即服務(wù)(Kubernetes-as-a-Service)”解決方案堆棧，為Kubernetes集群部署和管理提供了全新的使用方式，大大改善Kubernetes原生學(xué)習(xí)曲線陡峭及易用性不佳的難題。

更為重要的是，Rancher通過容器為AI提供了無處不在的計(jì)算力，無論GPU能力位于云端還是邊緣，有力推動AI的行業(yè)發(fā)展，全面提升企業(yè)的AI能力。

“Rancher作為業(yè)界領(lǐng)先的容器管理軟件提供商，將在加入NVIDIA初創(chuàng)加速計(jì)劃后，與NVIDIA進(jìn)行更為深入的合作，結(jié)合自身在Kubernetes及云原生領(lǐng)域的發(fā)展經(jīng)驗(yàn)，為企業(yè)在云邊協(xié)同一體的場景中落地AI提供更先進(jìn)的Kubernetes解決方案?！鼻匦】悼偨Y(jié)道。