AI引發(fā)的算力需求到底有多大？各種預(yù)測(cè)數(shù)據(jù)雖然并不統(tǒng)一，但可以肯定的是AI和大模型又將帶來新一輪的生產(chǎn)力的變革，在這個(gè)技術(shù)催生的市場(chǎng)變化中，企業(yè)的應(yīng)用變得更加復(fù)雜，業(yè)態(tài)會(huì)更加豐富，底層架構(gòu)單一的CPU或者GPU已經(jīng)不能滿足需求。

青云科技日前推出了AI智算平臺(tái)2.0，全面解決企業(yè)AI算力的管理與運(yùn)維難題。

在AIGC領(lǐng)域，行業(yè)面臨的普遍問題是大文本和大量行業(yè)數(shù)據(jù)加速，不同的資源需要統(tǒng)一平臺(tái)進(jìn)行管理。比如，一個(gè)影視渲染行業(yè)的用戶，需要渲染一部大電影，他們可以通過青云的平臺(tái)進(jìn)行分發(fā)，即時(shí)構(gòu)建環(huán)境調(diào)度需要用到的渲染資源。

在算力調(diào)度的基礎(chǔ)上，平臺(tái)支持自定義鏡像倉庫，同時(shí)內(nèi)置 TensorFlow、PyTorch、MPI、DeepSpeed 等常用計(jì)算框架，支持一鍵創(chuàng)建開發(fā)機(jī)、分布式任務(wù)，自動(dòng)掛載并行文件存儲(chǔ)等常用 AI 業(yè)務(wù)流程。用戶只需上傳代碼，即可快速啟動(dòng)多機(jī)多節(jié)點(diǎn)的分布式訓(xùn)練，系統(tǒng)將自動(dòng)調(diào)度到可用 GPU 進(jìn)行計(jì)算，任務(wù)完成后自動(dòng)釋放資源。這種自動(dòng)化的算力調(diào)度分發(fā)與回收機(jī)制，讓算法工程師能夠更專注于 AI 模型本身，加速科研成果的創(chuàng)新。

在AI訓(xùn)練方面，用戶通過開源的人類自然語言模型訓(xùn)練圖片、數(shù)據(jù)，做模型微調(diào)，再加上自己的行業(yè)知識(shí)，也能通過青云統(tǒng)一的多源資源調(diào)度管理平臺(tái)進(jìn)行分發(fā)管理。

模型服務(wù)功能的優(yōu)化，讓用戶可以一鍵部署在線推理服務(wù)，極大地提升了模型開發(fā)和部署的效率。無論是公開模型還是用戶上傳的自有模型，均可在線推理，滿足各類業(yè)務(wù)需求。

對(duì)于管理員來說，通過青云的平臺(tái)，只要通過一個(gè)管理界面、一個(gè)大屏，就能看到其分布在全國(guó)的2000臺(tái)資源，3000個(gè)存儲(chǔ)節(jié)點(diǎn)等等，以最少的人力大大提升管理運(yùn)維效率。

借助青云公有云智算專區(qū)運(yùn)營(yíng)經(jīng)驗(yàn)，平臺(tái)提供規(guī)格定價(jià)、在線充值、購買產(chǎn)品的全流程自服務(wù)管理，減少運(yùn)營(yíng)的技術(shù)人員、管理人員投入，同時(shí)減少客戶試用溝通和準(zhǔn)備環(huán)境的時(shí)間，加快算力中心資源售賣，提升資源運(yùn)營(yíng)效率。