9月19日，青云科技發(fā)布針對AI算力全新推出的全棧產(chǎn)品與服務(wù)，正式推出AI算力調(diào)度平臺與AI算力云服務(wù)。青云科技總裁林源在發(fā)布會和采訪中闡述了AI將給應(yīng)用和算力帶來的變化，他認(rèn)為“AI領(lǐng)域一定會出現(xiàn)巨頭，但不是一家獨(dú)立的公司，而是一個小的生態(tài)?！?

AI驅(qū)動應(yīng)用與算力變革智算中心迎挑戰(zhàn)

自2022年底ChatGPT橫空出世至今，國際與國內(nèi)科技公司紛紛展開競逐，以大模型為代表的AIGC在全球引發(fā)了新一波AI浪潮。

每一次科技創(chuàng)新都給生產(chǎn)生活方式帶來變革，正如移動互聯(lián)網(wǎng)開啟萬物互聯(lián)，云計算讓企業(yè)IT遷徙上云，每一次科技創(chuàng)新都給生產(chǎn)生活方式帶來變革。得益于AI高效的生產(chǎn)力與簡單的交互方式，青云科技總裁林源認(rèn)為，新一波AI浪潮在帶來生產(chǎn)力變革的同時，還將帶來商業(yè)模式、應(yīng)用門檻、底層架構(gòu)等眾多變革，產(chǎn)生大量新市場機(jī)會。

他表示，相較于過去十年，AI驅(qū)動應(yīng)用呈現(xiàn)四大變化：首先，移動互聯(lián)網(wǎng)、數(shù)字化的服務(wù)應(yīng)用場景，轉(zhuǎn)變?yōu)樗袘?yīng)用都要擁抱AI或被AI改造，企業(yè)數(shù)智化取代數(shù)字化；第二，從以CPU為核心變?yōu)橐訥PU為核心驅(qū)動應(yīng)用的創(chuàng)新，“未來的時代一定是一個以GPU為核心的時代”；第三，由于AI訓(xùn)練成本極高，未來AI應(yīng)用由延遲敏感型轉(zhuǎn)變?yōu)橐猿杀久舾行蜑橹?，對?yīng)的算力將從延遲低的東部沿海，向價格更便宜的西部地區(qū)發(fā)展，未來算力分布更加分散；第四，支撐的應(yīng)用類型變化，由傳統(tǒng)應(yīng)用和云原生應(yīng)用，轉(zhuǎn)變?yōu)樵圃鷳?yīng)用+AI應(yīng)用，客戶業(yè)務(wù)更復(fù)雜，業(yè)態(tài)更豐富，對技術(shù)和平臺的挑戰(zhàn)越來越多。

過去半年中，隨著大模型產(chǎn)品的爆發(fā)，AI帶來的變革已經(jīng)逐漸凸顯，其中作為AI應(yīng)用承載的算力格局變化尤為明顯。

中國信通院發(fā)布的《中國綜合算力指數(shù)（2023年）》顯示，截至2023年6月底，我國算力總規(guī)模達(dá)到197EFLOPS，其中智能算力規(guī)模占整體算力規(guī)模的比例提高到25.4%，智能算力規(guī)模同比增長達(dá)45%，比算力規(guī)模整體增速高15個百分點(diǎn)。

AI熱潮下，眾多智算中心項目如雨后春筍般落地開工，國家信息中心與相關(guān)部門聯(lián)合發(fā)布的《智能計算中心創(chuàng)新發(fā)展指南》顯示，目前全國有超過30個城市正在建設(shè)或提出建設(shè)智算中心。

在建設(shè)如火如荼的同時，智算中心也存在隱憂。林源指出，當(dāng)前智算中心面臨多方面挑戰(zhàn)。

對于智算中心的主要建設(shè)者地方政府、國資央企和地方AI集成商來說，首要挑戰(zhàn)是成本和技術(shù)。智算中心投資巨大，一臺最新的NVIDIA的服務(wù)器就要兩百萬，未來能否收回成本以及盈利，取決于運(yùn)營效率與平臺能力，前者降低成本，后者決定能賣給多少客戶。而相比于投資與建設(shè)，智算中心的運(yùn)營更專業(yè)復(fù)雜，目前各中心運(yùn)營能力參差不齊，難以應(yīng)對。

他直言：“行業(yè)內(nèi)大家對于‘智算中心要怎么建？建成什么樣？未來要支撐什么業(yè)務(wù)？’并沒有想的很透徹。”因此造成了有智算功能的某計算中心建成后，由于只支持特定GPU，所以缺乏客戶，運(yùn)營不起來的情況。

應(yīng)需而生實(shí)踐落地青云AI算力調(diào)度平臺發(fā)布

新一波AI熱潮下，智能算力規(guī)模將迎來更加快速的增長，智算中心如何設(shè)計規(guī)劃，實(shí)現(xiàn)兼顧AI應(yīng)用、云原生應(yīng)用與傳統(tǒng)應(yīng)用需求，支持異構(gòu)CPU/GPU，高效運(yùn)營達(dá)到盈利？

青云的答案是青云AI算力調(diào)度平臺。

青云科技產(chǎn)品經(jīng)理苗慧表示，青云AI算力調(diào)度平臺是包括智算中心在內(nèi)的算力中心建設(shè)的新模式，讓算力中心像管理本地資源一樣管理AI基礎(chǔ)設(shè)施，實(shí)現(xiàn)多元算力統(tǒng)一調(diào)度、智能化算力管理，支持大模型訓(xùn)練場景，提供多種AIGC模型的一站式交付平臺，支撐行業(yè)應(yīng)用計算、高性能計算、AI計算等多種應(yīng)用模式。

青云AI算力調(diào)度平臺具備九大關(guān)鍵能力：多區(qū)多業(yè)務(wù)資源整合、混合組網(wǎng)、容器推理服務(wù)平臺、分布式調(diào)度與管理、算法開發(fā)支持、模型倉庫（MaaS）、AI訓(xùn)練平臺、靈活調(diào)度、高速并行存儲。

相較于市面上其他算力調(diào)度產(chǎn)品，苗慧表示，青云AI算力調(diào)度平臺在資源靈活調(diào)度方面更具優(yōu)勢。

原因在于，青云針對大規(guī)模計算集群研發(fā)了更優(yōu)化的調(diào)度算法，所有節(jié)點(diǎn)、服務(wù)器和存儲設(shè)備都有路徑標(biāo)簽，通過算法計算最短鏈路，盡可能調(diào)度同一個交換機(jī)內(nèi)的兩個節(jié)點(diǎn)，減少數(shù)據(jù)的傳輸損耗。此外，青云在應(yīng)用環(huán)境上使用K8s和Slurm兩種調(diào)度平臺同時為客戶服務(wù)，可以實(shí)現(xiàn)提交分布式計算任務(wù)時，相關(guān)卡、CPU、進(jìn)程等調(diào)度信息都能立刻獲取到，在顆粒度和運(yùn)維傳統(tǒng)機(jī)器等方面也有更多優(yōu)化。多措并舉，實(shí)現(xiàn)更好的算力調(diào)度，更好的資源利用。

“青云AI算力調(diào)度平臺的服務(wù)對象是現(xiàn)在和未來投入智算中心建設(shè)的企業(yè)，算力中心現(xiàn)在的投資者和未來的運(yùn)營者?！?

對算力中心來說，青云AI算力調(diào)度平臺使用效果如何，實(shí)踐案例最有說服力。

據(jù)林源介紹，青云AI算力調(diào)度平臺正式發(fā)布前，已經(jīng)在國家超級計算濟(jì)南中心（以下簡稱“濟(jì)南超算”）應(yīng)用，取得了良好效果。

濟(jì)南超算擁有超1000P算力，300P存儲，是一個多元異構(gòu)算力中心，包括HPC、智算和以CPU為主的云計算，既有NVIDIA GPU，也考慮到國產(chǎn)化兼容，擁有一部分國產(chǎn)GPU。自3年前起，濟(jì)南超算的整個調(diào)度平臺由青云科技獨(dú)家供應(yīng)，運(yùn)營至今，平穩(wěn)支撐濟(jì)南超算來自高校的傳統(tǒng)科學(xué)計算、政務(wù)云和企業(yè)數(shù)字化應(yīng)用上云、智慧城市、AI等多類客戶群體業(yè)務(wù)，助力濟(jì)南超算提高算力資源利用，目前已經(jīng)實(shí)現(xiàn)盈利。

用林源的話說，濟(jì)南超算案例說明“青云AI算力調(diào)度平臺具備所說的能力，我們干過，而且干成了?！?

AI算力云服務(wù) 構(gòu)建開放的生態(tài)同盟

發(fā)布會上，青云還正式發(fā)布了青云AI算力云服務(wù)，介紹了青云AI生態(tài)合作伙伴體系。

林源表示，“青云AI算力云服務(wù)是以青云為主，對外運(yùn)營的一個AI算力服務(wù)”。獨(dú)特之處在于，該服務(wù)不是云廠商的獨(dú)角戲，而是定位為一個開放的生態(tài)同盟，青云與眾多合作伙伴一起聯(lián)營AI算力云。

采用生態(tài)方式運(yùn)營，源于AI市場邏輯的改變。他指出，過去的云計算十年中，服務(wù)商可以從底層的數(shù)據(jù)中心、硬件到軟件、PaaS都自建、自投、自營，但自己干的越多，研發(fā)費(fèi)用越高，成本越重。AI時代，做好每一層都需要長時間積累和巨大投入，所需成本遠(yuǎn)超此前，對于企業(yè)來說所有業(yè)務(wù)自己做難度極大成本太高。

與此同時，對于客戶來說，他們希望獲得一個完整的解決方案，包括機(jī)房、算力、調(diào)度平臺、模型驅(qū)動、模型、Model Service、上層應(yīng)用等所有。因此，林源認(rèn)為，在AI領(lǐng)域一定會出現(xiàn)巨頭，但不應(yīng)該是一家獨(dú)立的公司，而是一個小的生態(tài)，聚合起來提供包含每一層的服務(wù)，彼此開放，長期共贏。

青云AI算力云服務(wù)生態(tài)主要圍繞：AI 算力基礎(chǔ)設(shè)施的生態(tài)共享、AI 算力大模型的資源整合以及 AI 數(shù)據(jù)資源的生態(tài)整合。在這個生態(tài)中，青云只干自己最擅長的——AI算力調(diào)度平臺。

據(jù)發(fā)布會上展示，青云AI算力生態(tài)體系已初見雛形：AI算力組建生態(tài)囊括Intel、NVIDIA、AMD、中科曙光、天數(shù)智芯、燧原科技、中科馭數(shù)、大禹智芯等國內(nèi)外企業(yè)；AI模型生態(tài)包括智譜清言、紫光太初2.0、商湯科技商量等多個大模型；算力服務(wù)生態(tài)既包括濟(jì)南超算、清華大學(xué)智算中心，也有中國電信這樣的算力供應(yīng)方；最上層已經(jīng)有金融、交通、制造業(yè)、能源、自然資源等行業(yè)應(yīng)用生態(tài)。

從對話的ChatGPT到生成照片的妙鴨相機(jī)，AI已經(jīng)在多個領(lǐng)域展現(xiàn)了驚人的生產(chǎn)力與創(chuàng)造力，新一波AI大潮席卷而來，模型迭代迅速，智能算力建設(shè)與應(yīng)用落地加速，企業(yè)如何抓住市場新機(jī)遇，踏浪向前？

面對AI帶來的一系列變革，青云希望通過開放的、成熟的、可運(yùn)營的AI算力調(diào)度平臺，通過自營、合營乃至支撐第三方運(yùn)營的方式，與生態(tài)同盟一起貢獻(xiàn)“AI Cloud”，共同前行。