作者：JFrog大中華區(qū)總經(jīng)理 董任遠(yuǎn)

JFrog中國技術(shù)總監(jiān) 王青

眼下，人工智能（AI）和機(jī)器學(xué)習(xí)（ML）等賽道被熱議，已經(jīng)成為了習(xí)慣。事實(shí)上，在DevOps領(lǐng)域，與之相關(guān)的話題更是備受矚目。隨著科技不斷演進(jìn)，這三個(gè)領(lǐng)域的融合對于企業(yè)的數(shù)字化轉(zhuǎn)型和多層次的創(chuàng)新發(fā)揮著越來越重要的作用?；谶@一龐大的市場規(guī)模的增長源于基于云的技術(shù)和自動(dòng)化工具的廣泛應(yīng)用，JFrog便立志要推進(jìn)DevOps在具體業(yè)務(wù)中的實(shí)踐。本文將探討，在未來短期之內(nèi)，由于AI和ML等技術(shù)的采用，企業(yè)會(huì)更加靈活地構(gòu)建、部署和管理應(yīng)用，從而提高整體業(yè)務(wù)敏捷性的趨勢。

AI和ML的崛起為DevOps注入了全新的活力。通過AI和ML的引入，企業(yè)能夠更加智能地進(jìn)行運(yùn)維和決策，從而優(yōu)化工作流程、降低錯(cuò)誤率，并實(shí)現(xiàn)更高效的自動(dòng)化。這一趨勢在全球初創(chuàng)企業(yè)和大型企業(yè)中都得到了廣泛的應(yīng)用，推動(dòng)了整個(gè)DevOps生態(tài)系統(tǒng)的蓬勃發(fā)展。在全球范圍內(nèi)，初創(chuàng)企業(yè)積極采用這些先進(jìn)技術(shù)和工具，以提高其競爭力并快速適應(yīng)市場變化。大型企業(yè)則逐漸意識(shí)到，特別在數(shù)字時(shí)代，采用云原生、AI和ML等技術(shù)不僅是一種趨勢，更是提升企業(yè)創(chuàng)新力和業(yè)務(wù)效率的關(guān)鍵所在。因此，它們紛紛投身于這些技術(shù)，通過數(shù)字化轉(zhuǎn)型賦能業(yè)務(wù)。

1. AI和ML對于DevOps的影響

首先，隨著運(yùn)維機(jī)器，包括版本發(fā)布頻率的不斷增加，未來如果有成熟的產(chǎn)品，通過AI工具實(shí)現(xiàn)自動(dòng)化將成為可能。特別是在測試領(lǐng)域，AI測試的自動(dòng)化實(shí)現(xiàn)將會(huì)得到強(qiáng)化，其學(xué)習(xí)能力的提升將顯著幫助開發(fā)者。因此，AI對于Ops團(tuán)隊(duì)和開發(fā)者的支持將實(shí)現(xiàn)顯著提升。

其次，模型的安全性也將成為一個(gè)重要關(guān)注點(diǎn)。Hugging Face是一個(gè)在互聯(lián)網(wǎng)上管理大型模型的平臺(tái)，國內(nèi)的模型企業(yè)通常在這個(gè)平臺(tái)上搜尋最熱門的大型模型，例如來自Facebook的模型，并將其下載到本地。然而，其中存在一個(gè)潛在的問題就是惡意上傳模型的風(fēng)險(xiǎn)。惡意上傳者可能在模型中嵌入一些惡意代碼，在本地執(zhí)行模型時(shí)就會(huì)觸發(fā)這些惡意代碼。這種攻擊方式包括但不限于在機(jī)器上植入礦機(jī)、竊取密碼等多種攻擊方式。目前，尚無工具能夠完全阻止利用模型進(jìn)行此類投毒攻擊。

對此，JFrog可提供一些支持，但模型攻擊的方式繁多，對策仍需進(jìn)一步的研究和發(fā)展。另外，還有一種潛在的威脅是利用大型模型如ChatGPT，通過訓(xùn)練使其生成惡意代碼。黑客可以通過故意訓(xùn)練GPT以產(chǎn)生惡意回答，當(dāng)其他人查詢時(shí)，就會(huì)得到這些惡意的回復(fù)。這種潛在的威脅也需要引起足夠的重視。

2.良好的基礎(chǔ)設(shè)施是AI/ML計(jì)劃實(shí)現(xiàn)長期成功的關(guān)鍵

高度可擴(kuò)展、有彈性、分布式、安全和高性能的基礎(chǔ)設(shè)施可以決定一個(gè)組織的AI/ML戰(zhàn)略的成敗。JFrog有客戶從事超級(jí)計(jì)算，并提供機(jī)器學(xué)習(xí)服務(wù)，但與此同時(shí)，JFrog并未自己使用這些服務(wù)，而是將其提供給客戶使用?？蛻舻膽?yīng)用場景通常涉及在JFrog的超級(jí)計(jì)算平臺(tái)上進(jìn)行訂單操作。若構(gòu)建一個(gè)模型集群，以進(jìn)行大規(guī)模的模型計(jì)算。為此，需要在平臺(tái)上投入資金，首先購買所需的計(jì)算機(jī)資源，其次購買模型，還需要相關(guān)的監(jiān)控服務(wù)。用戶在完成支付后確認(rèn)訂單，此后所有操作都依賴于JFrog系統(tǒng)平臺(tái)的分布式、可用性、安全性和高性能的基礎(chǔ)設(shè)施即可實(shí)現(xiàn)。

由于模型文件非常龐大，甚至單個(gè)文件就可能達(dá)到100GB，而用戶可能分布在全球各地。假設(shè)模型文件存儲(chǔ)在用戶位于北京的總部，但用戶需要在西安的分公司進(jìn)行訓(xùn)練，這就要求將整套與模型相關(guān)的文件立即傳輸?shù)轿靼?。因此，解決如何快速而又確保成功地將100GB的文件傳送到西安，成為了當(dāng)務(wù)之急。眾所周知，這些文件傳輸可能經(jīng)過公共網(wǎng)絡(luò)，因此可能引發(fā)許多性能問題。這些模型的學(xué)習(xí)運(yùn)算操作都依賴于底層基礎(chǔ)設(shè)施，為實(shí)現(xiàn)本地建設(shè)和部署則需要大量的資源，而JFrog會(huì)將這些因素都納入考慮。

3. AIOps和MLOps的應(yīng)用情況及優(yōu)勢

互聯(lián)網(wǎng)企業(yè)因需要管理大量的機(jī)器，對于AIOps的需求非常高。AI能夠智能地預(yù)測流量的變化，識(shí)別高峰和低谷，并智能地分配資源，這是互聯(lián)網(wǎng)領(lǐng)域非常基本和重要的需求。比如在金融領(lǐng)域，對于AI運(yùn)維平臺(tái)的使用并不是那么頻繁，盡管對于一些錯(cuò)誤日志分析有需求，需要在出現(xiàn)故障時(shí)利用AI工具快速定位并解決問題，但金融行業(yè)對于超前采用AI管控運(yùn)維的意識(shí)并不是很強(qiáng)烈。

MLOps通常是由大型互聯(lián)網(wǎng)企業(yè)所推動(dòng)，在這個(gè)環(huán)節(jié)中，JFrog也能夠提供支持。因此，一些大型企業(yè)在這方面的落地較為順暢，他們將模型開發(fā)的能力賦予了DevOps工具平臺(tái)上，使得這個(gè)過程更為奏效。

4.AI/ML應(yīng)用過程中需關(guān)注的安全問題

JFrog關(guān)注到，北美用戶對安全問題的投入已經(jīng)達(dá)到了一個(gè)非常高的水平，軟件工程師及企業(yè)的首席信息官普遍具備安全意識(shí)，他們會(huì)主動(dòng)采用安全措施。早前，就有名為軟件供應(yīng)鏈安全SBOM被制定和發(fā)布，目的是定義軟件供應(yīng)商提供的軟件包含哪些成分，每個(gè)成分的開源組件使用什么樣的許可證，存在什么樣的漏洞，這些都是必需的信息。在國內(nèi)，企業(yè)并沒有這樣的要求，相關(guān)的標(biāo)準(zhǔn)也沒有完全形成，中國信息通信研究院正在致力于這項(xiàng)工作。未來，伴隨相關(guān)標(biāo)準(zhǔn)和法規(guī)的出臺(tái)，這將引導(dǎo)企業(yè)采用開源治理來保障其軟件的安全。在這種情況下，每個(gè)企業(yè)都將不得不在DevOps流程中加入軟件包的安全考慮，這就是一個(gè)明顯的趨勢。

JFrog Xray專注于漏洞掃描，只需將軟件包上傳到制品庫，就能自動(dòng)生成SBOM軟件物料清單。相信在2024年，它將變得非常流行，并成為每個(gè)企業(yè)都必備的工具。

對于AI工具如何賦能研發(fā)團(tuán)隊(duì)，部分企業(yè)已經(jīng)開始利用一些高端芯片進(jìn)行機(jī)器學(xué)習(xí)，為開發(fā)者提供代碼補(bǔ)全的能力。當(dāng)然，這是為了幫助開發(fā)者更快、更好地編寫代碼。與眾不同的是，JFrog更加注重支持模型供應(yīng)鏈。企業(yè)要訓(xùn)練模型，首先需要從互聯(lián)網(wǎng)獲取模型，然后管理和訓(xùn)練這個(gè)模型。在模型中，需要編寫自己的代碼，重新訓(xùn)練模型，最終發(fā)布自己的模型。因此，JFrog在模型開發(fā)方面提供了對整個(gè)端到端生命周期的支持，包括模型內(nèi)的漏洞掃描和license儲(chǔ)備器，以確保為企業(yè)提供全方位的保障。

2024年，AI和ML將繼續(xù)深刻地塑造DevOps領(lǐng)域，通過自動(dòng)化執(zhí)行和智能決策提高整個(gè)開發(fā)和運(yùn)維過程的效率，從而減輕開發(fā)團(tuán)隊(duì)的負(fù)擔(dān)，為團(tuán)隊(duì)提供更高效、智能和創(chuàng)新的開發(fā)和運(yùn)維解決方案。隨著技術(shù)的不斷進(jìn)步，這些趨勢有望進(jìn)一步推動(dòng)DevOps實(shí)踐的發(fā)展，使其更適應(yīng)快速變化的業(yè)務(wù)需求。

###

關(guān)于JFrog

JFrog Ltd.（納斯達(dá)克股票代碼：FROG）的使命是創(chuàng)造一個(gè)從開發(fā)人員到設(shè)備之間暢通無阻的軟件交付世界。秉承“流式軟件”的理念，JFrog軟件供應(yīng)鏈平臺(tái)是統(tǒng)一的記錄系統(tǒng)，幫助企業(yè)快速安全地構(gòu)建、管理和分發(fā)軟件，確保軟件可用、可追溯和防篡改。集成的安全功能還有助于發(fā)現(xiàn)和抵御威脅和漏洞并加以補(bǔ)救。JFrog的混合、通用、多云平臺(tái)可以作為跨多個(gè)主流云服務(wù)提供商的自托管和SaaS服務(wù)。全球數(shù)百萬用戶和7000多名客戶，包括大多數(shù)財(cái)富100強(qiáng)企業(yè)，依靠JFrog解決方案安全地開展數(shù)字化轉(zhuǎn)型。一用便知！如欲了解更多信息，請?jiān)L問www.jfrogchina.com或者關(guān)注我們的微信官方賬號(hào)：JFrog捷蛙。