精品国产18久久久久久,一个人在线观看的www,亚洲一区二区久久久,成人国内精品久久久久影院vr,最近免费中文字幕大全高清大全1

嘉為藍(lán)鯨LLMOps平臺:攜手DeepSeek助力一體化運(yùn)維升級

2025-02-28 15:41:02AI云資訊1705

一、背景

蛇年伊始,DeepSeek憑借其卓越表現(xiàn)火爆出圈,讓AI大模型瞬間成為街頭巷尾熱議的焦點(diǎn),也讓大眾重新燃起對AGI(通用人工智能)“平民化”的信心,DeepSeek通過先進(jìn)的模型架構(gòu),帶來的高效率與低成本優(yōu)勢,加快了應(yīng)用場景的百花齊放。

嘉為藍(lán)鯨早在23年初就接入GPT等大模型在運(yùn)維領(lǐng)域中孵化應(yīng)用場景,而到本次DeepSeek評測和應(yīng)用,又增加了更多實(shí)踐。那怎么用好DeepSeek服務(wù)于運(yùn)維,我們在設(shè)計(jì)上始終秉持智能化運(yùn)維進(jìn)程里面的兩個(gè)設(shè)計(jì)原則:平臺化和場景化。

平臺化:不只是提供工具,而是賦能工具的構(gòu)建能力,無論從數(shù)據(jù)開發(fā)過程、機(jī)器學(xué)習(xí)模型開發(fā)過程,還是大模型智能體開發(fā)過程,提供的是兼容各類場景的開發(fā)平臺;

場景化:數(shù)據(jù)、AI不能脫離運(yùn)維場景進(jìn)行,如果沒有實(shí)用化、工程化的落地,那么數(shù)據(jù)AI的應(yīng)用也只是圖個(gè)新鮮,因而所有的能力都會以能力調(diào)用的方式集成到產(chǎn)品中。

二、LLMOps平臺+DeepSeek優(yōu)勢

嘉為藍(lán)鯨運(yùn)維大模型開發(fā)平臺(簡稱LLMOps平臺)致力于為運(yùn)維全生命周期提供卓越的運(yùn)維工具支持,為業(yè)務(wù)通用AI場景提供工具支持,為滿足不同業(yè)務(wù)場景需求提供自定義開發(fā)擴(kuò)展能力。

1、LLMOps平臺作為運(yùn)維大模型開發(fā)平臺,分為兩個(gè)模塊

(1)大模型服務(wù)模塊

提供跨公私域多種大語言模型接入(內(nèi)置60多種常見模型適配器,也包含DeepSeek各類尺寸的接入),為上層工具和應(yīng)用提供統(tǒng)一的使用和運(yùn)維接口,并提供權(quán)限、審計(jì)、監(jiān)控、配額限流等管理能力,LLM 資源管理則提供了 AI 場景建設(shè)過程中用到的各種資源、工具的支持。包括知識庫管理、工具管理、智能 Agent 管理、Prompt 管理等。

(2)大模型開發(fā)模塊

提供了LLM Agent Framework ,這是一個(gè) LLM 智能 Agent 應(yīng)用開發(fā)框架,提供單 Agent 智能代理與基于 Graph 編排的多 Agent 智能代碼構(gòu)建支持,使用 Graph 組合 Agent,Chain,Retriever 等各類子組件,編排業(yè)務(wù)流程,解決復(fù)雜多變的業(yè)務(wù)問題,同時(shí)最大程度保留可復(fù)用性。

作為整個(gè)嘉為藍(lán)鯨一體化運(yùn)維體系的一部分,與一體化運(yùn)維系統(tǒng)之間通過功能調(diào)用,以及數(shù)據(jù)和知識接入,形成有機(jī)互動,實(shí)現(xiàn)更為豐富的場景化應(yīng)用。

2、在運(yùn)維領(lǐng)域應(yīng)用,我們評測了各個(gè)國內(nèi)外大模型的適用場景和落地效果,DeepSeek相比其他大模型,的確讓人眼前一亮

(1)算力效率革新

DeepSeek通過多模態(tài)深度Transformer架構(gòu),以及動態(tài)稀疏激活機(jī)制,實(shí)現(xiàn)了萬億參數(shù)級的高效推理,能對文字、代碼、數(shù)學(xué)符號等不同類型文本進(jìn)行統(tǒng)一理解與生成。在運(yùn)維領(lǐng)域,解決了不突破企業(yè)數(shù)據(jù)安全限制的要求下,實(shí)現(xiàn)低成本的高質(zhì)量大模型的部署和應(yīng)用。

(2)深度洞察

DeepSeek的對齊強(qiáng)化學(xué)習(xí)框架則刺透人類意圖的次元壁。通過海量高質(zhì)量數(shù)據(jù)鍛造的語義理解鋒刃,在對話場景中實(shí)現(xiàn)94.3%的意圖識別準(zhǔn)確率,非常適合作為運(yùn)維領(lǐng)域全能助手,識別用戶的意圖,然后調(diào)用私域知識或運(yùn)維工具獲取信息,精準(zhǔn)解答用戶問題。

(3)持續(xù)進(jìn)化基因

DeepSeek通過持續(xù)預(yù)訓(xùn)練框架使模型具備“細(xì)胞級”迭代能力,加上低訓(xùn)練成本優(yōu)勢,可以在智能運(yùn)維場景落地過程中,持續(xù)消費(fèi)企業(yè)積累的知識,進(jìn)行模型的訓(xùn)練微調(diào),不斷進(jìn)化生長,成為企業(yè)“量身定制”的智能運(yùn)維專家。

3、LLMOps關(guān)鍵產(chǎn)品功能示意

(1)多模型接入

支持60+模型接入框架,包括私有化部署和托管接入方式,同時(shí)通過LLM Gateway屏蔽不同LLM模型之間的差異,為上層應(yīng)用提供業(yè)界標(biāo)準(zhǔn)的OpenAI 協(xié)議API 接口,并提供權(quán)限、審計(jì)、監(jiān)控、配額限流等管理能力。

(2)私域知識接入

進(jìn)行RAG預(yù)處理,并支持文件上傳、手工錄入、網(wǎng)頁知識三種形式;可在聊天過程中可指定回復(fù)引用知識庫。

(3)支持工具開發(fā)

創(chuàng)建/編輯工具,填寫工具的基本信息,調(diào)用接口和請求參數(shù);可在會話和智能體開發(fā)中調(diào)用。

(4)提示詞與角色定義

創(chuàng)建prompts并支持在線調(diào)試,基于prompts設(shè)定角色,并選擇不同大模型進(jìn)行聯(lián)調(diào),支持接口及開發(fā)框架調(diào)用。

(5)智能體開發(fā)框架

提供智能體開發(fā)框架,包括單Agent智能代理與基于編排的多Agent智能代碼構(gòu)建支持。

6、LLMOps+DeepSeek問答

三、DeepSeek在智能運(yùn)維場景應(yīng)用

嘉為藍(lán)鯨探索大模型,包括DeepSeek在智能運(yùn)維場景的應(yīng)用,仍然從一體化運(yùn)維的業(yè)務(wù)視角出發(fā),不是從單點(diǎn)場景視角提升,而是業(yè)務(wù)閉環(huán)視角整體提升。

企業(yè)IT運(yùn)維一體化場景涵蓋了多個(gè)運(yùn)維活動,日常維護(hù)、變更發(fā)布、故障應(yīng)急、服務(wù)響應(yīng)、優(yōu)化提升、安全管控等均需要跨多個(gè)運(yùn)維領(lǐng)域完成,場景驅(qū)動了各個(gè)業(yè)務(wù)域之間的業(yè)務(wù)集成和技術(shù)集成設(shè)計(jì)。

以典型的事件生命周期管理為例,基于大模型重構(gòu)提升場景如下:

四、應(yīng)用場景清單

五、應(yīng)用場景詳細(xì)描述

1、產(chǎn)品使用助手

(1)內(nèi)容描述

IT運(yùn)維團(tuán)隊(duì)逐漸向SRE、平臺工程轉(zhuǎn)型,過程中依賴各種運(yùn)維工具體系建設(shè)和推廣。每次運(yùn)維新產(chǎn)品發(fā)布或者產(chǎn)品功能更新,都需要花費(fèi)大量時(shí)間組織用戶培訓(xùn)和使用答疑,費(fèi)時(shí)費(fèi)力。借助大模型如DeepSeek強(qiáng)大的推理能力,結(jié)合產(chǎn)品使用手冊,可以低成本實(shí)現(xiàn)面向用戶的產(chǎn)品使用助手,主要包含如下功能:

1)知識管理能力

支持手動上傳各類格式的文檔知識,如md、doc、pdf、excel、ppt等;支持和企業(yè)內(nèi)已有的知識庫對接,并能同步更新。

2)知識檢索能力

支持通過向量相似度或關(guān)鍵詞等多種方式進(jìn)行知識檢索和知識召回,如基于標(biāo)題或特定字段的向量召回或全文檢索匹配召回,再根據(jù)多路召回的知識進(jìn)行去重和排序,選擇最相關(guān)的知識片段,輸入給大模型進(jìn)行上下文學(xué)習(xí)和總結(jié),旨在優(yōu)化信息檢索的覆蓋率和精確度。

3)大模型提煉總結(jié)

遵循最佳提示詞框架,與大模型進(jìn)行交互,把提示詞模板和檢索到的知識片段按照特定格式發(fā)送給大模型進(jìn)行總結(jié),利用大模型強(qiáng)大的推理能力,返回符合用戶意圖的問題回復(fù)。

4)IM工具集成

支持和企業(yè)內(nèi)已有的IM工具進(jìn)行集成,如企業(yè)微信、釘釘、飛書等,進(jìn)一步提升產(chǎn)品使用助手的用戶覆蓋,降低用戶使用工具的門檻。

(2)價(jià)值收益

1)新產(chǎn)品或新功能推廣效率提升顯著;

2)功能使用類ITSM工單降低50%以上。

(3)技術(shù)實(shí)現(xiàn)

基礎(chǔ)大模型/提示詞工程/知識庫/RAG。

2、IT觀測助手

(1)內(nèi)容描述

IT監(jiān)控工具是IT運(yùn)維的第一個(gè)建設(shè)工具,作為運(yùn)維人員的“眼睛”,IT監(jiān)控在“數(shù)字化”、“云原生”、“信創(chuàng)”的大趨勢下正在向“可觀測”領(lǐng)域持續(xù)演進(jìn)發(fā)展,而當(dāng)大模型來臨之際,可觀測也需要具備各種人工智能能力,主動性地提升IT人員在故障發(fā)現(xiàn)、故障定位、故障處置上的效率和質(zhì)量,從而更好地保障業(yè)務(wù)正常運(yùn)轉(zhuǎn)。

借助大模型的能力,可結(jié)合Chatops建設(shè)IT觀測助手實(shí)現(xiàn)以下功能:

1)觀測智能問答

借助大模型語文識別,提供私域和公域知識的智能問答。

2)告警關(guān)聯(lián)數(shù)據(jù)提取

當(dāng)發(fā)生告警時(shí),觀測助手可主動提供此對象以及與此對象相關(guān)的其他對象的指標(biāo)/日志/Trace/拓?fù)涞刃畔?,供IT運(yùn)維人員進(jìn)行故障診斷定位。

3)推理式告警根因分析

觀測助手可基于應(yīng)用橫縱向拓?fù)湫畔⑻峁└蚍治鐾扑]能力。

4)告警處置引導(dǎo)及操作執(zhí)行

觀測助手可基于根因分析和故障決策樹的定位能力,以及應(yīng)急處置能力提供引導(dǎo)式故障處置執(zhí)行。

5)告警處置過程內(nèi)容總結(jié)

針對告警的定位、協(xié)同過程、定位和處置、業(yè)務(wù)驗(yàn)證結(jié)果形成告警處理事件總結(jié)。

6)告警處置方案自動回寫知識庫并更新

針對告警的發(fā)現(xiàn)、定位和處置結(jié)果自動回寫到歷史事件知識庫中,以供下一次的故障處置提供參考。

7)監(jiān)控告警插件編寫

基于公域知識提供各種組件的監(jiān)控指標(biāo)定義和插件編碼,自動生成相應(yīng)監(jiān)控告警插件。

8)監(jiān)控、告警策略編寫

基于公域知識提供和自動生成各類組件的告警閾值策略

(2)價(jià)值收益

1)持續(xù)增強(qiáng)第二代監(jiān)控——可觀測的自動化監(jiān)控告警的推廣和覆蓋的運(yùn)營能力;

2)提升從告警發(fā)現(xiàn)、故障定位、故障處置的效率;

3)將紛繁復(fù)雜、持續(xù)迭代的運(yùn)維經(jīng)驗(yàn)和能力沉淀到工具和平臺上,以“智能”替換“專家”,形成IT運(yùn)維的核心能力建設(shè)。

(3)技術(shù)實(shí)現(xiàn)

1)結(jié)合Chatops技術(shù)提供人機(jī)交互;

2)基于CMDB與APM的橫縱向拓?fù)錁?gòu)建的知識圖譜算法提供故障定位能力;

3)基于LLM的語義識別/Functioncall/知識庫提供高效的引導(dǎo)式故障處置能力;

4)整合CMDB、ITSM、自動化、可觀測、數(shù)據(jù)與AI/LLM提升IT故障發(fā)現(xiàn)、協(xié)同、定位、處置等業(yè)務(wù)連續(xù)性閉環(huán)管理能力。

3、IT服務(wù)臺智能助手

(1)內(nèi)容描述

隨著企業(yè)信息系統(tǒng)的增多,IT服務(wù)請求數(shù)量同步增多,單靠增加人力的方式來保持服務(wù)臺的正常運(yùn)營變得非常困難,從而引發(fā)客戶滿意度降低、運(yùn)營成本居高不下等問題,因此如何提升IT服務(wù)臺運(yùn)營效率成為亟待解決的問題。

結(jié)合對服務(wù)臺工作場景的分析,借助基于大模型的IT服務(wù)臺智能助手,可以大幅提升服務(wù)臺運(yùn)營效率:

1)智能問答:提供更準(zhǔn)確的咨詢問題答復(fù),減少到服務(wù)臺坐席的咨詢請求量;

2)智能提單:引導(dǎo)用戶自助提單,以減少服務(wù)臺代提單工作量;

3)智能派單:結(jié)合一、二線處理人員的工作負(fù)載,智能派單至負(fù)載最低的處理人員,減少坐席人工識別和派單工作量;

4)智能推薦:在接收到服務(wù)請求的同時(shí),智能助手根據(jù)對工單內(nèi)容的理解,更準(zhǔn)確地推薦知識庫中沉淀的解決方案,從而提高請求的處理效率。

(2)價(jià)值收益

1)提高服務(wù)臺運(yùn)營效率;

2)提升客戶/用戶滿意度。

(3)技術(shù)實(shí)現(xiàn)

1)基于即時(shí)通訊、大模型、RAG、知識庫實(shí)現(xiàn)智能問答;

2)基于LLM的語義識別/Functioncall實(shí)現(xiàn)智能提單;

3)結(jié)合運(yùn)維人員工作任務(wù)數(shù)據(jù)、相似任務(wù)用時(shí)等進(jìn)行工作負(fù)載判斷;

4)基于大模型、RAG、知識庫實(shí)現(xiàn)智能問答。

4、IT知識庫智能助手

(1)內(nèi)容描述

經(jīng)驗(yàn)總結(jié)與知識沉淀非常重要,常被稱為企業(yè)運(yùn)營的“第二大腦”。但知識管理的建設(shè)一直是一個(gè)讓管理者頭疼的問題,無法投入專職的知識運(yùn)營人員,運(yùn)維人員忙于事務(wù)也很難兼顧知識的沉淀。沒有知識的知識庫,其功能再豐富也沒意義。如今借助基于大模型的智能知識助手,讓低成本的知識運(yùn)營變得可能:

1)智能總結(jié)知識

結(jié)合工單的詳情與處理過程、溝通評論、即時(shí)聊天記錄等日常解決用戶問題的過程數(shù)據(jù),借助大模型的分析總結(jié)能力,即時(shí)或定期進(jìn)行自動化的知識總結(jié)并錄入知識庫;

2)智能檢索知識

提供更準(zhǔn)確、更易維護(hù)的知識檢索模式。相比傳統(tǒng)知識檢索,基于大模型的智能檢索方式可以自動學(xué)習(xí)知識庫內(nèi)容,無需手動標(biāo)注規(guī)則。新知識入庫后,模型通過向量化實(shí)時(shí)納入檢索范圍,同時(shí)結(jié)合用戶反饋(如點(diǎn)擊率、采納率)自動優(yōu)化檢索排序(如將高頻采納的解決方案置頂)。

(2)價(jià)值收益

1)提升知識沉淀效率和質(zhì)量;

2)降低知識運(yùn)營的人力成本;

3)提高知識消費(fèi)的便捷性。

(3)技術(shù)實(shí)現(xiàn)

通過API及對應(yīng)IM工具的SDK獲取過程記錄,結(jié)合大模型提示詞進(jìn)行知識總結(jié)。

5、CMDB智能助手

(1)內(nèi)容描述

CMDB作為運(yùn)維管理的“基石”,其數(shù)據(jù)的質(zhì)量非常重要。借助CMDB智能助手,可以讓配置數(shù)據(jù)的接入和消費(fèi)環(huán)節(jié)更便捷與高效,以助力CMDB的數(shù)據(jù)治理與運(yùn)營。

1)智能采集開發(fā):在已有的配置采集插件協(xié)議的約束下,通過自然語言提高采集插件的開發(fā)效率,包括插件代碼生成、插件代碼檢查等;

2)智能配置查詢:以提示詞方式便捷對配置數(shù)據(jù)進(jìn)行消費(fèi),包括影響分析、路徑查詢、關(guān)聯(lián)查詢等;

3)智能拓?fù)渖桑阂蕴崾驹~方式便捷生成配置拓?fù)鋱D;

4)智能運(yùn)營報(bào)告:以提示詞方式便捷生成運(yùn)營報(bào)告,減少手工統(tǒng)計(jì)與排版工作。

(2)價(jià)值收益

1)降低配置自動采集門檻,提高自動化采集率;

2)提高配置數(shù)據(jù)的消費(fèi)便捷性;

3)降低配置管理的運(yùn)營成本。

(3)技術(shù)實(shí)現(xiàn)

開發(fā)協(xié)議、查詢協(xié)議、低代碼協(xié)議與大模型結(jié)合,實(shí)現(xiàn)自然語言與技術(shù)協(xié)議的轉(zhuǎn)換。

6、IT工單智能助手

(1) 內(nèi)容描述

工單作為工作協(xié)同的信息載體,是團(tuán)隊(duì)在日常工作中頻繁操作的對象。如果給工單加上“大腦”,對團(tuán)隊(duì)協(xié)同的效率將會大幅提升。IT工單智能助手,可以讓運(yùn)維工單更智能,運(yùn)維工作更省心。

1)借助大模型泛化能力,自動生成與業(yè)務(wù)相關(guān)的關(guān)鍵字和正則表達(dá)式,替代人工質(zhì)檢實(shí)現(xiàn)全自動化工單轉(zhuǎn)入轉(zhuǎn)出質(zhì)檢;

2)利用大模型去提取關(guān)鍵參數(shù)并進(jìn)行參數(shù)標(biāo)注化轉(zhuǎn)義,并將查證后的內(nèi)容自動回復(fù),實(shí)現(xiàn)工單智能化查證回復(fù);

3)構(gòu)建投訴報(bào)告生成智能體,基于手機(jī)號查詢多平臺多類型投訴信息,1秒自動生成投訴報(bào)告,極大提升報(bào)告編寫效率。

(2)價(jià)值收益

1)工單流轉(zhuǎn)問題的損耗降低;

2)工單平均處理的時(shí)長減少;

3)運(yùn)維工作協(xié)同的效率提升。

(3)技術(shù)實(shí)現(xiàn)

結(jié)合大模型/Functioncall、知識庫實(shí)現(xiàn)與第三方質(zhì)檢接口集成。

7、應(yīng)急智能助手

(1)內(nèi)容描述

應(yīng)急預(yù)案是IT應(yīng)急管理中最核心的資產(chǎn),如何創(chuàng)建全面且指導(dǎo)性的應(yīng)急預(yù)案是應(yīng)急管理中最核心的工作,應(yīng)急智能助手能基于文字描述識別用戶意圖,結(jié)合歷史應(yīng)急預(yù)案和應(yīng)用架構(gòu)手冊,輔助生成應(yīng)急預(yù)案。

面對應(yīng)急故障事件,可以按照企業(yè)IT應(yīng)急報(bào)告內(nèi)容和格式要求,基于應(yīng)急事件全生命周期記錄,輔助生成應(yīng)急故障報(bào)告。

同時(shí)應(yīng)急智能助手,能支持對話窗智能化查詢應(yīng)急預(yù)案/場景,應(yīng)急事件總結(jié)/演練計(jì)劃,通過對話發(fā)起應(yīng)急演練,啟動應(yīng)急事件,全面提升應(yīng)急交互模式。

(2)價(jià)值收益

1)提升預(yù)案準(zhǔn)確性和有效性;

2)提升報(bào)告生成效率;

3)極大提升IT應(yīng)急效率。

(3)技術(shù)實(shí)現(xiàn)

1)將應(yīng)急預(yù)案庫和應(yīng)用架構(gòu)向量化存放在知識庫,利用RAG和大模型提示詞能力生成應(yīng)急預(yù)案;

2)利用Functioncall構(gòu)建應(yīng)急報(bào)告數(shù)據(jù)查詢工具Tools,在調(diào)用大模型提示詞對應(yīng)急數(shù)據(jù)進(jìn)行潤色生成符合格式的應(yīng)急故障報(bào)告;

3)通過意圖識別實(shí)現(xiàn)智能路由,支持多場景的應(yīng)急需求。

8、變更發(fā)布智能助手

(1)內(nèi)容描述

當(dāng)應(yīng)用系統(tǒng)變更異常時(shí),能夠結(jié)合業(yè)務(wù)系統(tǒng)變更歷史信息和完整的應(yīng)用拓?fù)湫畔?,快速給出變更異常影響面分析;并結(jié)合運(yùn)維大模型領(lǐng)域知識,對異常報(bào)錯(cuò)進(jìn)行分析,輔助變更人員快速定位根因。

通過對話框構(gòu)建變更智能問答助手,運(yùn)維人員可以通過自然語言查詢所有變更記錄,同時(shí)能輔助生成變更周報(bào)/月報(bào)。

(2)價(jià)值收益

1)快速識別變更影響面,提升變更異常分析效率,降低變更影響;

2)提升變更周報(bào)月報(bào)的質(zhì)量和生成效率。

(3)技術(shù)實(shí)現(xiàn)

1)將大模型和小模型技術(shù)結(jié)合,實(shí)現(xiàn)對變更異常的多維度分析,實(shí)現(xiàn)變更異??焖俣ㄎ唬?

2)構(gòu)建多個(gè)變更智能工具Tools:變更記錄查詢/報(bào)告生成/通識變更問答,通過意圖識別模塊導(dǎo)航到對應(yīng)的智能工具。

9、應(yīng)用巡檢智能助手

(1)內(nèi)容描述

面對多種巡檢類型,需要支持命令行、API、界面內(nèi)容等多種數(shù)據(jù)源,利用應(yīng)用巡檢智能助手進(jìn)行統(tǒng)一分析和巡檢判斷,生成統(tǒng)一的巡檢報(bào)告,解決單一對象人工巡檢問題。

巡檢結(jié)果智能分析,巡檢過程中出現(xiàn)的重點(diǎn)指標(biāo)、可疑進(jìn)程、意外事件,通過應(yīng)用巡檢智能助手,從橫向縱向等多維度對進(jìn)行結(jié)果進(jìn)行深度分析,并支持多范圍多對象多領(lǐng)域的統(tǒng)計(jì)展示。

(2)價(jià)值收益

1)支持異構(gòu)應(yīng)用的統(tǒng)一巡檢,將運(yùn)維人員從高頻人工巡檢中釋放,提升巡檢的效率和準(zhǔn)確性;

2)支持自然語言發(fā)起巡檢查詢結(jié)果,提升應(yīng)用巡檢體驗(yàn)。

(3)技術(shù)實(shí)現(xiàn)

1)利用大模型多模態(tài)能力實(shí)現(xiàn)界面內(nèi)容自動巡檢,結(jié)合自動化工具,實(shí)現(xiàn)傳統(tǒng)界面內(nèi)容的自動化巡檢;

2)結(jié)合大模型運(yùn)維通識問答和RAG知識庫能力,實(shí)現(xiàn)對巡檢指標(biāo)外的異常結(jié)果分析和建議。

10、智能編碼助手

(1)內(nèi)容描述

在代碼輔助編寫場景,我們通過 BKGPT 插件對接大模型和IDE,讓開發(fā)者可以在編程工具里閉環(huán)信息檢索的過程,大大提升了開發(fā)問題查詢效率。其次,我們提供了 BKCodeAI 插件,可以實(shí)現(xiàn)根據(jù)注釋中的需求描述,進(jìn)行代碼生成和補(bǔ)全,當(dāng)前已經(jīng)支持函數(shù)級代碼生成。

另一方面,在 git push 時(shí),會自動觸發(fā) AI CodeReview 任務(wù),CR 任務(wù)將異步執(zhí)行,不會阻塞 push 操作,CR 任務(wù)執(zhí)行完成后會在 IDE 彈窗提醒 CR 詳情鏈接。

(2)價(jià)值收益

1)與編程IDE結(jié)合,提升腳本編寫、工具開發(fā)效率;

2)輔助開發(fā)主管進(jìn)行代碼審查或者自動進(jìn)行腳本出錯(cuò)分析,提升代碼質(zhì)量。

(3)技術(shù)實(shí)現(xiàn)

基礎(chǔ)大模型/文本生成/知識庫/RAG/IDE插件。

11、可觀測助手為例

(1)告警關(guān)聯(lián)知識推薦

小鯨可基于知識庫,可以根據(jù)告警事件內(nèi)容結(jié)合知識庫找出相關(guān)聯(lián)的知識,并給予解決方案的推薦。

內(nèi)置運(yùn)維知識庫,無需整理也能直接使用;可批量導(dǎo)入知識庫文件,基于用戶歷史經(jīng)驗(yàn)提供更豐富的解決方案;告警產(chǎn)生后根據(jù)算法訓(xùn)練的結(jié)果,匹配知識庫里的解決方案。知識推薦效果如下圖:

(2)知識庫智能問答

運(yùn)維人員通常通過經(jīng)驗(yàn)或查找資料來處理告警事件,效率低下且耗時(shí)。可以將問題拋給小鯨,基于LLMOps直接提供解決方案推薦、正則匹配規(guī)則編寫等針對性回答。

通過全局劃詞問答或者右下角的機(jī)器人圖標(biāo)入口,均可向“小鯨”詢問,無需切換工具。無論是技術(shù)解釋、命令用法,還是故障排查,小鯨都能即時(shí)提供專業(yè)解答,大幅提升工作效率。實(shí)現(xiàn)效果如下圖:

(3)告警處置引導(dǎo)

結(jié)合預(yù)測性對話流與大模型,小鯨觀測助手能夠?qū)崿F(xiàn)對話智能引導(dǎo),引導(dǎo)用戶完成智能提單引導(dǎo)、智能故障處置引導(dǎo)等場景:根據(jù)故障排查的場景,預(yù)設(shè)引導(dǎo)性場景,智能機(jī)器人識別關(guān)鍵字以后進(jìn)入引導(dǎo)場景,確保問題能夠迅速被識別和解決。

實(shí)現(xiàn)效果如下圖:

六、前景展望

DeepSeek這一波平民化,除了帶來推理能力和性能瓶頸突破外,最核心的是可以進(jìn)入“千家萬戶”,使得各行業(yè)和領(lǐng)域使用前沿模型變得更為簡單。大模型在運(yùn)維領(lǐng)域的應(yīng)用前景,我們認(rèn)為這是一個(gè)改變運(yùn)維人員和運(yùn)維對象交互、實(shí)現(xiàn)AI大規(guī)模落地普及的時(shí)刻,未來發(fā)展,我們有如下思考和展望:

1、基于一體化運(yùn)維業(yè)務(wù)的運(yùn)維智能體會爆發(fā)式增長

基于低成本高效率的大模型,可以把各個(gè)人機(jī)交互的運(yùn)維場景再做一次,再做一次是基于多智能體編排的模式,生成更多整合應(yīng)用,且與一體化運(yùn)維是完整聯(lián)動的,不只是單個(gè)場景的提升;

2、基于機(jī)器學(xué)習(xí)算法+大模型的融合場景更優(yōu)

機(jī)器學(xué)習(xí)算法對于數(shù)據(jù)處理有天然優(yōu)勢,大模型對于語義識別和邏輯推理有天然優(yōu)勢,兩者相結(jié)合,可以在故障分析診斷層面、智能工單的相似度分析和智能回復(fù)層面等有更好的融合場景落地;

3、大模型應(yīng)用開發(fā)平臺共建生態(tài)會成為主流

不只是基于原生大模型的問答應(yīng)用,而是知識庫、工具、編排、智能體、統(tǒng)一網(wǎng)關(guān)的整體建設(shè),構(gòu)建可持續(xù)建設(shè)的體系,會成為生態(tài)模式,客戶及合作伙伴都可以有更大的想象空間;

4、自適應(yīng)學(xué)習(xí)與知識演化

系統(tǒng)能夠根據(jù)環(huán)境的變化和數(shù)據(jù)反饋,自動調(diào)整自身的行為、策略或參數(shù),以及隨著實(shí)踐、技術(shù)發(fā)展和經(jīng)驗(yàn)積累而不斷更新、優(yōu)化或重組知識,運(yùn)維智能體能夠更靈活、高效地應(yīng)對復(fù)雜的運(yùn)維需求,在大部分相對標(biāo)準(zhǔn)的運(yùn)維場景中,實(shí)現(xiàn)智能決策執(zhí)行。

相關(guān)文章

人工智能企業(yè)

更多>>

人工智能硬件

更多>>

人工智能產(chǎn)業(yè)

更多>>

人工智能技術(shù)

更多>>
AI云資訊(愛云資訊)立足人工智能科技,打造有深度、有前瞻、有影響力的泛科技媒體平臺。
合作QQ:1211461360微信號:icloudnews