近日，金山云完成基于國(guó)產(chǎn)芯片的DeepSeek滿血版適配。同時(shí)，金山云星流訓(xùn)推平臺(tái)也已完成DeepSeek滿血版的部署，且支持多機(jī)部署實(shí)現(xiàn)分布式推理。

通過提供穩(wěn)定且強(qiáng)大的算力支持，金山云能助力模型充分發(fā)揮其性能優(yōu)勢(shì)，使得其在自然語言處理、智能問答、文本生成等多個(gè)領(lǐng)域表現(xiàn)優(yōu)秀，這將為用戶帶來更強(qiáng)大、更高效的人工智能體驗(yàn)。

【裸金屬服務(wù)器部署步驟】

金山云在搭載國(guó)產(chǎn)GPU的裸金屬機(jī)型上進(jìn)行了適配，公司提供已預(yù)裝好包含 DeepSeek滿血版和所有依賴環(huán)境的自定義鏡像，用戶只需在金山云裸金屬服務(wù)器控制臺(tái)選擇地域與機(jī)型、選定內(nèi)置DeepSeek滿血版的自定義鏡像、配置網(wǎng)絡(luò)與安全、設(shè)置基本信息并確認(rèn)配置后，即可輕松完成部署。

金山云裸金屬服務(wù)器控制臺(tái)創(chuàng)建入口

2.金山云裸金屬服務(wù)器控制臺(tái)創(chuàng)建流程，選擇內(nèi)置DeepSeek滿血版的自定義鏡像創(chuàng)建

創(chuàng)建完成后，開發(fā)者和企業(yè)一鍵啟動(dòng)模型就能立即投入使用，大大降低了模型的使用門檻。這不僅能讓更多開發(fā)者和企業(yè)快速享用DeepSeek滿血版的強(qiáng)大功能，還將加速人工智能項(xiàng)目的落地與應(yīng)用。

經(jīng)過測(cè)試和驗(yàn)證，DeepSeek滿血版在搭載國(guó)產(chǎn)GPU的裸金屬機(jī)型上于多個(gè)領(lǐng)域都展現(xiàn)出了不凡的性能。在智能客服場(chǎng)景中，能夠快速理解用戶的復(fù)雜問題，并給出準(zhǔn)確且人性化的回答。與其他同類模型相比，在語義理解的準(zhǔn)確性和文本生成的流暢性方面都具有明顯優(yōu)勢(shì)，為各行業(yè)的智能化升級(jí)提供了有力支持。

【金山云星流訓(xùn)推平臺(tái)多機(jī)部署步驟】

為加速企業(yè)AI規(guī)模化落地，金山云推出了模型在線服務(wù)功能，提供從模型部署到調(diào)用的服務(wù)能力。聚焦高效部署與分布式推理協(xié)同，該平臺(tái)可通過智能任務(wù)調(diào)度與跨節(jié)點(diǎn)并行計(jì)算，實(shí)現(xiàn)模型的高效推理。無需復(fù)雜配置，用戶即可在公有云環(huán)境構(gòu)建穩(wěn)定、高性價(jià)比的模型服務(wù)。

此前金山云星流訓(xùn)推平臺(tái)已支持DeepSeek蒸餾版的部署，現(xiàn)支持多機(jī)部署DeepSeek滿血版，可實(shí)現(xiàn)分布式推理。

多機(jī)部署步驟詳情如下：

1. 進(jìn)入算力平臺(tái)控制臺(tái)并創(chuàng)建資源池

2. 進(jìn)入模型在線服務(wù)導(dǎo)航頁

3. 點(diǎn)擊新建，創(chuàng)建模型在線服務(wù)

a. 選擇R1或V3模型，平臺(tái)默認(rèn)勾選多機(jī)部署，用戶可自主配置服務(wù)副本數(shù)以及多機(jī)部署的節(jié)點(diǎn)數(shù)量

b. 填寫基本信息、資源、網(wǎng)絡(luò)等配置

c. 點(diǎn)擊確認(rèn)，模型開始部署

注：R1、V3模型部署所需時(shí)間較長(zhǎng)，請(qǐng)耐心等待

4. 調(diào)用模型服務(wù)。模型部署成功后，即可對(duì)模型進(jìn)行調(diào)用，金山云當(dāng)前支持接口和WebUI兩種調(diào)用方式，相應(yīng)的調(diào)用操作流程如下：

a. 接口調(diào)用

b. WebUI調(diào)用，模型部署成功后點(diǎn)擊模型名稱進(jìn)入模型概覽頁，點(diǎn)擊訪問WebUI即可通過WebUI形式實(shí)現(xiàn)模型調(diào)用

首次進(jìn)入WebUI頁面需注冊(cè)用戶賬號(hào)，注冊(cè)完成后登錄即可使用界面實(shí)現(xiàn)調(diào)用。