精品国产18久久久久久,一个人在线观看的www,亚洲一区二区久久久,成人国内精品久久久久影院vr,最近免费中文字幕大全高清大全1

告別服務(wù)器繁忙!零代碼實現(xiàn)DeepSeek本地部署+遠程訪問!

2025-02-21 15:45:55AI云資訊920

今天給大家分享一個超簡單、實用的教程,“解鎖”DeepSeek新玩法!無需任何代碼,幾乎零門檻,只需簡單3步,就能快速在本地部署DeepSeek,輕松構(gòu)建專屬的私有知識庫,并支持隨時隨地遠程訪問!

本地安裝DeepSeek,零代碼、“一鍵”部署

首先,下載、安裝LM Studio,這同樣是一款開源軟件。進入LM Studio官網(wǎng),選擇系統(tǒng)對應(yīng)的版本的客戶端,根據(jù)引導(dǎo)即可一鍵安裝。

啟動LM Studio,點擊右下角設(shè)置,在App Setgtings將語言切換至中文,并啟用“Use LM Studio's Hugging Face Proxy”選項加快模型下載速度。

隨后,在“Model Search”搜索DeepSeek關(guān)鍵詞,即可選擇所需的模型,點擊右下角“Download”將其下載到本地。

目前可選擇1.5B、7B、8B、14B、32B、70B、671B(滿血版)參數(shù)大小的模型。參數(shù)越大,模型性能越強,但是對于顯卡和顯存容量的要求也越高。為了使用時擁有較快的響應(yīng)速度,4GB顯存建議選1.5B模型、8G可選7B、16G可選14B,推薦7B以上模型。

完成上述步驟后已經(jīng)可以本地使用。不過,為了實現(xiàn)遠程調(diào)用LM Studio中的DeepSeek模型,我們還需進入開發(fā)者選項卡,在“Settings”中開啟“啟用CORS”以及“在局域網(wǎng)內(nèi)提供服務(wù)”,允許局域網(wǎng)訪問LM Studio API服務(wù)。

本地部署的DeepSeek,實現(xiàn)隨時遠程訪問

本地部署DeepSeek后,我們可以通過以下兩種方式遠程訪問LM Studio的API服務(wù)。

實現(xiàn)遠程訪問后,AnythingLLM、Page Assist、Open WebUI等前端應(yīng)用,可以隨時遠程調(diào)用本地部署的DeepSeek模型。

方式1:貝銳花生殼內(nèi)網(wǎng)穿透

使用貝銳花生殼內(nèi)網(wǎng)穿透,無需公網(wǎng)IP就能生成固定域名形式的遠程訪問地址。

搭配貝銳花生殼內(nèi)網(wǎng)穿透遠程訪問,只需在運行LM Studio的主機中下載系統(tǒng)對應(yīng)的花生殼客戶端,注冊貝銳賬號并登錄。

然后,進入花生殼云管理平臺,填寫LM Studio主機的局域網(wǎng)IP及默認端口號“1234”,即可一鍵生成固定的遠程訪問地址。

方式2:貝銳蒲公英異地組網(wǎng)

貝銳蒲公英相當(dāng)于將多臺異地設(shè)備組建成虛擬局域網(wǎng),從而實現(xiàn)互聯(lián)互通,同樣無需公網(wǎng)IP、無需復(fù)雜配置,就能遠程訪問。

搭配貝銳蒲公英異地組網(wǎng)遠程訪問,需要在運行LM Studio的主機中下載、安裝蒲公英客戶端,注冊貝銳賬號并登錄。

如需遠程訪問,同樣需要在設(shè)備中下載、安裝蒲公英客戶端,并用同一個貝銳賬號登錄,彼此之間就可以自動組網(wǎng)。

此外,也可登錄貝銳蒲公英的云端管理平臺,根據(jù)提示添加、創(chuàng)建組網(wǎng)成員,通過組網(wǎng)成員的UID和預(yù)設(shè)密碼,登錄貝銳蒲公英客戶端實現(xiàn)組網(wǎng),詳細教程或是搭配蒲公英組網(wǎng)硬件可搜索貝銳蒲公英官網(wǎng)查看。

之后,使用LM Studio主機的蒲公英虛擬IP以及默認端口號“1234”即可遠程調(diào)用本地部署的DeepSeek模型。

遠程訪問DeepSeek,搭建私有知識庫

接下來,為了實現(xiàn)遠程調(diào)用DeepSeek模型、搭建私有文檔知識庫,可以使用另一款開源軟件AnythingLLM。

同樣,進入官網(wǎng)下載、安裝AnythingLLM,初次使用會有引導(dǎo),點擊選擇LM Studio并下拉至底部,在LM Studio Base URL中填入具體訪問地址。

搭配貝銳花生殼遠程訪問,填寫花生殼生成的固定訪問地址(域名形式)并在結(jié)尾加上“/v1”路徑即可:

搭配貝銳蒲公英遠程訪問,需要確認遠程訪問的設(shè)備也已經(jīng)登錄蒲公英客戶端,并加入同一組網(wǎng),隨后填寫蒲公英虛擬IP、默認端口號“1234”以及“/v1”路徑,并且采用http協(xié)議:

隨后,只需根據(jù)引導(dǎo)新建工作區(qū),在界面中上傳我們需要的文檔并添加,即可讓遠程部署的DeepSeek調(diào)用、分析這些內(nèi)容,從而形成私有的資料庫。

總體而言,整個流程簡潔高效,無需復(fù)雜操作,也無需依賴云服務(wù)器,就能輕松打造專屬 AI 助手或知識庫。如果想進一步了解,可以搜索“貝銳”進入官網(wǎng),獲取更多產(chǎn)品信息和詳細教程。

相關(guān)文章

人工智能企業(yè)

更多>>

人工智能硬件

更多>>

人工智能產(chǎn)業(yè)

更多>>

人工智能技術(shù)

更多>>
AI云資訊(愛云資訊)立足人工智能科技,打造有深度、有前瞻、有影響力的泛科技媒體平臺。
合作QQ:1211461360微信號:icloudnews