檢索增強(qiáng)生成（RAG）技術(shù)正逐漸成為解決數(shù)據(jù)處理和答案生成難題的關(guān)鍵力量。青云科技旗下 AI 算力云服務(wù)——基石智算CoresHub 通過高度標(biāo)準(zhǔn)化的平臺與應(yīng)用集成，持續(xù)降低 AI 創(chuàng)新的技術(shù)門檻，支持包括 RAGFlow 在內(nèi)的多方平臺，靈活調(diào)用模型，將大模型與 RAG 技術(shù)相結(jié)合，幫助用戶實(shí)現(xiàn)更智能、更高效的應(yīng)用開發(fā)與部署。

本文將以智算平臺上大模型服務(wù)中的 DeepSeek-R1 為例，向用戶介紹如何在 RAGFlow 中添加并使用平臺提供的模型服務(wù)。

RAGFlow 是一款基于深度文檔理解的開源檢索增強(qiáng)生成（Retrieval-Augmented Generation，RAG）引擎。旨在通過深度文檔理解技術(shù)，解決現(xiàn)有 RAG 技術(shù)在數(shù)據(jù)處理和生成答案方面的挑戰(zhàn)。

RAGFlow 具有如下功能特點(diǎn)：

深度文檔理解。

可控可解釋的文本切片。

可視化文本處理過程。

兼容多種異構(gòu)數(shù)據(jù)。

自動化邊界的 RAG 工作流。

支持多種 LLMs 和向量模型。

步驟一：獲取 API 密鑰和域名

1.注冊并登錄基石智算。

2.在頂部導(dǎo)航欄，選擇產(chǎn)品與服務(wù) > 大模型服務(wù) > 大模型服務(wù)平臺。

3.進(jìn)入大模型服務(wù)管理頁面，在左側(cè)導(dǎo)航欄中選擇 API 密鑰管理，創(chuàng)建并獲取 API 密鑰。

說明：

若平臺內(nèi)無可用的 API 密鑰，用戶可參考創(chuàng)建和獲取新的 API 密鑰。

若平臺內(nèi)已有可用的 API 密鑰，用戶可直接將鼠標(biāo)懸停在指定密鑰上，點(diǎn)擊 API 密鑰右側(cè)的復(fù)制按鈕，即可獲取完整的 API 密鑰。

4.用戶可在左側(cè)導(dǎo)航欄選擇在線推理服務(wù)，點(diǎn)擊目標(biāo)模型卡片頁中的API 文檔，查看預(yù)置模型 API 服務(wù)接口路徑，即為模型的API 域名。

說明：當(dāng)前平臺上的預(yù)置模型的 API 域名為，用戶可直接 使用無需修改。

步驟二：配置模型服務(wù)

1.訪問 RAGFlow 系統(tǒng)地址，輸入賬號密碼后登錄。

前提：請確保已經(jīng)安裝 RAGFlow。

2.點(diǎn)擊右上角用戶頭像，在左側(cè)導(dǎo)航欄選擇模型供應(yīng)商，并點(diǎn)擊OpenAI-API-Compatible。

3.在彈出的添加 LLM窗口中，配置各項(xiàng)參數(shù)，點(diǎn)擊確定即可。

注意：

每次只能添加一種模型類型，即 chat 和 embedding 模型不能同時(shí)添加。

如需添加不同類型模型，可完成一種模型的添加后，選中相應(yīng)的模型供應(yīng)商后，點(diǎn)擊添加模型，進(jìn)行再一次的添加。

模型類型：根據(jù)待添加的模型，選擇相應(yīng)的類型。若添加 DeepSeek-R1 模型則選擇 chat，若添加基石智算平臺上的 bce-embedding-base_v1 模型則選擇 embedding。

模型名稱：填寫待添加模型的名稱即可，若需使用平臺內(nèi)其他模型，用戶僅需在智算平臺的在線推理服務(wù)頁面，復(fù)制得到相應(yīng)模型名稱即可。

基礎(chǔ) url：直接填寫即可。

API-Key：用戶在獲取 API 密鑰中復(fù)制得到的完整 API 密鑰，需根據(jù)實(shí)際情況進(jìn)行修改。

最大 token 數(shù)：根據(jù)所選擇模型支持的最大數(shù)量填寫。

其他參數(shù)，根據(jù)實(shí)際情況設(shè)置或保持默認(rèn)即可。

步驟三：創(chuàng)建知識庫

1.在頂部導(dǎo)航欄中，選擇知識庫頁簽，點(diǎn)擊創(chuàng)建知識庫，在彈出提示窗口中，輸入名稱，點(diǎn)擊確定即可。

2.進(jìn)入知識庫配置頁面，設(shè)置各項(xiàng)參數(shù)，點(diǎn)擊確定。

知識庫名稱：用戶自定義。

文檔語言：本實(shí)踐中選擇中文。

嵌入模型：選擇前文也成功添加的 embedding 類型的模型。

解析方法：根據(jù)實(shí)際需要選擇相應(yīng)的解析方法即可。

其他參數(shù)：根據(jù)實(shí)際情況進(jìn)行設(shè)置或保持默認(rèn)即可。

3.在新建的知識庫頁面，點(diǎn)擊左側(cè)導(dǎo)航欄中的數(shù)據(jù)集，點(diǎn)擊右側(cè)新增文件，在彈出的上傳文件窗口中，選擇本地文件，點(diǎn)擊確定。

4.等待文檔上傳完成，點(diǎn)擊目標(biāo)文件所在行的開始按鈕，進(jìn)行解析。

5.待解析成功后，用戶即可查看分片情況。

步驟四：構(gòu)建應(yīng)用

1.在頂部導(dǎo)航欄選擇聊天頁簽，并點(diǎn)擊新建助理。

2.在聊天配置頁簽中，完成助理設(shè)置各項(xiàng)參數(shù)的配置，點(diǎn)擊確定。

助理姓名：用戶自定義。

設(shè)置開場白：用于設(shè)置聊天助理回復(fù)問題時(shí)的首句話，用戶自定義。

知識庫：選擇前文新建的知識庫即可。

其他參數(shù)，用戶根據(jù)實(shí)際情況進(jìn)行修改或保持默認(rèn)即可。

3.進(jìn)入提示引擎設(shè)置頁簽，配置更多信息，此配置為可選項(xiàng)，用戶可根據(jù)實(shí)際情況進(jìn)行修改或保持默認(rèn)，配置完成后，點(diǎn)擊確定。

4.進(jìn)入模型設(shè)置頁簽，模型參數(shù)選擇前文中添加的大語言模型，其他參數(shù)根據(jù)實(shí)際情況修改或保持默認(rèn)，點(diǎn)擊確定。

5.返回聊天頁面，選擇新建的聊天助理，點(diǎn)擊+ ，發(fā)起新的聊天窗口，即可進(jìn)行對話。