近日，第十一屆互聯(lián)網(wǎng)安全大會(huì)（ISC 2023）在北京盛大開幕。大會(huì)由 ISC 互聯(lián)網(wǎng)安全大會(huì)組委會(huì)、中國互聯(lián)網(wǎng)協(xié)會(huì)、中國網(wǎng)絡(luò)空間安全協(xié)會(huì)、全國工商聯(lián)大數(shù)據(jù)運(yùn)維(網(wǎng)絡(luò)安全)委員會(huì)、中國人工智能學(xué)會(huì)、中國軟件行業(yè)協(xié)會(huì)、中國企業(yè)聯(lián)合會(huì)、360 互聯(lián)網(wǎng)安全中心主辦；中國通信企業(yè)協(xié)會(huì)、中國中小企業(yè)協(xié)會(huì)協(xié)辦；中國計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)安全專業(yè)委員會(huì)、中國人工智能學(xué)會(huì)人工智能與安全專業(yè)委員會(huì)承辦。

本次大會(huì)以“安全即服務(wù)，開啟人工智能時(shí)代數(shù)字安全新范式”為主題，打造全球首場(chǎng) AI 數(shù)字安全峰會(huì)，聚集全球安全先鋒、專家智囊、行業(yè)領(lǐng)袖深度參與，擘畫數(shù)字安全與 AI 技術(shù)融合發(fā)展新藍(lán)圖，Zilliz 作為行業(yè)頭部公司受邀參與此次大會(huì)，與各方共同探討關(guān)于大模型落地實(shí)踐應(yīng)用與挑戰(zhàn)的話題。

Zilliz 合伙人兼產(chǎn)品總監(jiān)郭人通在現(xiàn)場(chǎng)數(shù)據(jù)專家演講環(huán)節(jié)進(jìn)行了名為《大模型的記憶力》的主題分享。郭人通從大模型的 “AI 幻覺”講起。他表示，當(dāng)下“AI 幻覺”是大模型的主要痛點(diǎn)之一，構(gòu)建知識(shí)庫是應(yīng)對(duì)此問題的有效方式，向量數(shù)據(jù)庫可以作為知識(shí)庫的擴(kuò)展插件為大模型進(jìn)行知識(shí)增強(qiáng)。這也為 LLMs 時(shí)代構(gòu)建數(shù)據(jù)應(yīng)用提供了一種新的范式——CVP Stack。其中 C 是以 ChatGPT 為代表的大模型；V 代表 Vector Database；P 代表 Prompt engineering。其中 C 作為運(yùn)算單元，提供邏輯分析和自然語言對(duì)接的能力，V 作為存儲(chǔ)單元，提供穩(wěn)定準(zhǔn)確、高容量的知識(shí)，P 在前兩者的基礎(chǔ)上，提供面向具體業(yè)務(wù)的適配能力。

在整個(gè) CVP Stack 中，向量數(shù)據(jù)庫扮演著重要角色，其中，Milvus 作為云原生的開源向量數(shù)據(jù)庫，被全球超過 1000 家企業(yè)用戶所信賴，下載和安裝次數(shù)超過 400 萬，在 GitHub 的 Star 數(shù)目超 2 萬，在 SIGMOD 和 VLDB 等數(shù)據(jù)庫頂會(huì)上發(fā)表了論文，奠定了向量數(shù)據(jù)庫的基礎(chǔ)。目前，Milvus 不僅具備百億級(jí)向量的擴(kuò)展能力，還集成 OpenAI、Langchain、Huggingface、Pytorch 等 AI 生態(tài)，是大語言模型落地應(yīng)用的重要組成部分。

而為了給用戶提供開箱即用的全托管向量檢索服務(wù)，Zilliz 還推出了全托管 Milvus 的向量數(shù)據(jù)庫 Zilliz Cloud，具備維護(hù)成本低、使用門檻低、豐富的企業(yè)級(jí)特性及安全放心的特點(diǎn)。 據(jù)郭人通透露，Zilliz Cloud 的合作伙伴包括 OpenAI、NVIDIA、Hugging Face、AWS、GCP、Azure、金山云、百度智能云、文心一言等。

在隨后關(guān)于“行業(yè)大模型的創(chuàng)新機(jī)遇與挑戰(zhàn)”的圓桌論壇中，郭人通亦貢獻(xiàn)了精彩的發(fā)言：

Q1：從各自行業(yè)看，還有哪些沒有被解決掉的問題？

郭人通：從我們的觀察來看，主要還是大模型的成本問題。向量數(shù)據(jù)庫目前的落地場(chǎng)景包括自動(dòng)駕駛、搜廣推、風(fēng)控、AI 問答等，具備量大、高并發(fā)的特點(diǎn)，加上向量數(shù)據(jù)屬于高維，引入后開發(fā)者會(huì)面臨計(jì)算和存儲(chǔ)成本會(huì)大大增加，甚至可能出現(xiàn)產(chǎn)業(yè)的落地收益低于成本的問題。據(jù)我們觀察，目前多是頭部廠商在嘗試，整體受成本影響比較大。

Q2：針對(duì)上述問題，是否有可以討論的解決方案？

郭人通：Zilliz 提供了多種解決方案，但目前來看，很難用一套通用方案解決用戶的所有問題。舉例來看 ，開源方面，我們面向超小的用戶或中等大型用戶都有對(duì)應(yīng)的開源方案，大家可以自建；對(duì)于使用云服務(wù)的用戶，我們提供不同的 SaaS、PaaS 版本，以池化的方案壓低成本。盡管相較北美的部分廠商，我們的綜合性價(jià)比更優(yōu)，但用戶還是會(huì)有成本的痛點(diǎn)存在。

Q3：從您的視角來看，行業(yè)還有哪些機(jī)會(huì)？

郭人通：在我們看來，機(jī)會(huì)很多。我主要列舉兩個(gè)方向，一個(gè)是 AI 能力落地所需的技術(shù)組件，例如GPTCache，它就是為大模型做的緩存層；另一個(gè)是面向智能體的基礎(chǔ)服務(wù)，智能體所產(chǎn)生的數(shù)據(jù)龐大，針對(duì)它們的服務(wù)形態(tài)、基礎(chǔ)組件及服務(wù)定位同樣空間巨大。因此，我認(rèn)為這兩個(gè)方向仍有很大的探索價(jià)值。