浪潮分布式存儲(chǔ):讓數(shù)據(jù)融合互通,為“云數(shù)智“應(yīng)用構(gòu)筑新平臺(tái)
2023-02-05 20:17:58AI云資訊588
數(shù)字時(shí)代,數(shù)據(jù)共享互通成為剛需
數(shù)字經(jīng)濟(jì)時(shí)代,云計(jì)算、大數(shù)據(jù)、人工智能等新技術(shù)快速發(fā)展,非結(jié)構(gòu)化數(shù)據(jù)爆發(fā)式增長,數(shù)據(jù)類型變得愈發(fā)復(fù)雜多樣。在自動(dòng)駕駛、基因測(cè)序、氣象預(yù)報(bào)等云數(shù)智應(yīng)用場(chǎng)景中,一次數(shù)據(jù)處理可能會(huì)涉及到文件、對(duì)象、大數(shù)據(jù)等多種協(xié)議,數(shù)據(jù)間的互通轉(zhuǎn)換成為數(shù)據(jù)存儲(chǔ)中至關(guān)重要的一環(huán),具備平臺(tái)化能力的融合存儲(chǔ)成為數(shù)字基礎(chǔ)設(shè)施建設(shè)的核心。
以基因測(cè)序場(chǎng)景為例,一次完整的基因測(cè)序涉及到數(shù)據(jù)采集、格式化、脫敏、壓縮、分析、發(fā)布等操作,其過程可以大致分為樣本采集、DNA/RNA測(cè)序、數(shù)據(jù)分析和發(fā)布四個(gè)步驟。在不同的處理階段,需要使用不同的數(shù)據(jù)協(xié)議進(jìn)行操作。其中在樣本采集和DNA/RNA測(cè)序階段采用NFS文件協(xié)議,數(shù)據(jù)分析階段采用HDFS大數(shù)據(jù)協(xié)議,數(shù)據(jù)發(fā)布階段則是通過公網(wǎng)數(shù)據(jù)共享采用S3對(duì)象協(xié)議。整個(gè)數(shù)據(jù)處理過程涉及三種協(xié)議格式,這就意味著完成一次基因的測(cè)序流程需要在NFS、HDFS和S3之間進(jìn)行兩次數(shù)據(jù)拷貝和數(shù)據(jù)格式的轉(zhuǎn)換。傳統(tǒng)存儲(chǔ)僅支持單一的訪問協(xié)議,這就會(huì)造成兩個(gè)問題:一是數(shù)據(jù)格式轉(zhuǎn)換和數(shù)據(jù)拷貝會(huì)降低整個(gè)數(shù)據(jù)處理流程的效率;二是多套存儲(chǔ)副本增加存儲(chǔ)空間成本。
基因測(cè)序應(yīng)用需要使用多種數(shù)據(jù)協(xié)議
百川入海:浪潮基于一套存儲(chǔ) 承載多樣化數(shù)據(jù)
浪潮分布式存儲(chǔ)平臺(tái)AS13000基于對(duì)非結(jié)構(gòu)化數(shù)據(jù)協(xié)議(NFS/CIFS/HDFS/S3)融合互通的研究進(jìn)行技術(shù)創(chuàng)新,采用統(tǒng)一的數(shù)據(jù)管理和元數(shù)據(jù)管理、統(tǒng)一的增值特性服務(wù)、統(tǒng)一的分布式存儲(chǔ)資源池和統(tǒng)一的管理軟件系統(tǒng),保證各種協(xié)議共享同一份數(shù)據(jù)和元數(shù)據(jù)。訪問過程中無需數(shù)據(jù)轉(zhuǎn)換和拷貝,并且為每種協(xié)議提供原生語義服務(wù),每種服務(wù)均可直接訪問,無需安裝網(wǎng)關(guān)、插件或在計(jì)算側(cè)或應(yīng)用層進(jìn)行改造。
AS13000非結(jié)構(gòu)化數(shù)據(jù)融合架構(gòu)
基于"多合一"極簡架構(gòu),浪潮分布式存儲(chǔ)得以實(shí)現(xiàn)四個(gè)"統(tǒng)一"。
首先,提供統(tǒng)一的數(shù)據(jù)管理和元數(shù)據(jù)管理。
數(shù)據(jù)管理和元數(shù)據(jù)管理是非結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)的關(guān)鍵,浪潮分布式存儲(chǔ)平臺(tái)AS13000根據(jù)NFS、CIFS、HDFS和S3的語義和元數(shù)據(jù)特點(diǎn),抽象各協(xié)議的數(shù)據(jù)和元數(shù)據(jù)操作,通過一套統(tǒng)一的非結(jié)構(gòu)化數(shù)據(jù)和元數(shù)據(jù)管理架構(gòu)有效地保證各協(xié)議的原生訪問。
其次,提供統(tǒng)一的增值特性服務(wù)。
基于統(tǒng)一的數(shù)據(jù)訪問接口和元數(shù)據(jù)管理的架構(gòu)設(shè)計(jì),浪潮AS13000對(duì)外提供統(tǒng)一的增值特性服務(wù),包括統(tǒng)一配額、QoS、加密、壓縮、快照、回收站、分級(jí)存儲(chǔ)、遠(yuǎn)程復(fù)制、元數(shù)據(jù)檢索等等。
以下圖為例:同一個(gè)元數(shù)據(jù)檢索服務(wù)ElasticSearch支持NFS、CIFS、S3、HDFS多種協(xié)議,并且各協(xié)議為同一配置入口和查詢?nèi)肟凇?
統(tǒng)一增值特性示例:元數(shù)據(jù)檢索服務(wù)
再次,構(gòu)建統(tǒng)一的分布式存儲(chǔ)資源池。
AS13000支持NFS/CIFS/HDFS/S3等多種服務(wù)協(xié)議共享非結(jié)構(gòu)化存儲(chǔ)資源池,并且同一個(gè)文件不同協(xié)議訪問的數(shù)據(jù)和元數(shù)據(jù)為同一份。例如,通過文件NFS協(xié)議寫入的一個(gè)文件,通過對(duì)象存儲(chǔ)AWS S3協(xié)議、大數(shù)據(jù)HDFS協(xié)議和文件CIFS協(xié)議均可讀??;每個(gè)節(jié)點(diǎn)都可以啟動(dòng)文件NAS、大數(shù)據(jù)HDFS和對(duì)象存儲(chǔ)S3服務(wù)。
最后,打造統(tǒng)一的管理系統(tǒng)。
管理軟件負(fù)責(zé)集群的安裝、部署、業(yè)務(wù)配置、設(shè)備管理、監(jiān)控、告警等功能。浪潮分布式存儲(chǔ)平臺(tái)AS13000打造了融合互通的管理系統(tǒng),可同時(shí)支持NFS/CIFS/HDFS/S3等多種服務(wù)協(xié)議,增值特性通過統(tǒng)一的配置入口對(duì)所有非結(jié)構(gòu)化存儲(chǔ)協(xié)議同時(shí)生效,減少了企業(yè)的管理成本。
浪潮分布式存儲(chǔ)平臺(tái)AS13000通過多年來的持續(xù)技術(shù)創(chuàng)新,以一份數(shù)據(jù)支持多種協(xié)議訪問,實(shí)現(xiàn)了非結(jié)構(gòu)化數(shù)據(jù)融合互通,在提升數(shù)據(jù)處理效率的同時(shí)降低了存儲(chǔ)購置和運(yùn)維成本,保障各協(xié)議的語義無損和性能無損,構(gòu)筑了面向"云數(shù)智"應(yīng)用的融合存儲(chǔ)平臺(tái),助力企業(yè)數(shù)字化轉(zhuǎn)型,加速釋放數(shù)據(jù)價(jià)值。
相關(guān)文章
- CCF存儲(chǔ)系統(tǒng)測(cè)評(píng)發(fā)榜,浪潮存儲(chǔ)全面領(lǐng)先!
- 浪潮云海亮相2025中國算力大會(huì) 重磅發(fā)布InCloud AIOS平臺(tái)
- CCF中國存儲(chǔ)大會(huì) | 浪潮存儲(chǔ)劉希猛:融合存儲(chǔ)加快“人工智能+”行動(dòng)落地
- 專注做好“融合型AI底座”:浪潮云海破解政企AI落地難題
- 浪潮數(shù)據(jù)董事長張東:可演進(jìn)AI基礎(chǔ)設(shè)施激活新質(zhì)生產(chǎn)力
- 飛渡科技再度登頂數(shù)字孿生平臺(tái)市場(chǎng),空間智能引領(lǐng)產(chǎn)業(yè)變革新浪潮
- 消費(fèi)電子微型化浪潮下,利爾達(dá)RedCap模組的突圍戰(zhàn)
- 數(shù)字浪潮聚北京 創(chuàng)新力量啟新程——2025網(wǎng)易創(chuàng)新創(chuàng)業(yè)大賽濟(jì)南站北京分賽圓滿落幕
- 浪潮通信信息亮相2025 TM Forum Accelerate Asia
- OPPO錢包:數(shù)字科技浪潮中的便捷生活助手
- 全球56.71%份額!2025海信引領(lǐng)百吋電視技術(shù)革新與普及浪潮
- 浪潮信息參加2025開放計(jì)算技術(shù)大會(huì),發(fā)布超節(jié)點(diǎn)與MW整機(jī)柜方案
- 大模型推理成本居高不下,浪潮存儲(chǔ)幫你來突圍!
- 科大訊飛亮相2025世界機(jī)器人大會(huì),智能交互技術(shù)引領(lǐng)具身智能新浪潮
- 電商品牌出海:全球化浪潮下的新機(jī)遇
- 浪潮信息發(fā)布“元腦SD200“超節(jié)點(diǎn),面向萬億參數(shù)大模型創(chuàng)新設(shè)計(jì)
人工智能企業(yè)
更多>>- 形態(tài)再革新 三星Galaxy S25 Edge給出輕薄旗艦終極答案
- 從超薄曲面屏到全場(chǎng)景AI,傳音手機(jī)推動(dòng)前沿科技落地新興市場(chǎng)
- 神眸BC22+全新上市,重新定義“真無線”智能安防
- 華為《AIDC機(jī)房參考設(shè)計(jì)白皮書》重磅發(fā)布,賦能AI算力基礎(chǔ)設(shè)施邁向新高度
- 億萬克R322A7+服務(wù)器上新,可靠性封神!
- 中科天璣支持CCF BigData 2025“數(shù)據(jù)智能計(jì)算”論壇圓滿召開——攜產(chǎn)界實(shí)踐洞見共探智能時(shí)代數(shù)據(jù)支撐新路徑
- 百年傳奇煥新:讓“RCA之聲”傳遍中國
- 在胡同與北海間流轉(zhuǎn)的光影 佳能EOS R50 V秋日氛圍感體驗(yàn)
人工智能產(chǎn)業(yè)
更多>>- AIDC產(chǎn)業(yè)發(fā)展大會(huì)隆重召開,開啟AIDC新紀(jì)元
- 絢星破局AI落地困境,四大業(yè)務(wù)重構(gòu)企業(yè)智能生產(chǎn)力新范式
- 騰訊啟動(dòng)AI應(yīng)用繁榮計(jì)劃,新一期AI共創(chuàng)營報(bào)名企業(yè)超300家
- 首都機(jī)場(chǎng)“AI繪空港”大賽完美收官,卓特視覺以技術(shù)賦能創(chuàng)意未來
- 打造張江人工智能創(chuàng)新小鎮(zhèn),全國首個(gè)人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)再添發(fā)展新引擎
- 人機(jī)共生 · 智啟未來——2025高交會(huì)亞洲人工智能與機(jī)器人產(chǎn)業(yè)鏈展主題發(fā)布
- 北京數(shù)基建發(fā)布“知行IntAct”混合智能體產(chǎn)品,以AI定義城市治理新范式
- 新時(shí)達(dá)“精耕小腦”,與大腦協(xié)同,加速具身智能垂直落地
人工智能技術(shù)
更多>>- 騰訊開源框架 Kuikly 再升級(jí)!率先適配 “液態(tài)玻璃”,原生體驗(yàn)更極致
- 外灘大會(huì)首發(fā)! 螞蟻密算推出AI密態(tài)升級(jí)卡 實(shí)現(xiàn)零改動(dòng)“即插即用”
- 騰訊優(yōu)圖攜Youtu-Agent開源項(xiàng)目亮相上海創(chuàng)智學(xué)院首屆TechFest大會(huì)
- 2025外灘大會(huì):王堅(jiān)暢談AI變革,普天科技錨定空天算力新賽道
- 騰訊正式開源Youtu-GraphRAG,圖檢索增強(qiáng)技術(shù)迎來落地新突破
- 聲網(wǎng)兄弟公司 Agora與OpenAI 攜手 助力多模態(tài) AI 智能體實(shí)現(xiàn)實(shí)時(shí)交互
- Qwen-Image-Edit 模型上線基石智算,圖像編輯更精準(zhǔn)
- 火山引擎多模態(tài)數(shù)據(jù)湖落地深勢(shì)科技,提升科研數(shù)據(jù)處理效能