騰訊發(fā)布星脈網(wǎng)絡(luò)2.0:大模型訓(xùn)練效率相比上代提升20%
2024-07-03 09:08:30AI云資訊70722
7月1日,騰訊宣布其自研星脈高性能計算網(wǎng)絡(luò)升級至2.0版本,星脈網(wǎng)絡(luò)2.0搭載全自研的網(wǎng)絡(luò)設(shè)備與AI算力網(wǎng)卡,支持超10萬卡大規(guī)模組網(wǎng),網(wǎng)絡(luò)通信效率比上一代提升60%,讓大模型訓(xùn)練效率提升20%,定位從天級降低至分鐘級。
騰訊自研交換機從 25.6T 升級到 51.2T,容量提升一倍;自研硅光模塊從 200G 升級到 400G,速率提升一倍;搭載自研算力網(wǎng)卡;整機通信帶寬 3.2T,為業(yè)界最高。
騰訊自研全新通信協(xié)議 TiTa2.0 的部署位置從交換機轉(zhuǎn)移到了網(wǎng)卡上,擁塞算法也從被動擁塞算法升級為主動擁塞控制算法,將星脈網(wǎng)絡(luò)的通信效率提升 30%,讓大模型的訓(xùn)練效率提升 10%。
騰訊全新高性能集合通信庫 TCCL2.0 采用 NVLINK+NET 異構(gòu)并行通信,實現(xiàn)數(shù)據(jù)的并行傳輸。Auto-Tune Network Expert 自適應(yīng)算法可以根據(jù)機型、網(wǎng)絡(luò)規(guī)模、模型算法等差異,自動調(diào)整數(shù)據(jù)包分割大小、匹配算法等參數(shù)。星脈網(wǎng)絡(luò)通信性能提升 30%,讓大模型的訓(xùn)練效率再提升 10%。
TiTa 與 TCCL 升級帶來的效果疊加,讓星脈網(wǎng)絡(luò)的通信效率共提升 60%,大模型訓(xùn)練效率共提升 20%。
騰訊云副總裁王亞晨這樣比喻,AI大模型就像是一場F1比賽,騰訊云專門設(shè)計了星脈高性能算力網(wǎng)絡(luò)“賽道”,并自研了TiTa和TCCL網(wǎng)絡(luò)協(xié)議作為“賽事指揮中心與專業(yè)車隊”,共同讓“騰訊云高性能計算集群HCC的GPU服務(wù)器”這臺F1賽車發(fā)揮最大的算力性能。
相關(guān)文章
- 讓知識觸手可及!騰訊樂享發(fā)布更懂企業(yè)的AI知識庫
- 騰訊云TDSQL自研產(chǎn)品家族擴容,數(shù)據(jù)庫AI服務(wù)正式發(fā)布
- 騰訊開源框架 Kuikly 再升級!率先適配 “液態(tài)玻璃”,原生體驗更極致
- 騰訊地圖張治東:AI驅(qū)動戰(zhàn)略進(jìn)階,打造智能增長新引擎
- 騰訊集團副總裁鐘翔平:三大關(guān)鍵詞,定義騰訊地圖產(chǎn)業(yè)新圖景
- 智慧星光與騰訊云深化戰(zhàn)略合作,推進(jìn)AI在認(rèn)知智能與決策智能領(lǐng)域服務(wù)
- 騰訊云高級副總裁徐翊鳴:AI已成為金融機構(gòu)提升生產(chǎn)力的“戰(zhàn)略杠桿”
- 騰訊全球數(shù)字生態(tài)大會:《國產(chǎn)數(shù)字化升級標(biāo)桿實踐報告》重磅發(fā)布
- 騰訊云面向全球發(fā)布智能體開發(fā)平臺 3.0
- 2025騰訊云國際出海峰會:國際業(yè)務(wù)高雙位數(shù)增長,海外客戶規(guī)模同比增長翻倍
- “云+AI”深度融合,蘑菇車聯(lián)攜手騰訊云共拓MogoMind技術(shù)邊界
- 赤子城科技與騰訊云達(dá)成戰(zhàn)略合作,以AI驅(qū)動全球用戶體驗升級
- 騰訊云 TVP 走進(jìn)太古可口可樂,共探數(shù)智融合下的企業(yè)增長新路徑
- 騰訊啟動AI應(yīng)用繁榮計劃,新一期AI共創(chuàng)營報名企業(yè)超300家
- 騰訊湯道生:打造智能化、全球化雙引擎,助力企業(yè)穩(wěn)增長
- 2025騰訊全球數(shù)字生態(tài)大會定檔9月16日 萬興科技擬出席騰訊云國際出海峰會
人工智能企業(yè)
更多>>- 形態(tài)再革新 三星Galaxy S25 Edge給出輕薄旗艦終極答案
- 從超薄曲面屏到全場景AI,傳音手機推動前沿科技落地新興市場
- 神眸BC22+全新上市,重新定義“真無線”智能安防
- 華為《AIDC機房參考設(shè)計白皮書》重磅發(fā)布,賦能AI算力基礎(chǔ)設(shè)施邁向新高度
- 億萬克R322A7+服務(wù)器上新,可靠性封神!
- 中科天璣支持CCF BigData 2025“數(shù)據(jù)智能計算”論壇圓滿召開——攜產(chǎn)界實踐洞見共探智能時代數(shù)據(jù)支撐新路徑
- 百年傳奇煥新:讓“RCA之聲”傳遍中國
- 在胡同與北海間流轉(zhuǎn)的光影 佳能EOS R50 V秋日氛圍感體驗
人工智能產(chǎn)業(yè)
更多>>- AIDC產(chǎn)業(yè)發(fā)展大會隆重召開,開啟AIDC新紀(jì)元
- 絢星破局AI落地困境,四大業(yè)務(wù)重構(gòu)企業(yè)智能生產(chǎn)力新范式
- 騰訊啟動AI應(yīng)用繁榮計劃,新一期AI共創(chuàng)營報名企業(yè)超300家
- 首都機場“AI繪空港”大賽完美收官,卓特視覺以技術(shù)賦能創(chuàng)意未來
- 打造張江人工智能創(chuàng)新小鎮(zhèn),全國首個人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)再添發(fā)展新引擎
- 人機共生 · 智啟未來——2025高交會亞洲人工智能與機器人產(chǎn)業(yè)鏈展主題發(fā)布
- 北京數(shù)基建發(fā)布“知行IntAct”混合智能體產(chǎn)品,以AI定義城市治理新范式
- 新時達(dá)“精耕小腦”,與大腦協(xié)同,加速具身智能垂直落地
人工智能技術(shù)
更多>>- 騰訊開源框架 Kuikly 再升級!率先適配 “液態(tài)玻璃”,原生體驗更極致
- 外灘大會首發(fā)! 螞蟻密算推出AI密態(tài)升級卡 實現(xiàn)零改動“即插即用”
- 騰訊優(yōu)圖攜Youtu-Agent開源項目亮相上海創(chuàng)智學(xué)院首屆TechFest大會
- 2025外灘大會:王堅暢談AI變革,普天科技錨定空天算力新賽道
- 騰訊正式開源Youtu-GraphRAG,圖檢索增強技術(shù)迎來落地新突破
- 聲網(wǎng)兄弟公司 Agora與OpenAI 攜手 助力多模態(tài) AI 智能體實現(xiàn)實時交互
- Qwen-Image-Edit 模型上線基石智算,圖像編輯更精準(zhǔn)
- 火山引擎多模態(tài)數(shù)據(jù)湖落地深勢科技,提升科研數(shù)據(jù)處理效能