量化技術(shù)賦能+通信傳輸優(yōu)化!天翼云支撐DeepSeek-R1降本增效
2025-02-17 15:33:55AI云資訊20470
近日,天翼云DeepSeek模型推理技術(shù)迎來重大升級。該技術(shù)不僅支撐DeepSeek-R1滿血版模型實現(xiàn)性能的四倍提升,更將大規(guī)模部署模型的成本降至原來的25%以下,為AI應用落地鋪就更為寬廣的道路。
此次技術(shù)升級主要體現(xiàn)在量化技術(shù)賦能及通信傳輸優(yōu)化兩大層面。其中,天翼云針對模型的浮點計算進行深度優(yōu)化,使用高效量化算法,大幅減少計算資源消耗,提升推理速度,同時保證性能不打折。
通信傳輸方面,天翼云通過優(yōu)化通信算子編排與通信方式,顯著提升MoE模型推理中的通信效率,助力DeepSeek-R1模型的整體處理能力再上新臺階。
基于兩大技術(shù)升級,天翼云提供的DeepSeek-R1滿血昇騰版每實例性能提升至原版本207%,首字輸出仍保持百毫秒級響應;每實例部署所需機器數(shù)減少一半,僅為兩臺。
此次升級DeepSeek-R1為行業(yè)的大規(guī)模AI應用提供了更完善的解決方案。DeepSeek-R1滿血昇騰版整體部署成本降至原來25%以下,意味著企業(yè)可以在不增加太多預算的情況下,享受到更強大、更高效的AI服務,加速了AI技術(shù)的普及與應用。
目前,天翼云“息壤”智算平臺已有多款產(chǎn)品支持部署DeepSeek,為行業(yè)提供了性能卓越、安全可控的智能算力基座,以普惠AI應用服務,不斷促進國產(chǎn)AI生態(tài)繁榮。
科技創(chuàng)新的目標是解決實際應用,促進行業(yè)進步。天翼云始終堅持科技創(chuàng)新,將技術(shù)升級與市場需求緊密結(jié)合,加速AI技術(shù)從理論走向?qū)嵺`,從實驗室走向生產(chǎn)線。未來,天翼云將繼續(xù)探索更多前沿AI技術(shù)路徑,為廣大開發(fā)者和用戶提供更優(yōu)質(zhì)、更具性價比的模型服務,推動AI應用普惠化,共筑數(shù)字中國的智慧未來。
相關(guān)文章
- “天翼云息壤杯”高校AI大賽總決賽在京啟幕全國頂尖戰(zhàn)隊競逐AI巔峰
- 《智能計算 科學計算平臺技術(shù)要求》編制啟動會召開,天翼云助推科研提效
- 從標準制定到應用落地,天翼云全面發(fā)力算力互聯(lián)互通
- 天翼云牽頭編制《智能計算 科學計算平臺技術(shù)要求》國家標準,助力科研范式創(chuàng)新
- 天翼云助力中國交建,引領(lǐng)交通基建邁入數(shù)智新時代
- 天翼云HBlock正式推出“異地多活”塊存儲
- 鵬城-天翼云算力網(wǎng)實驗室正式成立,產(chǎn)學研用協(xié)同共推科技強國建設(shè)
- 天翼云完成國產(chǎn)算力與Qwen3模型0day適配優(yōu)化
- 國云創(chuàng)新力進階,天翼云息壤全面升級
- 中國電信天翼云攜手鵬城實驗室成立算力網(wǎng)實驗室
- 中國電信天翼云攜手鵬城實驗室成立算力網(wǎng)實驗室助推科技強國建設(shè)
- 天翼云息壤再升級!2025智能云生態(tài)大會·智能云合作論壇即將揭秘
- 2025北京半程馬拉松圓滿落幕!北京電信攜手天翼云圓滿完成通信重保工作
- 天翼云領(lǐng)航國產(chǎn)智算云服務市場,位列領(lǐng)導者象限榜首
- 引領(lǐng)人工智能時代,天翼云息壤智算一體機獲信通院權(quán)威認證
- 云技術(shù)賦能視聽藝術(shù)論壇成功舉辦,天翼云引領(lǐng)視聽產(chǎn)業(yè)提質(zhì)升級
人工智能企業(yè)
更多>>人工智能硬件
更多>>- 中科天璣支持CCF BigData 2025“數(shù)據(jù)智能計算”論壇圓滿召開——攜產(chǎn)界實踐洞見共探智能時代數(shù)據(jù)支撐新路徑
- 百年傳奇煥新:讓“RCA之聲”傳遍中國
- 在胡同與北海間流轉(zhuǎn)的光影 佳能EOS R50 V秋日氛圍感體驗
- 一直戴,一直拍!魅族AI拍攝眼鏡StarV Snap發(fā)布
- “盎銳科技杯”2025建筑機器人技能大賽在滬啟動,助推智能建造實戰(zhàn)人才培養(yǎng)
- 國產(chǎn)芯開行業(yè)新局,至像Z35國產(chǎn)芯系列新品打印機賦能中國打印
- 神眸榮獲快手“品牌標桿獎”,以芯片級創(chuàng)新躋身行業(yè)前列
- AMD 推出 EPYC? 嵌入式 4005 處理器,助力低時延邊緣應用
人工智能產(chǎn)業(yè)
更多>>- 騰訊啟動AI應用繁榮計劃,新一期AI共創(chuàng)營報名企業(yè)超300家
- 首都機場“AI繪空港”大賽完美收官,卓特視覺以技術(shù)賦能創(chuàng)意未來
- 打造張江人工智能創(chuàng)新小鎮(zhèn),全國首個人工智能創(chuàng)新應用先導區(qū)再添發(fā)展新引擎
- 人機共生 · 智啟未來——2025高交會亞洲人工智能與機器人產(chǎn)業(yè)鏈展主題發(fā)布
- 北京數(shù)基建發(fā)布“知行IntAct”混合智能體產(chǎn)品,以AI定義城市治理新范式
- 新時達“精耕小腦”,與大腦協(xié)同,加速具身智能垂直落地
- 亞洲愿景論壇 東軟蓋龍佳談AI與數(shù)據(jù)價值化重構(gòu)醫(yī)療未來
- 破解AI落地難題!北大這場特訓營,為企業(yè)找到轉(zhuǎn)型“最優(yōu)解”
人工智能技術(shù)
更多>>- 外灘大會首發(fā)! 螞蟻密算推出AI密態(tài)升級卡 實現(xiàn)零改動“即插即用”
- 騰訊優(yōu)圖攜Youtu-Agent開源項目亮相上海創(chuàng)智學院首屆TechFest大會
- 2025外灘大會:王堅暢談AI變革,普天科技錨定空天算力新賽道
- 騰訊正式開源Youtu-GraphRAG,圖檢索增強技術(shù)迎來落地新突破
- 聲網(wǎng)兄弟公司 Agora與OpenAI 攜手 助力多模態(tài) AI 智能體實現(xiàn)實時交互
- Qwen-Image-Edit 模型上線基石智算,圖像編輯更精準
- 火山引擎多模態(tài)數(shù)據(jù)湖落地深勢科技,提升科研數(shù)據(jù)處理效能
- 斑馬AI大模型:為每個孩子提供專屬學習方案