近日，天數(shù)智芯與無問芯穹達成重要合作，在天數(shù)智芯智鎧GPU百卡推理集群上成功部署了無問芯穹Infini-AI異構(gòu)云平臺，并實現(xiàn)了多種主流大模型在該推理集群上的全功能適配，并正式對外提供MaaS服務(wù)。雙方此次合作，旨在協(xié)力構(gòu)建一個以自主芯片為核心的大模型服務(wù)生態(tài)，進一步推動我國人工智能產(chǎn)業(yè)的快速發(fā)展。

Infini-AI異構(gòu)云平臺是無問芯穹開發(fā)的一個基于多芯片算力底座的一站式大模型開發(fā)與服務(wù)平臺，它打破了傳統(tǒng)計算資源的限制，實現(xiàn)了對多種模型和計算卡的全面支持。

天數(shù)智芯自主研發(fā)的智鎧100GPU，支持多種精度數(shù)據(jù)類型，靈活支持各種模型算法，兼容國內(nèi)外主流AI生態(tài)，滿足從基礎(chǔ)研究到實際應(yīng)用的全方位需求。

早在2024年7月，無問芯穹Infini-AI異構(gòu)云平臺就與天數(shù)智芯合作，打造了可進行單任務(wù)千卡規(guī)模異構(gòu)芯片混合訓(xùn)練的大模型訓(xùn)練平臺，千卡異構(gòu)混合訓(xùn)練集群算力利用率最高達到了97.6%。

在本次合作中，經(jīng)過雙方嚴(yán)格的功能和性能測試，完成了智鎧100 GPU產(chǎn)品與無問芯穹Infini-AI異構(gòu)云平臺的全面接入。該集群可靈活支持對話問答、數(shù)據(jù)標(biāo)注、內(nèi)容理解與分析，信息抽取等主流任務(wù)場景，滿足文本、圖片、視頻等多場景下的大規(guī)模實時推理需求。?

當(dāng)前，智鎧100現(xiàn)已在無問芯穹Infini-AI異構(gòu)云平臺上線，可支持7B-72B參數(shù)的模型推理，用于更佳效果的數(shù)據(jù)生成與處理。Infini-AI是高性能算力和原生工具鏈平臺，其中大模型服務(wù)平臺可為應(yīng)用開發(fā)者提供各種高性能、易上手、安全可靠的大模型服務(wù)，能力覆蓋從大模型開發(fā)到大模型服務(wù)化部署的全流程?，F(xiàn)已收錄包括Stable Diffusion、Qwen2.5、CogvideoX、Llama3.1在內(nèi)的多種主流大模型，支持模型一鍵微調(diào)部署、模型與ComfyUI workflow托管等功能。

平臺用戶可以屏蔽硬件生態(tài)影響，通過極少步驟操作調(diào)用各種模型API，實現(xiàn)模型的快速部署。同時，還能享受到與國際主流產(chǎn)品相比，具有更高性價比的算力服務(wù)。

隨著人工智能技術(shù)的快速發(fā)展及應(yīng)用場景的拓展，國內(nèi)大模型技術(shù)與應(yīng)用企業(yè)對高可控性、高效能、高性價比、高附加值的算力需求日益迫切。雙方此次合作極大地降低了AI應(yīng)用的技術(shù)門檻和使用成本，更為自主芯片在人工智能領(lǐng)域的廣泛應(yīng)用開辟了新的道路。展望未來，天數(shù)智芯與無問芯穹將繼續(xù)全面合作，在智算中心、央國企、互聯(lián)網(wǎng)等領(lǐng)域，共建AGI時代的大模型算力基座、探索并推動應(yīng)用普及和創(chuàng)新發(fā)展、加速行業(yè)的數(shù)字化轉(zhuǎn)型步伐。