近日，由上海天數(shù)智芯半導(dǎo)體有限公司（以下簡稱“天數(shù)智芯”）主導(dǎo)的DeepSpark開源社區(qū)正式發(fā)布了百大應(yīng)用開放平臺24.12版本。

百大應(yīng)用開放平臺作為國內(nèi)領(lǐng)先的AI和通用計(jì)算應(yīng)用開發(fā)及評測平臺，甄選上百個與行業(yè)應(yīng)用深度耦合的開源算法和模型，支持主流生態(tài)應(yīng)用框架，并針對行業(yè)需求構(gòu)建多維度評測體系，廣泛支持各類落地場景。

本次24.12版本首次開源了4個云原生相關(guān)項(xiàng)目，包含天數(shù)智芯GPU設(shè)備監(jiān)控的Golang API接口和容器運(yùn)行時(shí)，方便用戶在集群上配置和管理天數(shù)智芯加速卡，歡迎社區(qū)用戶使用體驗(yàn)。

開源地址：

https://gitee.com/deep-spark/go-ixml

https://gitee.com/deep-spark/go-ixdcgm

https://gitee.com/deep-spark/ix-gpu-operator

https://gitee.com/deep-spark/ix-container-toolkit

24.12版本繼續(xù)豐富DeepSparkHub（https://gitee.com/deep-spark/deepsparkhub）百大模型訓(xùn)練庫和DeepSparkInference（https://gitee.com/deep-spark/deepsparkinference）推理模型庫中的模型示例。

24.12版本在DeepSparkHub百大訓(xùn)練模型庫中新開源了4個基于PyTorch框架的小模型示例和5個基于ColossalAI，Megatron-LM和LLaMA-Factory的大語言模型訓(xùn)練示例。迄今為止在DeepSparkHub百大訓(xùn)練模型庫累計(jì)開源上線的模型數(shù)量達(dá)到了292個。

24.12版本在DeepSparkInference推理模型庫中新開源了24個基于天數(shù)智芯自研推理引擎IGIE和IxRT的推理小模型和9個大語言模型推理示例。迄今為止在DeepSparkInference推理模型庫累計(jì)開源上線的模型數(shù)量達(dá)到了152個。

此外，在多維度評測系統(tǒng)社區(qū)版（https://mdb.deepspark.org.cn:8086）中添加了13個小模型推理和1個大模型推理評測示例，可從速度、準(zhǔn)確度、延時(shí)、功耗、顯存、穩(wěn)定性等多個維度來全面評價(jià)通用GPU加速卡在模型推理中的綜合表現(xiàn)，歡迎社區(qū)用戶使用體驗(yàn)。

回顧整個2024年，DeepSpark社區(qū)開源上線了197個模型實(shí)例（45個訓(xùn)練模型，152個推理模型），累計(jì)開源模型數(shù)量已超過400個，國內(nèi)排名第一。社區(qū)Gitee/GitHub代碼倉的全年訪問量約1.5萬次，下載量超5500次，同比去年再創(chuàng)新高。借助DeepSpark開源成果，天數(shù)智芯在啟智社區(qū)國內(nèi)算力英雄月榜（https://openi.pcl.ac.cn/computingpower/domestic）排名第二，進(jìn)一步展示了天數(shù)智芯通用GPU產(chǎn)品的通用性和易用性。

2025年，將會有更多的成果通過DeepSpark社區(qū)開源。歡迎行業(yè)合作伙伴、社區(qū)用戶和開發(fā)者以任何形式參與DeepSpark開源社區(qū)。

社區(qū)網(wǎng)站：

https://www.deepspark.org.cn

社區(qū)代碼：

https://gitee.com/deep-spark

https://github.com/deep-spark

聯(lián)系我們：

contact@deepspark.org.cn