4月18日,上海市政協(xié)經(jīng)濟(jì)和金融委員會開展“加快新舊動能轉(zhuǎn)換,推動制造業(yè)高質(zhì)量發(fā)展”重點課題調(diào)研,圍繞人工智能產(chǎn)業(yè)邀請相關(guān)部門和企業(yè)座談交流。巖山科技旗下上海巖芯數(shù)智(以下簡稱“RockAI”)以其在人工智能技術(shù)領(lǐng)域的深厚積累和創(chuàng)新能力,受邀參與此次座談,共話大模型產(chǎn)業(yè)發(fā)展新趨勢。

本次座談會由市政協(xié)經(jīng)濟(jì)和金融委員會主任嚴(yán)旭主持,特別邀請市政協(xié)副主席肖貴玉、壽子琪參與,徐匯區(qū)委書記曹立強(qiáng)陪同調(diào)研。座談會上,市領(lǐng)導(dǎo)就“通用人工智能大模型國內(nèi)外企業(yè)差距”的話題詢問企業(yè)的發(fā)展意見。部分企業(yè)認(rèn)為,國內(nèi)人工智能大模型已經(jīng)從去年的“百模大戰(zhàn)”進(jìn)入“淘汰賽”階段,當(dāng)前大模型企業(yè)發(fā)展的痛點主要是算力和人才。作為以認(rèn)知智能為基礎(chǔ)、專注于自然語言理解及人機(jī)交互等核心技術(shù)的創(chuàng)新型企業(yè),巖芯數(shù)智代表行業(yè)前沿,積極參與并貢獻(xiàn)了專業(yè)見解。

RockAI企業(yè)代表鄒佳思認(rèn)為,雖然在短期內(nèi)算力和人才是推動大模型發(fā)展的關(guān)鍵要素,但從長遠(yuǎn)看,底層技術(shù)的創(chuàng)新可能才是關(guān)鍵所在。以GPT4大參數(shù)大算力的相關(guān)數(shù)據(jù)為例,GPT4由16個1100億的模型通過MOE架構(gòu)組成,經(jīng)過百天在兩萬張卡上完成訓(xùn)練,耗電量巨大,應(yīng)驗了算力的盡頭是電力。而GPT5擁有更大的參數(shù)、更大的數(shù)據(jù),需要更多的GPU算力,這些要素都是目前國內(nèi)大模型企業(yè)面臨的困難。另一方面,目前主流基于Transformer架構(gòu)的模型有著與生俱來的幻覺問題,在個人場景也許是創(chuàng)造力的表現(xiàn),但是跟很多企業(yè)落地場景是有天然沖突的。

提及“GPT5會給國內(nèi)大模型企業(yè)帶來哪些挑戰(zhàn)”,鄒佳思表示,雖然主流架構(gòu)的Scaling Law依然生效且沒到天花板,但是我們也注意到Transformer架構(gòu)跟人腦的工作模式是不一致的,人的大腦有800-1000億神經(jīng)元,不但可以局部激活而且能工作在20瓦的低功率之下。國內(nèi)一方面固然需要沿著OpenAI路線進(jìn)行追趕,但是換個角度,底層架構(gòu)的創(chuàng)新以及針對企業(yè)場景的模型創(chuàng)新或許是新的機(jī)遇。

據(jù)悉,通過持續(xù)加強(qiáng)核心算法自研和技術(shù)探索,RockAI已從零開始完全自主研發(fā)設(shè)計了Yan架構(gòu),并于2024年1月發(fā)布了國內(nèi)首個非Attention機(jī)制的通用大模型——“Yan 1.0模型”。該創(chuàng)新架構(gòu)重點關(guān)注大模型算力和幻覺問題,可助力大模型在金融、能源、制造、醫(yī)療等風(fēng)險敏感領(lǐng)域?qū)崿F(xiàn)廣泛應(yīng)用,提供性價比更高、更便捷、更可控的AI服務(wù)。目前,RockAI已與上海工創(chuàng)中心、華為昇騰、廣電五舟等科技企業(yè)達(dá)成戰(zhàn)略合作,接下來將攜手生態(tài)伙伴進(jìn)一步推動創(chuàng)新升級和生態(tài)建設(shè)。

“我們現(xiàn)在要做的是種一個種子下去,讓這個種子具有良好的基因,發(fā)育成一個胚胎,最后形成一個巨人?！笔姓f(xié)副主席肖貴玉說,人工智能背后有巨大的想象空間,而大模型正引領(lǐng)新一輪人工智能變革,已經(jīng)成為全球科技競爭的焦點。他希望各位企業(yè)家腳踏實地為“打造基因”獻(xiàn)計獻(xiàn)策。針對現(xiàn)有教育難以支撐先導(dǎo)產(chǎn)業(yè)和未來產(chǎn)業(yè)發(fā)展的局面,他表示,要在機(jī)制層面解決人才問題:在教育端創(chuàng)新改革,連接高校和企業(yè)的合作渠道,達(dá)到依靠自身的教育體系為企業(yè)提供高端人才人力資源支撐的目的。

“上海要打造AI高地,重點在落地應(yīng)用,賦能各行各業(yè)解決各類問題。”座談會進(jìn)入尾聲,市政協(xié)副主席壽子琪總結(jié)到,希望能聚焦“基礎(chǔ)大模型怎么做”“架構(gòu)上如何尋找更優(yōu)解”“是否能打造本地人工智能企業(yè)”等展開調(diào)研,爭取率先在具體領(lǐng)域應(yīng)用取得突破,對上海推進(jìn)人工智能產(chǎn)業(yè)發(fā)展意義重大。

此次座談會為RockAI提供了與政府部門、專家學(xué)者以及行業(yè)同仁深度對話的平臺,進(jìn)一步促進(jìn)了產(chǎn)學(xué)研合作,強(qiáng)化了企業(yè)在人工智能領(lǐng)域的發(fā)展共識。RockAI期待與各方攜手,共同推動上海乃至全國人工智能產(chǎn)業(yè)邁向更高水平,為我國經(jīng)濟(jì)“數(shù)實融合”與持續(xù)健康發(fā)展添磚加瓦。