ChatGPT是美國(guó)專(zhuān)注于通用人工智能研究的公司OpenAI在2022年11月發(fā)布的人工智能聊天機(jī)器人。發(fā)布兩個(gè)月后，月活用戶(hù)已經(jīng)突破了1億，成為史上用戶(hù)增長(zhǎng)速度最快的消費(fèi)級(jí)應(yīng)用。AIGC是利用AI自動(dòng)生成內(nèi)容，在AIGC場(chǎng)景下，人工智能可被靈活運(yùn)用于寫(xiě)作、編曲、繪畫(huà)和視頻制作等創(chuàng)意領(lǐng)域。ChatGPT屬于AIGC技術(shù)在自然語(yǔ)言對(duì)話場(chǎng)景的應(yīng)用。

ChatGPT在智能化方面有著跨越式進(jìn)步，在多輪對(duì)話能力、對(duì)話交互友好性、結(jié)果的邏輯性上展現(xiàn)了驚人的效果。其能夠較準(zhǔn)確理解提問(wèn)，生成連貫的、合乎語(yǔ)法、且看起來(lái)邏輯通順的文本段落，并且能夠銜接上下文與用戶(hù)進(jìn)行多輪對(duì)話互動(dòng)。同時(shí)，在安全倫理方面也有相當(dāng)好的表現(xiàn)，生成的結(jié)果道德友善且符合大眾的道德和價(jià)值觀。

然而業(yè)界亦不乏針對(duì)ChatGPT計(jì)算成本、商業(yè)前景的悲觀討論。在此背景下，本期的【對(duì)話首席】從技術(shù)評(píng)價(jià)、商業(yè)化場(chǎng)景、商業(yè)潛力，及未來(lái)發(fā)展前景四個(gè)角度，與特斯聯(lián)首席科學(xué)家、特斯聯(lián)國(guó)際總裁邵嶺博士聊了聊相關(guān)話題。

邵嶺博士是國(guó)際知名人工智能科學(xué)家，他不僅是IEEE Fellow，同時(shí)也是國(guó)際模式識(shí)別協(xié)會(huì)Fellow、英國(guó)計(jì)算機(jī)學(xué)會(huì) Fellow及IET Fellow 。在加入特斯聯(lián)以前，邵嶺博士曾任沙特阿拉伯?dāng)?shù)據(jù)和人工智能管理局(SDAIA)國(guó)家人工智能中心(NCAI)首席技術(shù)官和首席科學(xué)家； 2018年至2021年，他擔(dān)任阿聯(lián)酋起源人工智能研究院（IIAI）創(chuàng)始CEO及首席科學(xué)家。邵嶺博士還是全球首所人工智能大學(xué)-穆罕默德·本·扎耶德人工智能大學(xué)的發(fā)起人和創(chuàng)校執(zhí)行校長(zhǎng)。

邵嶺博士指出盡管今天的ChatGPT能夠適用幾十種不同語(yǔ)言，但不同語(yǔ)言在效果上仍存差別——英文效果最好，中文、阿拉伯文，及其他語(yǔ)言效果相對(duì)較差。同時(shí)，邵嶺博士表示，ChatGPT在商業(yè)化過(guò)程中同樣面臨著研發(fā)成本高昂、商業(yè)模式存在不確定性、自身的局限性，及法律、道德風(fēng)險(xiǎn)的挑戰(zhàn)。

特斯聯(lián)科技集團(tuán)首席科學(xué)家、特斯聯(lián)國(guó)際總裁邵嶺博士

技術(shù)評(píng)價(jià)

Q1.ChatGPT出圈，AIGC被視為AI領(lǐng)域的顛覆性技術(shù)代表，它到底實(shí)現(xiàn)了哪些驚人的技術(shù)突破？

邵：ChatGPT本質(zhì)上是一個(gè)大語(yǔ)言模型（LLM,Large Language Model），是利用大規(guī)模的文本數(shù)據(jù)訓(xùn)練出來(lái)的，能夠生成文本的自然語(yǔ)言模型。在自然語(yǔ)言處理（NLP）領(lǐng)域，ChatGPT并非是第一個(gè)基于大型語(yǔ)言模型的產(chǎn)物，在其之前有諸多著名的語(yǔ)言大模型，如BERT、GPT-1、GPT-2、GPT-3、XLNET、T5等，這些模型在自然語(yǔ)言任務(wù)中效果也非常出色，但最近ChatGPT成功出圈。

ChatGPT的成功在于其創(chuàng)新訓(xùn)練方式和千億級(jí)的模型參數(shù)規(guī)模。GPT-3之前的大型語(yǔ)言模型，通常是通過(guò)在非常大的數(shù)據(jù)集上使用自監(jiān)督學(xué)習(xí)的方式進(jìn)行訓(xùn)練。ChatGPT突破的背后是使用了Instruct tuning技術(shù)和基于用戶(hù)反饋的強(qiáng)化學(xué)習(xí)的訓(xùn)練技術(shù)，這種技術(shù)的訓(xùn)練效率更高，并且使用用戶(hù)反饋來(lái)進(jìn)一步提高生成結(jié)果的準(zhǔn)確性。ChatGPT的強(qiáng)大還在于其使用的超大規(guī)模模型，ChatGPT基于GPT-3.5，其規(guī)模超過(guò)其他語(yǔ)言模型達(dá)到千億級(jí)別，這種更大的參數(shù)規(guī)模允許ChatGPT能夠挖掘到更復(fù)雜的語(yǔ)言模式和關(guān)系，從而提高復(fù)雜自然語(yǔ)言處理任務(wù)的準(zhǔn)確性。

但是，從底層模型框架來(lái)講ChatGPT所使用的技術(shù)并不新穎，所使用的關(guān)鍵技術(shù)在此之前就已經(jīng)被研究和使用。如Meta首席人工智能科學(xué)家Yann LeCun所說(shuō)，“ChatGPT在基礎(chǔ)科學(xué)方面并非是一種創(chuàng)新且獨(dú)特的技術(shù)突破”，ChatGPT并不是一種技術(shù)創(chuàng)新，而是一種工程應(yīng)用創(chuàng)新，它的成功更多體現(xiàn)在針對(duì)對(duì)話生成場(chǎng)景的杰出表現(xiàn)上。

Q2.在AIGC領(lǐng)域，除了ChatGPT這種語(yǔ)言對(duì)話外，還有哪些比較成功的應(yīng)用？

邵：在AIGC領(lǐng)域中，除了像ChatGPT這種“文生文”的應(yīng)用外，目前同樣引人注目的是多模態(tài)“文生圖”技術(shù)應(yīng)用。簡(jiǎn)單來(lái)說(shuō)，“文生圖”就是輸入一段文字描述，AI可以自動(dòng)為你生成與文字描述緊密相關(guān)的圖畫(huà)。該方向在2018年之前就有很多研究，到了2022年的擴(kuò)散模型的圖像生成出現(xiàn)，實(shí)現(xiàn)了一種跨越式的發(fā)展。過(guò)去的一年里，隨著 DALL-E 2，Stable Diffusion 等圖像生成模型的發(fā)布，“文生圖”模型生成的圖像在分辨率、質(zhì)量、文本忠實(shí)度等方面都得到了飛躍性提升，極大促進(jìn)了下游應(yīng)用場(chǎng)景的開(kāi)發(fā)，人人都成了 AI 畫(huà)家。

“多模態(tài)預(yù)訓(xùn)練大模型”是這種應(yīng)用成功背后的技術(shù)支撐。相對(duì)于ChatGPT只關(guān)注單純語(yǔ)言文本，“文生圖”同時(shí)需要文本和圖像多模態(tài)數(shù)據(jù)以建立文本與圖像之間的內(nèi)在對(duì)齊關(guān)系。這種多模態(tài)組合建模的方法可以幫助模型更全面地理解人類(lèi)語(yǔ)言和行為，提高其理解和決策能力。通過(guò)多模態(tài)融合，模型可以從多個(gè)角度對(duì)輸入數(shù)據(jù)進(jìn)行分析，并生成更全面和準(zhǔn)確的預(yù)測(cè)結(jié)果。相信在不久的將來(lái)，多模態(tài)預(yù)訓(xùn)練大模型的良好表現(xiàn)會(huì)使得推理、總結(jié)、策略?xún)?yōu)化與反向調(diào)度等智能場(chǎng)景的應(yīng)用變得更加高效。

Q3.特斯聯(lián)在AIGC、預(yù)訓(xùn)練大模型等方面有何布局和發(fā)展？

邵：目前IoT與人工智能正在緊密結(jié)合，而預(yù)訓(xùn)練大模型在AIoT領(lǐng)域應(yīng)用得比較少。特斯聯(lián)基于多年的行業(yè)經(jīng)驗(yàn)，深刻洞察到這一痛點(diǎn)，并在2022年投入大量成本，由我們的人工智能實(shí)驗(yàn)室來(lái)研發(fā)“基于AIoT場(chǎng)景的多模態(tài)預(yù)訓(xùn)練大模型”。目前實(shí)驗(yàn)室已基于面向IoT行業(yè)的大規(guī)模數(shù)據(jù)集，研發(fā)了面向AIoT場(chǎng)景的多模態(tài)大模型以及相關(guān)的訓(xùn)練技術(shù)，其中包括語(yǔ)言、視覺(jué)、IoT及跨模態(tài)大模型，可以功能上實(shí)現(xiàn)文本生成、圖像生成，語(yǔ)音合成、IoT序列數(shù)據(jù)分析與預(yù)測(cè)等。接下來(lái)我們將會(huì)相繼推出AIoT行業(yè)預(yù)訓(xùn)練大模型，以特斯聯(lián)的城市智能化發(fā)展為目標(biāo)，將相關(guān)技術(shù)應(yīng)用于國(guó)內(nèi)AICITY、AIPARK等場(chǎng)景，并逐步拓展到中東地區(qū)的智慧能源、智能城市等行業(yè)應(yīng)用中。

Q4.ChatGPT作為一種支持多語(yǔ)種的大語(yǔ)言模型，目前存在哪方面的不足？

邵：從目前使用情況及官方信息來(lái)看，ChatGPT能夠適用幾十種不同的語(yǔ)言，但對(duì)不同語(yǔ)言在效果上是有所差別的。實(shí)際測(cè)試的結(jié)果表明其對(duì)英文效果最好，對(duì)其他語(yǔ)言，如中文、阿拉伯文，效果要差一些。

導(dǎo)致這種現(xiàn)象的可能原因，一是語(yǔ)料數(shù)據(jù)的問(wèn)題，ChatGPT 的訓(xùn)練數(shù)據(jù)絕大部分是英文，其他如中文、阿拉伯文的數(shù)據(jù)相對(duì)占比較少，且英文數(shù)據(jù)質(zhì)量也更高；二是語(yǔ)言結(jié)構(gòu)和語(yǔ)法規(guī)則的差異，英文的語(yǔ)法與中文、阿拉伯文有著明顯差異，從主要為英文的語(yǔ)料學(xué)習(xí)到的語(yǔ)法結(jié)構(gòu)不一定能很好地適配其他語(yǔ)言。對(duì)于這種問(wèn)題解決方案，一種方法是增加其他語(yǔ)料的數(shù)據(jù)并提高語(yǔ)料質(zhì)量。但在當(dāng)前的互聯(lián)網(wǎng)條件下，不同語(yǔ)言的數(shù)據(jù)無(wú)法做到相似量級(jí)。另一種方法是向模型加入語(yǔ)言知識(shí)，這種方法不僅可以減輕語(yǔ)料數(shù)據(jù)不足的問(wèn)題，還可以解決語(yǔ)言結(jié)構(gòu)和規(guī)則差異性問(wèn)題。特斯聯(lián)在訓(xùn)練中、英、阿拉伯文多語(yǔ)言大模型時(shí)，增加了阿拉伯語(yǔ)言知識(shí)結(jié)構(gòu)信息，可以顯著提高對(duì)阿拉伯文的性能，能更好適用中東市場(chǎng)需求。

商業(yè)化場(chǎng)景

Q5.ChatGPT已經(jīng)開(kāi)始在商業(yè)領(lǐng)域進(jìn)行應(yīng)用，比如智能客服、自然語(yǔ)言生成、推薦系統(tǒng)等，您認(rèn)為ChatGPT有哪些商業(yè)潛力？

邵：根據(jù)《Generative AI：A Creative New World》的分析，AIGC有潛力產(chǎn)生數(shù)萬(wàn)億美元的經(jīng)濟(jì)價(jià)值。初步估計(jì)，到2025年人工智能生成數(shù)據(jù)占比將達(dá)到10%。隨著ChatGPT帶來(lái)的突破，不少企業(yè)紛紛宣布在機(jī)器人、智能語(yǔ)音/視覺(jué)、AIGC智能寫(xiě)作等領(lǐng)域加快研發(fā)，新一輪基于內(nèi)容生產(chǎn)的人工智能應(yīng)用，有望不斷落地，拓展泛AI技術(shù)在現(xiàn)實(shí)生活中的應(yīng)用范圍。

ChatGPT在搜索、讀寫(xiě)、智能客服、教育培訓(xùn)、咨詢(xún)服務(wù)等領(lǐng)域可以被廣泛應(yīng)用，并帶來(lái)顯著性變革。如在搜索引擎領(lǐng)域，通過(guò)技術(shù)融合優(yōu)化現(xiàn)有搜索模式，提供更準(zhǔn)確信息。目前微軟、谷歌、百度等搜索引擎頭部企業(yè)相繼計(jì)劃推出相關(guān)產(chǎn)品。微軟已經(jīng)推出了內(nèi)測(cè)版的ChatGPT版Bing，實(shí)時(shí)搜索功能彌補(bǔ)了ChatGPT在原有數(shù)據(jù)庫(kù)中的語(yǔ)料缺失，同時(shí)展示信息來(lái)源，并附上圖標(biāo)和視頻，相比于文字版的ChatGPT的交互，也更為生動(dòng)。在教育、醫(yī)療、廣告營(yíng)銷(xiāo)、電子商務(wù)等專(zhuān)業(yè)服務(wù)領(lǐng)域，ChatGPT能夠提供內(nèi)容服務(wù)，甚至替代部分初級(jí)的專(zhuān)業(yè)工作；與智能網(wǎng)聯(lián)汽車(chē)、智能音箱、智能電視等新智能載體結(jié)合，滿(mǎn)足受眾的內(nèi)容需求。

商業(yè)潛力

Q6.對(duì)于ChatGPT和類(lèi)似產(chǎn)品的商業(yè)化，您認(rèn)為目前存在哪些挑戰(zhàn)？

邵：ChatGPT迅速滲透到各種服務(wù)場(chǎng)景，成為多個(gè)行業(yè)和領(lǐng)域中的重要工具，誕生了各種顛覆性的應(yīng)用。但與此同時(shí)，目前技術(shù)尚處于早期階段，仍有許多問(wèn)題需要解決。

首先是研發(fā)及使用成本極其昂貴。數(shù)據(jù)顯示，OpenAI訓(xùn)練GPT-3使用了40多TB的數(shù)據(jù)、近1萬(wàn)億個(gè)單詞，大約相當(dāng)于1351萬(wàn)本牛津詞典。在GPT-3.5基礎(chǔ)上訓(xùn)練出的ChatGPT總費(fèi)用超千萬(wàn)美元。運(yùn)行成本同樣可觀，ChatGPT在線服務(wù)需要消耗大量的算力，平均一次對(duì)話就需要幾十美分的運(yùn)營(yíng)成本。

其次是如何形成新的商業(yè)模式，目前仍有較大的不確定性。在美國(guó)，目前絕大多數(shù)用戶(hù)為“寫(xiě)論文或作業(yè)”的學(xué)生或文字工作者，而其他用戶(hù)更多為嘗鮮使用。ChatGPT現(xiàn)在能扮演的角色還是在一些“錦上添花”的領(lǐng)域，在需要決策性的領(lǐng)域還是遠(yuǎn)遠(yuǎn)不夠。

此外，ChatGPT本身還有很大的局限性，目前提供的結(jié)果是不可信任的，它當(dāng)前出色的效果給人產(chǎn)生了誤導(dǎo)。OpenAI的首席執(zhí)行官Sam Altman此前也曾表示，“現(xiàn)在依賴(lài)它來(lái)做任何事情都是錯(cuò)誤的，我們?cè)诜€(wěn)健性和準(zhǔn)確性上還有很多工作要做，”我們?cè)谑褂肅hatGPT時(shí)，有時(shí)會(huì)覺(jué)得它在一本正經(jīng)地“胡說(shuō)八道”。在很多場(chǎng)景，這種錯(cuò)誤帶來(lái)的損失是無(wú)法估量的。

最后是法律和道德問(wèn)題。人工智能技術(shù)在虛假信息、學(xué)術(shù)剽竊、泄露隱私、輿論導(dǎo)向等方面的社會(huì)性風(fēng)險(xiǎn)，會(huì)因?yàn)槭褂玫凝嫶髷?shù)據(jù)規(guī)模被進(jìn)一步放大。OpenAI雖然對(duì)ChatGPT的回答做了很多道德倫理方面的約束，但仍舊無(wú)法避免惡意的誘導(dǎo)性提問(wèn)，可能導(dǎo)致一些偏離道德倫理的答案。

Q7.在這場(chǎng)AIGC浪潮中，哪些企業(yè)會(huì)成為備受推崇的翹楚？

邵：目前“超大規(guī)模預(yù)訓(xùn)練模型”是實(shí)現(xiàn)AIGC的常規(guī)路徑，ChatGPT是其中的一種語(yǔ)言大模型。算法、算力和數(shù)據(jù)是人工智能發(fā)展的三個(gè)要素，也是推動(dòng)人工智能發(fā)展的重要基礎(chǔ)。算法層面，超大規(guī)模預(yù)訓(xùn)練模型推動(dòng)AI效果不斷提升。當(dāng)前，預(yù)訓(xùn)練模型參數(shù)數(shù)量和訓(xùn)練數(shù)據(jù)每年都快速增長(zhǎng)，繼續(xù)通過(guò)增大模型和增加訓(xùn)練數(shù)據(jù)仍是短期內(nèi)提升效果的主要發(fā)展方向。模型技術(shù)的研發(fā)需要專(zhuān)業(yè)的技術(shù)人員和工程師的支持。算力層面，訓(xùn)練一次超大規(guī)模模型需要花費(fèi)上千張英偉達(dá)A100 GPU計(jì)算數(shù)周的時(shí)間，訓(xùn)練一次的費(fèi)用高達(dá)數(shù)百至上千萬(wàn)美元。數(shù)據(jù)層面，以深度學(xué)習(xí)為代表的人工智能技術(shù)需要大量的數(shù)據(jù)，如ChatGPT的訓(xùn)練使用了40多T的文本數(shù)據(jù)，后續(xù)還需要人工交互標(biāo)注，如此多的數(shù)據(jù)量需要耗費(fèi)大量的人力和資金。

因此，想要在預(yù)訓(xùn)練大模型方向上有所發(fā)展，需要專(zhuān)業(yè)人才以及大量的資金支持。學(xué)術(shù)界因?yàn)樗懔蛿?shù)據(jù)規(guī)模限制，很難大規(guī)模地開(kāi)展。產(chǎn)業(yè)界因?yàn)榫薮蟮耐度胗绊戇\(yùn)營(yíng)成本，一般的公司難以大規(guī)模投入資金。這是一種靠大量的算力、數(shù)據(jù)來(lái)堆砌的技術(shù)，有決心、有能力做這個(gè)方向研發(fā)的公司在全世界還是少數(shù)。預(yù)訓(xùn)練大模型是需要有提前規(guī)劃、持續(xù)投入和明確目標(biāo)來(lái)支持的，不是靠臨時(shí)起意就能快速上馬落地的。只有那些有準(zhǔn)備，有戰(zhàn)略的公司才能最終取得成功。

特斯聯(lián)集團(tuán)很早就意識(shí)到“預(yù)訓(xùn)練大模型”在AI行業(yè)中的發(fā)展趨勢(shì)，2022年初開(kāi)始布局推動(dòng)該技術(shù)方向研發(fā)，目前已經(jīng)在模型技術(shù)和數(shù)據(jù)方向有了一定積累，即將推出面向AIoT行業(yè)的多模態(tài)預(yù)訓(xùn)練大模型。

面向未來(lái)

Q8.OpenAI公司創(chuàng)始人阿爾特曼說(shuō)過(guò)“通用人工智能是人類(lèi)生存必不可少的。我們面臨的問(wèn)題極其嚴(yán)峻，如果沒(méi)有更好的工具將無(wú)法解決?！蓖ㄓ萌斯ぶ悄苣転槿祟?lèi)生存帶來(lái)哪些方向的助力？

邵：通用人工智能（AGI, Artificial General Intelligence）是指具備一般人類(lèi)智慧，可以執(zhí)行人類(lèi)能夠執(zhí)行的任何智力任務(wù)的機(jī)器智能，通常又被稱(chēng)為強(qiáng)人工智能。通用人工智能不同于一般的常規(guī)算法，它能夠自我提問(wèn)、自我尋找答案，根據(jù)設(shè)定的目標(biāo)制定最終的解決方案，并模擬各種假設(shè)的可能實(shí)現(xiàn)方式，最后做出最有利的決策。

通用人工智能給人類(lèi)帶來(lái)潛在價(jià)值是無(wú)法估量的，可以解決世界上無(wú)數(shù)的問(wèn)題。例如：在健康醫(yī)療領(lǐng)域，人們希望獲得治療某種疾病的方案。向AGI設(shè)定目標(biāo)后，AGI自己連接到互聯(lián)網(wǎng)，搜索所有與這種疾病相關(guān)的當(dāng)前研究資料。AGI根據(jù)資料信息制定解決方案，然后模擬所有可能的潛在結(jié)果。它能夠把人類(lèi)的意識(shí)和網(wǎng)絡(luò)上的無(wú)限知識(shí)結(jié)合起來(lái)，其擁有強(qiáng)大的學(xué)習(xí)能力能有意識(shí)地分析大數(shù)據(jù)，并模擬不同的條件和結(jié)果，最終輸出一套綜合了當(dāng)前所有人類(lèi)知識(shí)的最先進(jìn)的治療方案。AGI的這種能力同樣可用于教育、科研、工業(yè)等領(lǐng)域，為人類(lèi)提供無(wú)限的價(jià)值。不得不說(shuō)，目前的ChatGPT離真正意義上的通用人工智能還非常遙遠(yuǎn)。