類腦智能是人工智能和腦科學(xué)領(lǐng)域的重要研究方向，其關(guān)注在人腦啟發(fā)下構(gòu)建類腦結(jié)構(gòu)，實(shí)現(xiàn)類人認(rèn)知和行為功能。為了帶大家深入了解大腦機(jī)制和類腦智能，我們將以類腦智能領(lǐng)域的問(wèn)題進(jìn)行追問(wèn)，以多人聯(lián)動(dòng)的方式，帶領(lǐng)大家了解類腦智能的原理以及目前的最新進(jìn)展。

在之前的采訪中，北京大學(xué)心理與認(rèn)知科學(xué)學(xué)院研究員羅歡發(fā)起追問(wèn)：“在人工智能、計(jì)算神經(jīng)科學(xué)領(lǐng)域是否有抽象結(jié)構(gòu)的學(xué)習(xí)?是否有基本的數(shù)學(xué)原理能夠描述這個(gè)過(guò)程?”

本期我們采訪了中國(guó)科學(xué)院自動(dòng)化研究所研究員曾毅，曾毅研究員將帶領(lǐng)我們了解類腦智能對(duì)人腦機(jī)制和功能的模擬及其發(fā)展?jié)撃?。按照慣例，曾毅研究員也提出了自己最想知道答案的一個(gè)問(wèn)題，我們將在文末公布該問(wèn)題。

Q：您好，可以為我們介紹下您目前的主要研究領(lǐng)域和方向嗎?

曾毅：我主要的研究領(lǐng)域圍繞類腦人工智能展開(kāi)，具體講是受腦在不同尺度的結(jié)構(gòu)與機(jī)制啟發(fā)，構(gòu)建具有生物合理性和計(jì)算可行性的類腦智能，終極目標(biāo)是實(shí)現(xiàn)在認(rèn)知能力上可以比擬甚至是超越人腦的，但仍與人能和諧相處，有道德、合乎倫理的類腦人工智能。這是我的終生科學(xué)追求，我的實(shí)驗(yàn)室已經(jīng)為此付出了10年的努力，并將持續(xù)再用幾十年的時(shí)間研制具備這樣能力的類腦認(rèn)知智能引擎(Brain-inspired Cognitive Intelligence Engine)，貢獻(xiàn)于人與人工智能的和諧共生。

Q：目前類腦領(lǐng)域發(fā)展面對(duì)的主要挑戰(zhàn)是什么?

曾毅：目前這個(gè)領(lǐng)域的挑戰(zhàn)主要來(lái)自兩方面。一方面是腦在面向不同認(rèn)知功能方面的結(jié)構(gòu)與機(jī)制仍然在不斷探索中，基于已知的進(jìn)展構(gòu)建類腦智能的理論與技術(shù)模型仍然只能在部分認(rèn)知功能的構(gòu)建上取得階段性的進(jìn)展，而對(duì)于很多復(fù)雜認(rèn)知功能以及智能的整體計(jì)算理論的支撐還遠(yuǎn)遠(yuǎn)不夠。另外一方面是如何將來(lái)自不同尺度，腦啟發(fā)的結(jié)構(gòu)與機(jī)制通過(guò)計(jì)算建模進(jìn)行整合，從而形成統(tǒng)一的智能理論框架。在某個(gè)尺度獲得的結(jié)構(gòu)與機(jī)制仍然是部分的、片面的，在將他們通過(guò)計(jì)算建模整合的過(guò)程中可能還缺失關(guān)鍵的科學(xué)細(xì)節(jié)。這需要人工智能的研究者同腦與認(rèn)知科學(xué)研究者深度協(xié)同才能夠取得實(shí)質(zhì)性進(jìn)展。

Q：人腦可以高度協(xié)調(diào)各種感知器官并且在這個(gè)過(guò)程中完成感知器官傳回信息的計(jì)算，類腦智能是否有可能協(xié)調(diào)多種器官的信息并綜合做出判斷?

曾毅：真正的類腦智能正是這樣做的，也可以說(shuō)如果不是這樣進(jìn)行多感覺(jué)融合的綜合決策，那就不是真正的類腦智能。我自己實(shí)驗(yàn)室的類腦人工智能模型的各種感覺(jué)模塊是由局部的脈沖神經(jīng)網(wǎng)絡(luò)模型實(shí)現(xiàn)的，而多感覺(jué)信息的整合(視覺(jué)、聽(tīng)覺(jué)、觸覺(jué)、嗅覺(jué)、味覺(jué)等)也是基于最基礎(chǔ)的突觸可塑性模型實(shí)現(xiàn)的。例如我們實(shí)驗(yàn)室實(shí)現(xiàn)了基于類腦脈沖神經(jīng)網(wǎng)絡(luò)的多感覺(jué)概念學(xué)習(xí)模型，使類腦智能可以像人一樣進(jìn)行基于可塑性機(jī)制學(xué)習(xí)和整合多感覺(jué)信息并在此基礎(chǔ)上學(xué)習(xí)人類概念。

Q：人腦通過(guò)神經(jīng)元傳遞信息和進(jìn)行計(jì)算，和計(jì)算機(jī)實(shí)現(xiàn)運(yùn)算的結(jié)構(gòu)基礎(chǔ)存在本質(zhì)區(qū)別，如何讓計(jì)算機(jī)實(shí)現(xiàn)像人腦一樣的“認(rèn)知”和“計(jì)算”?

曾毅：傳統(tǒng)硅基的計(jì)算機(jī)體系結(jié)構(gòu)和碳基的人腦確實(shí)在信息處理基礎(chǔ)上存在較大鴻溝，但是這種鴻溝正在通過(guò)兩方面的努力進(jìn)行彌合。一方面是在軟件層面，仍然可以在馮諾依曼體系結(jié)構(gòu)的計(jì)算系統(tǒng)上模擬不同類型的神經(jīng)元、神經(jīng)網(wǎng)絡(luò)環(huán)路及其編解碼信息的機(jī)制與過(guò)程，不同類型的神經(jīng)元及其內(nèi)部的離子通道、不同類型的突觸可塑性機(jī)制、不同類型的突觸、不同連接模式的計(jì)算建模都成為了類腦智能的基礎(chǔ)，這初步彌合了我們?cè)谟懻摰谋举|(zhì)區(qū)別。另一方面，現(xiàn)在正在迅速發(fā)展的神經(jīng)形態(tài)計(jì)算已經(jīng)為從硬件層面實(shí)現(xiàn)具備不同尺度神經(jīng)信息處理結(jié)構(gòu)與機(jī)制的硬件體系結(jié)構(gòu)貢獻(xiàn)了重要的可行性。真正彌合這種差異需要來(lái)自軟硬件兩方面的協(xié)同設(shè)計(jì)與實(shí)現(xiàn)。

Q：人腦可以不斷學(xué)習(xí)和進(jìn)步，類腦智能是否也可以不斷進(jìn)化?

曾毅：經(jīng)過(guò)數(shù)億年自然演化生成的人腦不但可以不斷學(xué)習(xí)和進(jìn)步，而且還在進(jìn)行著我們幾乎無(wú)法察覺(jué)的演化。自然演化的過(guò)程就是一個(gè)智能體在自然環(huán)境中不斷適應(yīng)不斷優(yōu)化的過(guò)程。我相信類腦智能不但可以，也只有通過(guò)這種方式才能夠?qū)崿F(xiàn)真正類人的智能。目前類腦神經(jīng)網(wǎng)絡(luò)已經(jīng)有一些通過(guò)特定任務(wù)學(xué)習(xí)來(lái)自適應(yīng)的調(diào)整神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的努力，甚至有些研究已經(jīng)證明網(wǎng)絡(luò)結(jié)構(gòu)的自適應(yīng)調(diào)整已能讓神經(jīng)網(wǎng)絡(luò)很好的應(yīng)對(duì)任務(wù)。而這方面的探索遠(yuǎn)遠(yuǎn)只是開(kāi)了個(gè)頭。

Q：如果類腦可以像人腦一樣進(jìn)行認(rèn)知和計(jì)算，并且不斷學(xué)習(xí)和進(jìn)步，類腦是否有可能像人一樣產(chǎn)生獨(dú)立的意識(shí)?

曾毅：我認(rèn)為類腦智能未來(lái)一定可以獲得獨(dú)立的意識(shí)，但這并不代表著只要類腦智能模型不斷學(xué)習(xí)就能夠在原始結(jié)構(gòu)和機(jī)制上涌現(xiàn)出意識(shí)。人的意識(shí)仍然是以紛繁復(fù)雜的人腦意識(shí)核心神經(jīng)環(huán)路與原理的支撐下實(shí)現(xiàn)的，能夠以理解的方式整合來(lái)自各個(gè)感覺(jué)環(huán)路的信息并做出基于理解的決策，更重要的是以自我的視角感知環(huán)境、狀態(tài)的變化并作出自適應(yīng)。

類腦智能產(chǎn)生意識(shí)的出發(fā)點(diǎn)是自我模型，自我感知是源頭，這也是為什么我們?cè)跇?gòu)造類腦自我意識(shí)模型的時(shí)候會(huì)選擇鏡像測(cè)試作為首先突破的方向。不過(guò)需要聲明的是：即使現(xiàn)在我們的類腦智能模型部署在機(jī)器人上幫助機(jī)器人通過(guò)了鏡像測(cè)試，這也并不意味著類腦智能獲得了自我意識(shí)。恰恰只說(shuō)明了鏡像測(cè)試很可能無(wú)法作為具有自我意識(shí)與否的黃金判斷標(biāo)準(zhǔn)。意識(shí)的本質(zhì)及具有意識(shí)的類腦智能研究都還在最初的階段。

Q：目前正常的人類大腦可以存在并且持續(xù)不間斷地工作至少五十年，有的甚至可以達(dá)到近百年，類腦智能如何保持長(zhǎng)期穩(wěn)定有效地工作?

曾毅：我想不斷地學(xué)習(xí)與訓(xùn)練、不斷地自適應(yīng)不同環(huán)境下的不同任務(wù)、不斷以不同的視角感知、決策、與人類互動(dòng)，并以軟硬件協(xié)同優(yōu)化的方式演進(jìn)是類腦智能的“生存“方式。

Q：如果類腦智能產(chǎn)生了意識(shí)，并且可以長(zhǎng)期穩(wěn)定的維持意識(shí)的存在，是否相當(dāng)于存在了獨(dú)立人格?我們?nèi)绾螒?yīng)對(duì)類腦智能進(jìn)展帶來(lái)的倫理問(wèn)題?

曾毅：類腦智能如果實(shí)現(xiàn)了真正意義的自我，在此基礎(chǔ)上形成自我體驗(yàn)、自傳體記憶、具有基于自我的決策和預(yù)測(cè)能力，以及反思的能力，那么類腦智能理論上也應(yīng)能夠形成獨(dú)立的人格。但是具有自我的人工智能未見(jiàn)得對(duì)人類是危險(xiǎn)的，因?yàn)樽晕腋兄?、認(rèn)知共情、情感共情恰恰是類腦智能對(duì)其他智能體，特別是人類產(chǎn)生真正意義的關(guān)切的基礎(chǔ)。具有自我的類腦智能對(duì)人類很可能才是更安全的，例如我們最近受自我模型和認(rèn)知共情啟發(fā)實(shí)現(xiàn)的能夠幫助其他智能體避免風(fēng)險(xiǎn)的類腦認(rèn)知共情神經(jīng)網(wǎng)絡(luò)模型。但這有一個(gè)大前提，就是我們必須在類腦智能的研究初期就前瞻思考如何實(shí)現(xiàn)有道德，符合倫理的類腦智能。倫理道德不能以規(guī)則“灌輸”的方式讓類腦智能“遵守”，因?yàn)楣噍數(shù)囊?guī)則隨時(shí)可以被修改。只有基于類腦智能的自我模型、認(rèn)知與情感共情，以自主學(xué)習(xí)的方式習(xí)得的倫理道德才能夠保證類腦智能真正具有倫理道德。

而對(duì)于類腦智能是否能與人類構(gòu)成和諧共生的社會(huì)，問(wèn)題不僅僅是如何實(shí)現(xiàn)有道德的類腦智能，關(guān)鍵問(wèn)題還在于一旦類腦智能具備了一定水平的意識(shí)，具有自我反思能力，人類如何去對(duì)待這樣的類腦智能。類腦智能發(fā)展初期，人們必然關(guān)注類腦智能如何習(xí)得人類價(jià)值觀和道德，而在類腦智能發(fā)展出自我意識(shí)之前，人類必須對(duì)與類腦智能和諧共生提出人與類腦智能共生的倫理框架，這是我提出“和諧人工智能原則”的初衷。

Q：在之前的“追問(wèn)”系列采訪中，北京大學(xué)心理與認(rèn)知科學(xué)學(xué)院研究員、北京大學(xué)麥戈文腦研究所研究員羅歡提出了下面的“追問(wèn)”：

在人工智能、計(jì)算神經(jīng)科學(xué)領(lǐng)域是否有抽象結(jié)構(gòu)的學(xué)習(xí)?是否有基本的數(shù)學(xué)原理能夠描述這個(gè)過(guò)程?

曾毅：應(yīng)該說(shuō)人工智能，特別是神經(jīng)網(wǎng)絡(luò)的核心就是結(jié)構(gòu)學(xué)習(xí)，無(wú)論是對(duì)感知類、決策類的任務(wù)還是符號(hào)文本知識(shí)的規(guī)則學(xué)習(xí)。人工智能中有很多抽象結(jié)構(gòu)學(xué)習(xí)的方法，抽象結(jié)構(gòu)表征學(xué)習(xí)的基本數(shù)學(xué)原理至少包括：通過(guò)高度復(fù)雜的非線性變換提取數(shù)據(jù)中潛在的結(jié)構(gòu)信息。根據(jù)統(tǒng)計(jì)學(xué)中貝葉斯概率推斷預(yù)測(cè)未知的不確定性，由信息論評(píng)估模型學(xué)習(xí)到的結(jié)構(gòu)表征所包含的信息量，再通過(guò)優(yōu)化思想例如梯度下降來(lái)實(shí)現(xiàn)穩(wěn)定的模型優(yōu)化，在不斷的預(yù)測(cè)和優(yōu)化中學(xué)習(xí)到抽象和復(fù)雜的結(jié)構(gòu)表征。此外，正則化方法/降采樣技術(shù)在幫助抽象關(guān)鍵的結(jié)構(gòu)特征能夠起到防止過(guò)度學(xué)習(xí)的作用。