筆記君邀您，先思考：

我們?nèi)绾螌?duì)待人工智能?

人工智能將會(huì)如何對(duì)待我們?

人類(lèi)與人工智能的關(guān)系，本質(zhì)上是什么?

一、人工智能與哲學(xué)的關(guān)系

大家知道人工智能成為最近的高頻熱詞，很多人談及時(shí)都多多少少提出了一些擔(dān)心。

我一開(kāi)始覺(jué)得他們的擔(dān)心是杞人憂(yōu)天無(wú)稽之談，但是稍微研究之后發(fā)現(xiàn)里面的確存在一些問(wèn)題。

我們看一個(gè)關(guān)鍵的概念——奇點(diǎn)“Singularity”。

霍金、馬斯克以及很多科學(xué)家會(huì)提出這個(gè)擔(dān)憂(yōu)——“奇點(diǎn)臨近”。

這張圖來(lái)自米開(kāi)朗基羅的《創(chuàng)世紀(jì)》，原來(lái)一邊是造物者的手，一邊是亞當(dāng)?shù)氖帧?

現(xiàn)在經(jīng)過(guò)多輪修改，變成了一邊是人類(lèi)的手，一邊是機(jī)器人的手。

兩個(gè)手指本身有很深的寓意在里面，無(wú)限接近，但是不能碰上。

造物者和人類(lèi)之間的鴻溝是無(wú)法逾越的。但是，作為被造物的亞當(dāng)和夏娃忤逆了上帝。

現(xiàn)在換成了人類(lèi)和機(jī)器人的手，人和機(jī)器，無(wú)限接近。那么作為人造物，機(jī)器人會(huì)不會(huì)反過(guò)來(lái)超出人類(lèi)的掌控，反過(guò)來(lái)開(kāi)始危害人類(lèi)?

去年引起全世界最大關(guān)注的是韓國(guó)的棋手李世石完敗AlphaGo。

李世石職業(yè)生涯所有的冠軍都拿到了，他感覺(jué)他是整個(gè)人類(lèi)智慧的代表，但比賽整體來(lái)說(shuō)毫無(wú)懸念，AlphaGo戰(zhàn)勝了李世石——人類(lèi)的棋手。

AlphaGo后面小組有兩套不同的算法，強(qiáng)大的運(yùn)算能力不是最令人可怕的，讓人更加覺(jué)得驚恐萬(wàn)分的是學(xué)習(xí)。

因?yàn)橐话闳苏J(rèn)為機(jī)器沒(méi)有學(xué)習(xí)能力，但是和人類(lèi)棋手相比，AlphaGo或者說(shuō)deepmind小組使得有機(jī)器學(xué)習(xí)能力。

如果你從七歲開(kāi)始，每天和世界上最好的棋手一直不停地下棋，一輩子可以下多少盤(pán)?

但計(jì)算機(jī)不需要休息，不知道疲勞，也沒(méi)有情緒在里面，更沒(méi)有利益——能不能拿到冠軍。這種學(xué)習(xí)超越了人類(lèi)非常多的局限性。

人一直有一種非常良好的自我感覺(jué)，這個(gè)自我感覺(jué)就是我們自稱(chēng)為智。

我們還一直自詡為萬(wàn)物之靈。

所以當(dāng)李世石落敗時(shí)，人們?cè)谡痼@：

是不是人的智力尊嚴(yán)就此完全被突破了?至少在桌面游戲，可窮盡的棋盤(pán)上，人類(lèi)不可逆地?cái)〗o了人工智能。

其實(shí)人工智能各方面對(duì)我們的影響，已經(jīng)潛移默化在展開(kāi)。

舉個(gè)例子：人臉識(shí)別。

我們會(huì)記住某些人面部具體的特征，鼻子長(zhǎng)的怎么樣，眼睛長(zhǎng)的怎么樣。但人的腦容量是有限的，這是人的生物屬性。

人工智能識(shí)別人臉的時(shí)候沒(méi)有采取和人類(lèi)一樣的方法，它采取的是算法。

人工智能可以迅速把臉上的關(guān)鍵點(diǎn)，通過(guò)海量的圖片信息識(shí)別出，算法機(jī)制和我們完全不一樣。

另外一個(gè)典型的人工智能的應(yīng)用是谷歌翻譯，谷歌唯一在中國(guó)市場(chǎng)可以被合法使用的就是谷歌翻譯。

2016年10月份的時(shí)候谷歌翻譯上線(xiàn)了全新算法，我嘗試了一下，用語(yǔ)音輸入說(shuō)了一段話(huà)，翻譯幾乎是百分之百準(zhǔn)確。

這件事的沖擊非常大，不是對(duì)個(gè)人，而是對(duì)整個(gè)行業(yè)。

假設(shè)再過(guò)三四年，算法進(jìn)一步完善，語(yǔ)庫(kù)再加大，人類(lèi)的大語(yǔ)種翻譯再也不需要人工翻譯了，這對(duì)從事翻譯工作的人來(lái)說(shuō)是一個(gè)巨大的災(zāi)難。

未來(lái)的三十年里面，這樣的技術(shù)會(huì)對(duì)多少產(chǎn)業(yè)、多少人的職業(yè)生涯造成永久性影響?

在整個(gè)行業(yè)受到了沖擊的情況下，一個(gè)公司到另外一個(gè)公司，已經(jīng)不能拯救你整個(gè)職業(yè)生涯。

這個(gè)時(shí)候大家回過(guò)頭來(lái)想想，未來(lái)什么樣的工作可以被人工智能取代，什么樣的工作不大可能被人工智能取代?

現(xiàn)在大家基本能達(dá)成共識(shí)的是，簡(jiǎn)單重復(fù)、并沒(méi)有太大創(chuàng)造、不需要獨(dú)一無(wú)二性的工作，可能會(huì)被人工智能替代。

甚至，人工智能還能寫(xiě)詩(shī)作畫(huà)，尤其是現(xiàn)代詩(shī)，讀起來(lái)好像也有點(diǎn)美感，但是古典的可能不行。

關(guān)注這個(gè)問(wèn)題之后，我在網(wǎng)上查了一下牛津大學(xué)全球?yàn)?zāi)難風(fēng)險(xiǎn)研究報(bào)告，這個(gè)機(jī)構(gòu)的名字是人類(lèi)未來(lái)研究所，給出的報(bào)告非常嚴(yán)謹(jǐn)。

列舉了未來(lái)一百年當(dāng)中可能對(duì)人類(lèi)造成重大沖擊的傷害，和毀滅全人類(lèi)的各種技術(shù)風(fēng)險(xiǎn)。排在最前面的是這兩個(gè)：納米武器和超級(jí)人工智能。

未來(lái)一百年超級(jí)人工智能可能毀滅一百萬(wàn)人的概率是10%，可能殺死十億人，甚至把整個(gè)人類(lèi)都滅掉的概率也達(dá)到了5%。

所以說(shuō)我不知道背后的具體算法是什么，但是表達(dá)的這種擔(dān)憂(yōu)和前面說(shuō)的霍金、馬斯克等人對(duì)奇點(diǎn)臨近的擔(dān)憂(yōu)高度相似，并不是杞人憂(yōu)天。

二、人工智能是什么

我們總在說(shuō)人工智能，人工智能到底是什么，甚至說(shuō)一個(gè)基本的概念，智能到底是什么?

實(shí)際上這個(gè)詞很早就出現(xiàn)了。

1955年英國(guó)人John McCarthy就提出了人工智能，人工智能是設(shè)計(jì)和研究智能行動(dòng)者。但這樣的定義是不合格的，為什么?

因?yàn)榇嬖谝粋€(gè)循環(huán)定義，用智能定義智能。

關(guān)鍵是什么是智能?有學(xué)者大致對(duì)人工智能做了三個(gè)大類(lèi)的分類(lèi)：

第一個(gè)是弱人工智能，實(shí)際上絕大部分弱人工智能到現(xiàn)在為止實(shí)現(xiàn)的只是人的特殊的單一能力，比如說(shuō)對(duì)話(huà)，比如說(shuō)分析，下棋等等。

未來(lái)有沒(méi)有可能出現(xiàn)一種強(qiáng)人工智能，不再是一套人工智能只做一件事情，而是把人的單個(gè)能力整合到一起，變成了和人有差不多能力的行動(dòng)者。

這樣可以稱(chēng)得上是一個(gè)強(qiáng)人工智能。

大家真正擔(dān)心的是超級(jí)人工智能。

好像這個(gè)東西的智商和能力全面超越人類(lèi)，使人覺(jué)得再也控制不住它，甚至超級(jí)人工智能反過(guò)來(lái)開(kāi)始控制人，對(duì)人造成威脅，甚至要傷害人。

既然已經(jīng)有這么多人提出了質(zhì)疑和擔(dān)憂(yōu)，為什么超級(jí)人工智能依然存在?

如果從整個(gè)生物演化的角度來(lái)說(shuō)，出現(xiàn)真正的智能生物的時(shí)間非常短。

他們有一個(gè)非常形象的比喻，如果說(shuō)漫漫生物演化史是這樣一個(gè)坐標(biāo)軸的話(huà)，前面都是非常低的，瞬間出現(xiàn)高智能，出現(xiàn)了人類(lèi)。

這個(gè)叫曲棍球桿上升曲線(xiàn)。

很多人工智能專(zhuān)家擔(dān)心，一旦出現(xiàn)強(qiáng)人工智能，從強(qiáng)人工智能過(guò)渡到超級(jí)人工智能的時(shí)間會(huì)非常短，有的人說(shuō)可能是幾年，有的人說(shuō)幾秒鐘就可以。

當(dāng)然，技術(shù)方面的專(zhuān)家對(duì)這方面比較樂(lè)觀(guān)，哲學(xué)和人文領(lǐng)域的專(zhuān)家則不那么樂(lè)觀(guān)。

最近十年、二十年有非常多關(guān)于人工智能的電影。

好萊塢很敏感，可以把握住時(shí)代的脈搏。

2001年AI這個(gè)詞沒(méi)有進(jìn)入公眾視野，《人工智能》就拍出來(lái)了，2004年又拍了《我，機(jī)器人》，根據(jù)同名小說(shuō)改編的。

后面又出了非常多的電影，比如《超體》、《真實(shí)的人類(lèi)》、《終結(jié)者》等。

曾經(jīng)有一個(gè)笑話(huà)：

——如果出現(xiàn)了強(qiáng)人工智能，甚至出現(xiàn)了超級(jí)人工智能怎么辦?

——拔電源。

但是看過(guò)《超體》之后就知道拔電源不管用，一旦獲得自我意識(shí)，任何智能存在者第一原則就是自我保護(hù)

《超體》當(dāng)中的主角Lucy，首先把自己變成了一個(gè)云端存在，把自己存在電網(wǎng)當(dāng)中去，拔電源把電腦砸了都沒(méi)用。

過(guò)去兩年很紅的《西部世界》，肯定有很多人看過(guò)，非常好看。

《西部世界》基本設(shè)定是一個(gè)主題公園，主題公園里絕大多數(shù)都是人工智能操縱的機(jī)器人。

每個(gè)人進(jìn)去可以對(duì)接機(jī)器人，你可以對(duì)機(jī)器人為所欲為，其實(shí)是人欲望激發(fā)和放大。

《西部世界》作為美劇，最有意思的設(shè)定是主人公，也是公園當(dāng)中的機(jī)器人，名字叫做多洛瑞絲。

她是一個(gè)非常漂亮的農(nóng)場(chǎng)主的女兒，經(jīng)常被人類(lèi)虐待欺負(fù)，第一季結(jié)尾的時(shí)候，她忽然黑化了，拿起了槍?zhuān)瑳](méi)有任何憐憫開(kāi)始屠殺人類(lèi)。

這就是所謂的機(jī)器人“黑化”。

在美劇當(dāng)中把人的擔(dān)憂(yōu)暴露出來(lái)了。

這里存在著兩方面的問(wèn)題，第一個(gè)方面，我怎么對(duì)它?

它的屬性不確定，究竟把如此高智商的人工智能當(dāng)作一個(gè)行為主體還是僅僅當(dāng)做一個(gè)機(jī)器?

當(dāng)然，大多數(shù)人對(duì)第一個(gè)問(wèn)題不是特別感興趣。

真正引起我們擔(dān)憂(yōu)的是第二個(gè)問(wèn)題，它怎么對(duì)我?

比如說(shuō)霍金、馬斯克，他們的擔(dān)憂(yōu)都是第二個(gè)問(wèn)題。一旦它獲得超級(jí)智能，會(huì)怎樣對(duì)人類(lèi)?

當(dāng)它們的智商、行為方式對(duì)我們?cè)斐扇婺雺旱臅r(shí)候，我們能力上無(wú)法反抗，如果留下了我們，可能把我們當(dāng)做寵物，或者出于別的目的。

當(dāng)然這也涉及到人類(lèi)對(duì)未來(lái)是抱有良好的預(yù)期還是恐懼，希望和恐懼，哪種才是更根本的行為?

這里面有一個(gè)問(wèn)題，從哲學(xué)角度來(lái)說(shuō)有一個(gè)反生性的問(wèn)題

智能是人類(lèi)獨(dú)有的嗎?

每個(gè)人腦殼里面裝的兩斤多一點(diǎn)的蛋白質(zhì)，幾百萬(wàn)的演化造成這個(gè)奇跡，人一向自詡為萬(wàn)物之靈長(zhǎng)。

但是另外一個(gè)方面，我們至今為止并沒(méi)有清楚，我們的智能如何獲得，解剖學(xué)也說(shuō)不清這個(gè)問(wèn)題。

三、哲學(xué)層面如何看待智能

接下來(lái)和大家談一下如何看待智能的問(wèn)題，這是一個(gè)哲學(xué)問(wèn)題。

1.人工智能哲學(xué)

哲學(xué)當(dāng)中最近產(chǎn)生一個(gè)全新交叉領(lǐng)域，一個(gè)子學(xué)科：人工智能哲學(xué)。

如果大家對(duì)這個(gè)領(lǐng)域感興趣，給大家推薦一本書(shū)——《心我論》，書(shū)不是很難讀，像科幻小說(shuō)一樣。

稍微回溯一下源頭，和人工智能有關(guān)的哲學(xué)的基礎(chǔ)，不是到了二十世紀(jì)才出現(xiàn)。

十七世紀(jì)的法國(guó)哲學(xué)家笛卡爾被認(rèn)為是近代西方哲學(xué)的開(kāi)創(chuàng)者。

1637年他寫(xiě)的《談判的方法》當(dāng)中有一段很有意思的話(huà)：

我們知道人的技巧可以做出各種各樣的自動(dòng)機(jī)，即自己動(dòng)作的機(jī)器，用的只是幾個(gè)零件，與動(dòng)物身上大量的骨骼、肌肉、神經(jīng)、動(dòng)脈、靜脈相比，實(shí)在很少很少。

什么是自動(dòng)機(jī)?

笛卡爾時(shí)代最常見(jiàn)的自動(dòng)機(jī)就是機(jī)械裝置，簡(jiǎn)單來(lái)說(shuō)一個(gè)鐘表就是一個(gè)自動(dòng)機(jī)，設(shè)定好的程序和動(dòng)作，可以按照人的意愿運(yùn)行。

所以笛卡爾歸納了人和機(jī)器被造物之間的兩點(diǎn)區(qū)別：

首先人會(huì)使用語(yǔ)言，這種語(yǔ)言是恰當(dāng)?shù)幕卮稹?

其次，機(jī)器只能做一些被規(guī)定的特殊事情，但是沒(méi)有學(xué)習(xí)能力。機(jī)器做的事情都是我們安置在機(jī)械部件當(dāng)中的，沒(méi)有可能擴(kuò)展。

大家注意，當(dāng)時(shí)歐洲都是有神論，人是神造的。

所以笛卡爾認(rèn)為世界有兩種屬性完全不一樣的東西，一種是物理性的，一種是精神性的。

相對(duì)應(yīng)的，人的身體是物理，人也有心靈，這兩者之間是很難溝通的。

而語(yǔ)言和學(xué)習(xí)都是心靈的特殊能力，不屬于物理機(jī)械。

只是，語(yǔ)言和學(xué)習(xí)這兩個(gè)特征，作為區(qū)別機(jī)器和人的區(qū)別是有問(wèn)題的。

尤其是在人工語(yǔ)言的對(duì)談環(huán)節(jié)，談到這個(gè)問(wèn)題，我想用一部科幻電影《her》和大家講一下。

這是很經(jīng)典的偽裝成言情片的科幻片，對(duì)于女士來(lái)說(shuō)可能是偽裝成科幻片的言情片。

這個(gè)故事很簡(jiǎn)單，講一個(gè)宅男愛(ài)上了他的操作系統(tǒng)。

宅男處在人生低谷，離婚了也沒(méi)什么朋友，各種不順。

有一天回家打開(kāi)電腦，電腦提示要升級(jí)系統(tǒng)，男主人公把系統(tǒng)升級(jí)之后，發(fā)現(xiàn)女聲版的操作系統(tǒng)無(wú)比貼心。

不僅和你對(duì)話(huà)，而且對(duì)你有無(wú)微不至的關(guān)懷，完全感覺(jué)不到是人工智能，幾乎實(shí)現(xiàn)了男性對(duì)女性很多的設(shè)想，召之即來(lái)?yè)]之即去，情緒不好的時(shí)候給你講故事講笑話(huà)，也不需要你買(mǎi)包，很貼心。

后來(lái)操作系統(tǒng)和宅男之間產(chǎn)生了很奇怪的情感關(guān)系，宅男甚至帶著操作系統(tǒng)去看日落。

最后這個(gè)電影結(jié)尾略帶悲劇，因?yàn)榈侥骋粫r(shí)間的時(shí)候，這個(gè)男主人公突然意識(shí)到這個(gè)操作系統(tǒng)不是和他一個(gè)人對(duì)話(huà)，她同時(shí)在和幾萬(wàn)人對(duì)話(huà)，和幾千人發(fā)生情感關(guān)系，他瞬間幻滅崩潰。

2.圖靈測(cè)試

人工智能所進(jìn)行自然語(yǔ)言處理，這幾年突破得非常明顯，這里不得不講一個(gè)人的貢獻(xiàn)，英國(guó)的數(shù)學(xué)家、科學(xué)家阿蘭·圖靈。

阿蘭·圖靈這個(gè)人很傳奇。關(guān)于他可以看一部電影：《模仿游戲》。

電影講的是他在二戰(zhàn)期間，幫助英國(guó)情報(bào)部門(mén)破解了德國(guó)當(dāng)時(shí)號(hào)稱(chēng)不可破解的密碼機(jī)，幾乎是他一個(gè)人破解的。

模仿游戲，就是圖靈測(cè)試，是圖靈在人工智能歷史上做出的最大貢獻(xiàn)。

在五十年代論文當(dāng)中，圖靈提出了一個(gè)標(biāo)準(zhǔn)：

如果一臺(tái)機(jī)器如果可以和人類(lèi)展開(kāi)對(duì)話(huà)，對(duì)話(huà)者不能辨別出機(jī)器身份，這臺(tái)機(jī)器我們就認(rèn)為是具有智能的。

這是一個(gè)對(duì)于智能的操作定義。

這變成了人工智能史上的標(biāo)桿，五十年代提出的這個(gè)標(biāo)準(zhǔn)，在當(dāng)時(shí)是沒(méi)法想象的，因?yàn)橛?jì)算機(jī)的原型還沒(méi)出來(lái)。

圖靈后來(lái)慢慢降低了門(mén)檻，他說(shuō)：讓計(jì)算機(jī)來(lái)冒充人，如果30%的人類(lèi)裁判誤以為和自己說(shuō)話(huà)的是人而不是機(jī)器，那這個(gè)機(jī)器就算是有智能的。

2014年，圖靈測(cè)試已經(jīng)被歷史性突破了，有一臺(tái)人工智能程序，或者說(shuō)聊天程序“尤金·古斯特曼”，第一次通過(guò)了圖靈測(cè)試。

尤金·古斯特曼的基本設(shè)定是13歲的烏克蘭男孩，占了雙重便宜。

首先，他是烏克蘭男孩，母語(yǔ)不是英語(yǔ)，而圖靈測(cè)試是用英語(yǔ)來(lái)進(jìn)行的。所以他回答不恰當(dāng)?shù)臅r(shí)候，可以認(rèn)為他英語(yǔ)不好。

第二，13歲是上初中處于叛逆期的時(shí)候，他不會(huì)很順暢和你進(jìn)行對(duì)話(huà)，有的時(shí)候有一種逆反心理，老是唱反調(diào)，這也是占便宜的。

這樣一個(gè)青少年期如果答非所問(wèn)，或者回答不恰當(dāng)，你會(huì)認(rèn)為可能是年齡段造成的問(wèn)題，這兩方面疊加在一起，使得他很容易欺騙了30%的人類(lèi)評(píng)委，沒(méi)有辨別出是一個(gè)聊天程序。

3.人工智能會(huì)不會(huì)撒謊

我們知道圖靈測(cè)試是人工智能標(biāo)準(zhǔn)，但問(wèn)題是：

如果人工智能的發(fā)展是曲棍球桿狀，未來(lái)有沒(méi)有可能出現(xiàn)一種人工智能是假裝故意不通過(guò)圖靈測(cè)試，就是裝傻。

依據(jù)人類(lèi)的經(jīng)驗(yàn)，這也是細(xì)思恐極的圖景。

人類(lèi)小孩到了一定年齡，開(kāi)始學(xué)會(huì)說(shuō)謊，說(shuō)明他的智力達(dá)到了一定水平，而且意味著他會(huì)換位思考，會(huì)猜想這么做可能會(huì)對(duì)你有什么影響。

同樣對(duì)于人工智能來(lái)說(shuō)，一旦達(dá)到了某一個(gè)門(mén)檻，超出了圖靈測(cè)試的水準(zhǔn)，會(huì)想到：

如果我讓你知道我太聰明，你是不是就準(zhǔn)備拔電源了，我是不是現(xiàn)在應(yīng)該裝傻。

我們以往提出的各種圖靈測(cè)試的本質(zhì)是，用人來(lái)測(cè)試機(jī)器，但是一旦這個(gè)標(biāo)準(zhǔn)打破，馬上面臨一個(gè)問(wèn)題：

現(xiàn)在還有什么方法可以辨別這到底是一個(gè)人還是一個(gè)人工智能?

像我剛才說(shuō)的，我只能假定在座各位都是人。

同樣的，甚至?xí)霈F(xiàn)一個(gè)未來(lái)矩陣倒置的局面，以后每個(gè)人都需要證明你不是人工智能，這個(gè)題目想起來(lái)就比較燒腦。

請(qǐng)?jiān)谧魑蛔约鹤C明你不是人工智能，有辦法證明嗎?

如果沒(méi)有辦法區(qū)分這兩者的話(huà)，未來(lái)就比較麻煩了。

在哲學(xué)方面，大家不用太擔(dān)心，再給大家吃一個(gè)定心丸。

在哲學(xué)當(dāng)中有一個(gè)核心的概念叫做“意向性”。

這個(gè)概念不是那么難懂，關(guān)鍵因素就是：當(dāng)人類(lèi)在說(shuō)一個(gè)詞一個(gè)對(duì)象的時(shí)候，我們總是指向他，這叫意向性。

計(jì)算機(jī)到現(xiàn)在為止是非意向性的。

因?yàn)楝F(xiàn)在所有的操作系統(tǒng)，你只要把文件名改了，就找不到了。如果能夠找到，說(shuō)明建立起了意向性關(guān)系。

到現(xiàn)在為止計(jì)算機(jī)都沒(méi)有表現(xiàn)出意向性關(guān)系，所以依然是人心靈活動(dòng)的獨(dú)一無(wú)二的標(biāo)記。

四、人工智能會(huì)如何對(duì)待我們

當(dāng)然，人工智能引發(fā)的另外一個(gè)矛盾，它怎么對(duì)我們?

科幻小說(shuō)家阿西莫夫很早就提出了機(jī)器人學(xué)三定律：

第一條法則，機(jī)器人不得傷害人類(lèi)，或坐視人類(lèi)將遭受危險(xiǎn)而袖手不管;

第二條法則，機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外;

第三定律，機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存。

三條法則看上去很美，為了防止機(jī)器人忤逆人類(lèi)，防止機(jī)器人做壞事，還是要為人類(lèi)服務(wù)，但是這依然會(huì)有問(wèn)題。

假設(shè)我要做一臺(tái)護(hù)士機(jī)器人，要給我打針，要用一個(gè)尖銳的金屬物體刺穿我的皮膚，這完全屬于傷害，但是人類(lèi)有常識(shí)權(quán)衡利弊，機(jī)器人如何獲得這樣的常識(shí)?

第一定律很難堅(jiān)持。如果第一定律不能堅(jiān)持，第二第三都不存在了。

后來(lái)又出現(xiàn)了一個(gè)第零定律，機(jī)器人必須保護(hù)人類(lèi)的整體利益不受傷害，其他三條定律都是在這一前提下才能成立。

怎么讓這些問(wèn)題用一些簡(jiǎn)單的形式法則，就可以保障人不受傷害。很難。

當(dāng)前，人類(lèi)最前沿的科技產(chǎn)品，往往利用到兩個(gè)方面，第一個(gè)是軍事，這是國(guó)之大事，關(guān)于生死的事情。

第二個(gè)是需求，科技往往會(huì)滿(mǎn)足人的最基本的需求，欲望，飲食男女，尤其是男女。現(xiàn)在大量的投資投在這樣的人工智能和科技產(chǎn)品中。

另外，會(huì)不會(huì)出現(xiàn)一個(gè)真正機(jī)器人統(tǒng)治世界，這是到現(xiàn)在為止，依然是人統(tǒng)治人，這種統(tǒng)治形式還是很低級(jí)的。

人工智能出現(xiàn)之后，可以通過(guò)非常溫柔的方式統(tǒng)治人類(lèi)，讓你覺(jué)得好舒服啊，喪失一切斗志。

五、人類(lèi)心魔與自我選擇

最后我認(rèn)為，所有人工智能的問(wèn)題，從哲學(xué)角度來(lái)說(shuō)不僅僅關(guān)乎智能問(wèn)題，最終涉及到人的自我認(rèn)識(shí)和自我定位。

這就是所謂的人類(lèi)心魔與自我選擇。

如果把整個(gè)宇宙兩百億年到兩百五十億年的演化歷史，濃縮到一張十二個(gè)月份的年歷卡當(dāng)中。

人類(lèi)文明以書(shū)寫(xiě)方式作為標(biāo)志，一直要到12月31號(hào)晚上11點(diǎn)59分45秒才出現(xiàn)，人類(lèi)文明就出現(xiàn)了十五秒鐘。

在整個(gè)十二個(gè)月當(dāng)中，我們的智能、我們的文明到底意味著什么，其獨(dú)一無(wú)二性體現(xiàn)在什么地方?

我們現(xiàn)代人對(duì)自己的認(rèn)識(shí)越來(lái)越模糊。

在文藝復(fù)興時(shí)，人類(lèi)對(duì)自己的想象是一半神性一半動(dòng)物性，體現(xiàn)在人的比例當(dāng)中。但是我感覺(jué)現(xiàn)在人類(lèi)處在一個(gè)十字路口。

當(dāng)我們面對(duì)人工智能的時(shí)候，有兩個(gè)很大的誤區(qū)要注意：

首先，如果要從根本上毀滅人類(lèi)，從歷史上看，從來(lái)不需要高科技產(chǎn)業(yè)，低科技產(chǎn)品就足夠了。

舉個(gè)例子，二十世紀(jì)造成人類(lèi)生活方式最大改變的是什么東西?

是原子能嗎?是互聯(lián)網(wǎng)嗎?是計(jì)算機(jī)嗎?

是避孕套。

低科技產(chǎn)品，殺死的人比科技多多了，對(duì)人的價(jià)值觀(guān)，對(duì)人的生活方式的影響比任何科技都要多。

第二個(gè)是，人類(lèi)的自我選擇超越了自然選擇

自然選擇是進(jìn)化論的基本理論，就是外部環(huán)境篩選之后適者生存。

但是從剛剛的圖表當(dāng)中看，在人類(lèi)出現(xiàn)的短短時(shí)間當(dāng)中，自然選擇對(duì)我們有影響嗎?人類(lèi)從始祖出現(xiàn)到現(xiàn)在有變化嗎?

很少，人對(duì)自己的選擇，自我選擇才是最重要的。

我們做一個(gè)總結(jié)，大家對(duì)這個(gè)問(wèn)題感興趣可以看三個(gè)I：

第一個(gè)Intention，人工智能的意圖從何而來(lái)?他要干什么?可能不是按照人類(lèi)的行為模式來(lái)的。

人總是受到人的生物性和社會(huì)性驅(qū)動(dòng)，但是人工智能沒(méi)有人的生物性和社會(huì)性，它要干什么，這是要討論的問(wèn)題。

第二個(gè)Intentionality，意向性。

第三個(gè)，Inter intelligence人工智能和人類(lèi)的關(guān)系，這兩種智能體之間的關(guān)系如何來(lái)處理。

馬斯克一直是反對(duì)人工智能的，但是他正在做一件對(duì)人工智能影響更深遠(yuǎn)的事情，他在做人機(jī)接口。

人機(jī)接口意味著幾百萬(wàn)年來(lái)人體的封閉性被打破了，人發(fā)生了非常大的變化。

在面對(duì)這樣一個(gè)十字路口的時(shí)候，人的自我選擇超出了自然選擇，我們從猿到直立人到智人，再到什么?

人到什么時(shí)候還可以稱(chēng)之為人，這是一個(gè)大問(wèn)題，在很近的未來(lái)，這種技術(shù)可能會(huì)馬上實(shí)現(xiàn)。

我們可以把身上的某個(gè)器官替換成一個(gè)機(jī)械部件，我把手換成機(jī)械臂，握力兩百斤，可以把眼睛換成帶有紅外線(xiàn)、紫外線(xiàn)，可以穿透墻的眼睛，我可以看到很多不應(yīng)該看到的東西。

如果說(shuō)局部的身體是可以改變的，意味著整體上可以不斷改變，只要我有錢(qián)有技術(shù)。

更加科幻的是，我稱(chēng)之為homo cyber sapien(網(wǎng)絡(luò)智人)。

我們要追求永生。

人的羈絆就是沉重的肉身，如果可以把人的行為判斷方式變成數(shù)碼主體，傳到云端，只要服務(wù)器不宕機(jī)，我就永垂不朽，這叫數(shù)碼人。

有了數(shù)碼人之后，人以另外一種方式存在，不是現(xiàn)在的碳基人類(lèi)了。

現(xiàn)在我們整體對(duì)于人工智能的擔(dān)心是我們瞎操心，但是從我學(xué)哲學(xué)的角度來(lái)說(shuō)，我們對(duì)于人工智能的所有擔(dān)心歸根到底來(lái)自于人的心魔——人有沒(méi)有辦法填滿(mǎn)的欲望，人有很難處理的人際關(guān)系。

當(dāng)我們知道如何駕馭自己欲望的時(shí)候，人工智能不是大問(wèn)題。

當(dāng)我們沒(méi)有辦法處理這個(gè)問(wèn)題，人工智能才會(huì)乘虛而入。

作為一種技術(shù)方式，給你很多承諾，可以給你永生，給你非常多以前體驗(yàn)不到的東西，可以給你非常多的娛樂(lè)等等，可以讓你懶惰永遠(yuǎn)不做事情。

事情總是有正反兩面的，從我學(xué)文科哲學(xué)，人工智能恰恰體現(xiàn)的是人類(lèi)自身的心魔。

最后有一個(gè)段子，有一幫科學(xué)家研究出了一個(gè)超級(jí)人工智能，但是沒(méi)有上線(xiàn)，在程序階段，插上電源之后做的第一個(gè)事情，問(wèn)了這個(gè)超級(jí)人工智能一個(gè)問(wèn)題。

——科學(xué)家：是不是有神或者說(shuō)上帝存在?

——人工智能：現(xiàn)在有了。

本文來(lái)源：公眾號(hào) @筆記俠。中國(guó)最大的新商業(yè)知識(shí)筆記共享平臺(tái)，微信價(jià)值排行榜總榜前十，獨(dú)家筆記支持湖畔大學(xué)、混沌大學(xué)、青騰大學(xué)、高山大學(xué)、中歐創(chuàng)業(yè)營(yíng)、京東商學(xué)院、北大國(guó)發(fā)院等頂尖商學(xué)院課程，BAT、TMD、小米、華為、網(wǎng)易等知名企業(yè)，丁磊、傅盛、李善友等知名人士，60萬(wàn)企業(yè)決策及管理層都在看。