內(nèi)涵型人工智能及其伴生安全問(wèn)題

人工智能（ArtificialIntelligence，AI）的未來(lái)發(fā)展有兩大趨勢(shì)，一是繼續(xù)向外擴(kuò)展人類的外延，二是努力向內(nèi)豐富人類的內(nèi)涵。前者稱為外延型AI，后者稱為內(nèi)涵型AI。外延型AI是將機(jī)器視為人體的外延，讓這個(gè)外延（機(jī)器）的“智能”越來(lái)越高，讓機(jī)器做事越來(lái)越像真人而且還是能人，不但能下棋，還能開(kāi)車(chē)，更能聊天，能代替人類從事許多復(fù)雜的智能工作，使人類越來(lái)越嚴(yán)重地依賴于機(jī)器，以至于假若某天人類不得不突然離開(kāi)機(jī)器時(shí)，人類文明將立即大幅度倒退。外延型AI是目前人工智能研究的主流，所取得的成就有目共睹，其安全性也已被廣泛研究

。但它所面臨的發(fā)展瓶頸也越來(lái)越明顯，比如，最近圖靈獎(jiǎng)得主姚期智先生就指出了這種外延型AI面臨脆弱性瓶頸、解釋性瓶頸、對(duì)抗性瓶頸3方面的技術(shù)瓶頸。其實(shí)，外延型AI還有一個(gè)更大的發(fā)展瓶頸，即社會(huì)性瓶頸。具體來(lái)說(shuō)，如今上至科學(xué)家、哲學(xué)家和高層決策者，下至普通老百姓等，許多人都開(kāi)始對(duì)外延型AI的飛速發(fā)展感到恐懼，生怕人類會(huì)最終淪為機(jī)器的奴隸。雖然我們不知道人類的這種顧慮是否是杞人憂天，但若有辦法在整體上迅速提升人類自己的智能，那么，人類被機(jī)器奴役的可能性將大大降低。如何才能在整體上迅速提升人類自己的智能呢？這就是本文將重點(diǎn)介紹的內(nèi)涵型AI。更準(zhǔn)確地說(shuō)，與外延型AI的發(fā)展方向相反，內(nèi)涵型AI意在借助現(xiàn)有的機(jī)器智能來(lái)提高人類自身的整體智能?；蚋蜗蟮卣f(shuō)，外延型AI的“格物致知”更像是朱熹的做派，是在外求；而內(nèi)涵型AI的“格物致知”則更像是王陽(yáng)明的風(fēng)格，是在內(nèi)求，即圣人之道，吾性自足，不假外求?？傊?，內(nèi)涵型AI的理想終極目標(biāo)也許可以形象地描述為：一旦人類出了一個(gè)牛頓，那么幾乎所有人都能在一夜之間成為牛頓；于是，在這眾多牛頓的共同努力下，可能只需數(shù)十年或更短的時(shí)間，而非過(guò)去的200多年，就又能出現(xiàn)一個(gè)愛(ài)因斯坦；接著，幾乎所有人又能在一夜之間都成為愛(ài)因斯坦?？傊?，按此方式迅速滾雪球，也許人類就再也不用擔(dān)心成為機(jī)器的奴隸了。內(nèi)涵型AI的詳細(xì)內(nèi)容請(qǐng)參閱《人工智能未來(lái)簡(jiǎn)史》。限于篇幅，本文只從信息技術(shù)出發(fā)，聚焦于腦電圖、大腦地圖和神經(jīng)元電脈沖的安全精準(zhǔn)檢測(cè)、提取、產(chǎn)生、復(fù)制和輸入等，同時(shí)重點(diǎn)分析相關(guān)新技術(shù)和新理念伴生的安全問(wèn)題，其中有些問(wèn)題已有解決思路，有些問(wèn)題還需在發(fā)展中不斷探索解決方案。1內(nèi)涵型AI與安全的一般性關(guān)系包括內(nèi)涵型AI在內(nèi)的任何新技術(shù)，都存在著正反兩個(gè)方面的矛盾：一方面，新技術(shù)會(huì)帶來(lái)新發(fā)展；另一方面，與新技術(shù)相伴，將會(huì)帶來(lái)新的安全問(wèn)題，甚至是非常嚴(yán)重的安全問(wèn)題。一般說(shuō)來(lái)，這些伴生的安全問(wèn)題，在新技術(shù)普及到一定程度后才會(huì)暴露，很難事先給以全面精準(zhǔn)的預(yù)測(cè)。因此，隨時(shí)關(guān)注內(nèi)涵型AI的發(fā)展?fàn)顟B(tài)，隨時(shí)發(fā)現(xiàn)伴生的安全問(wèn)題并給予及時(shí)解決，就顯得尤為重要。特別是針對(duì)一些戰(zhàn)略性的安全隱患，更應(yīng)該盡早準(zhǔn)備好一些可能的預(yù)案，畢竟凡事“預(yù)則立，不預(yù)則廢”。與外延型AI類似，內(nèi)涵型AI既具有安全賦能效應(yīng)，也具有安全問(wèn)題伴生效應(yīng)；前者可以提供安全保障，后者則剛好相反。比如，安全賦能效應(yīng)既能增強(qiáng)攻擊能力，讓黑客更厲害；又能增強(qiáng)防御能力，讓系統(tǒng)更安全。安全問(wèn)題伴生效應(yīng)不但具有一定的滯后性，還具有相當(dāng)?shù)奶厥庑裕仨殏€(gè)案分析，因?yàn)橹挥挟?dāng)相關(guān)技術(shù)和系統(tǒng)經(jīng)過(guò)大量的實(shí)踐檢驗(yàn)后，其所呈現(xiàn)的不成熟性、不完備性或給予黑客的便利性等，才容易引發(fā)伴生的安全問(wèn)題，從而為解決相關(guān)問(wèn)題提出方向和目標(biāo)。比如，由于內(nèi)涵型AI技術(shù)自身的不成熟，就一定存在若干漏洞，它們一旦被黑客發(fā)現(xiàn)和利用，就會(huì)造成更大的破壞；此外，內(nèi)涵型AI技術(shù)也會(huì)存在若干暫時(shí)無(wú)法彌補(bǔ)的天然缺陷，只能采取額外的手段適當(dāng)加以防護(hù)。以下各小節(jié)將在介紹內(nèi)涵型AI的相關(guān)技術(shù)的同時(shí)，及時(shí)指出它們可能在安全賦能和安全伴生方面的問(wèn)題。實(shí)際上，從本質(zhì)上看，賦能攻擊與伴生安全的外顯行為都是內(nèi)涵型AI系統(tǒng)的安全風(fēng)險(xiǎn)，其差別僅僅在于內(nèi)因不同而已：一個(gè)是黑客利用內(nèi)涵型AI技術(shù)來(lái)主動(dòng)提升攻擊能力，另一個(gè)是內(nèi)涵型AI的脆弱性導(dǎo)致新的安全意外等。2基于宏觀腦電圖的內(nèi)涵型AI及安全宏觀內(nèi)涵型AI可能將是最先取得突破的領(lǐng)域，馬斯克已投資實(shí)現(xiàn)的意念控制等便是案例之一。宏觀內(nèi)涵型AI的思路非常清晰，即人類個(gè)體的知識(shí)和智能水平由其腦電模式或神經(jīng)回路的發(fā)射情況確定，若能安全可靠地改變腦電模式或神經(jīng)元的聯(lián)結(jié)網(wǎng)絡(luò)，就能改變當(dāng)事者的知識(shí)和技能。同時(shí)，腦電模式確實(shí)能被安全地改變，甚至大腦具有很強(qiáng)的可塑性，若能在一定程度上改變大腦的電活動(dòng)模式，就可安全地實(shí)現(xiàn)內(nèi)涵型AI的某些目標(biāo)。早在100多年前，人們就發(fā)現(xiàn)人腦會(huì)發(fā)射很強(qiáng)的“腦電波”，而且腦電波還會(huì)隨著當(dāng)事人的思想和心理狀態(tài)的改變而改變。目前科學(xué)家們已經(jīng)可以利用腦電波來(lái)安全地控制遠(yuǎn)端的計(jì)算機(jī)和假肢等，已實(shí)現(xiàn)了曾經(jīng)是夢(mèng)想的意念控制。隨著各種安全腦機(jī)接口技術(shù)的不斷發(fā)展，人與機(jī)器的安全融合程度將達(dá)到無(wú)與倫比的水平，因此，有理由相信，在不遠(yuǎn)的將來(lái)，人機(jī)充分融合后，人類將在安全感知、分析和解決問(wèn)題的能力方面，遠(yuǎn)遠(yuǎn)超過(guò)以往的單獨(dú)依靠電腦或人腦的智能水平，當(dāng)然就不必?fù)?dān)心成為機(jī)器的奴隸了。當(dāng)然，若想不斷地推進(jìn)上述目標(biāo)，就必須在以下3方面繼續(xù)下功夫：一是充分利用電磁手段，更加安全而精準(zhǔn)地獲取和理解腦電波；二是充分利用植入和非植入等方法，更加安全而精準(zhǔn)地將相關(guān)電脈沖輸入或輸出大腦；三是充分利用各種微電子和虛擬現(xiàn)實(shí)等技術(shù)，更加安全而精準(zhǔn)地復(fù)制和處理各種微弱電波等?；诤暧^腦電波的內(nèi)涵型AI的原理很簡(jiǎn)單，即人腦是一個(gè)特殊的電網(wǎng)絡(luò)，既可以向該網(wǎng)絡(luò)注入相關(guān)電脈沖，以影響其既有的運(yùn)行狀態(tài)；也可以從該網(wǎng)絡(luò)中取出相關(guān)的控制信號(hào)，然后利用這些信號(hào)去控制其他機(jī)器，甚至是控制其他人或動(dòng)物。此外，實(shí)驗(yàn)表明，大腦還是一個(gè)可塑性很強(qiáng)的電網(wǎng)絡(luò)，外界的安全輸入電脈沖只要足夠強(qiáng)和足夠持久（當(dāng)然不能過(guò)分），大腦的既有網(wǎng)絡(luò)結(jié)構(gòu)就可能被安全地永久性地改變，用行話來(lái)說(shuō)，就是“一起發(fā)射（激活或興奮）的神經(jīng)元會(huì)連接在一起”；因此，今后某天，也許人類能像電腦下載文件那樣，將任何知識(shí)，從電腦或他人的大腦中安全地注入自己的大腦，使得某人就像獲得了某種心靈感應(yīng)一樣，突然就變成了“萬(wàn)事通”的超人。當(dāng)然，原理簡(jiǎn)單是一回事，具體的實(shí)現(xiàn)又完全是另一回事，其重點(diǎn)和難點(diǎn)之一便是安全而合適的腦機(jī)接口。隨著內(nèi)涵型AI的不斷發(fā)展，腦機(jī)接口的種類將有很多，而且還會(huì)越來(lái)越多；既有植入式腦機(jī)接口，也有非植入式腦機(jī)接口。比如，人工耳蝸就是一個(gè)能讓失聰者恢復(fù)聽(tīng)力的非植入式安全宏觀腦機(jī)接口，它利用麥克風(fēng)采集到的聲音來(lái)產(chǎn)生一系列電脈沖，并用這些電脈沖去刺激聽(tīng)覺(jué)神經(jīng)，以重新產(chǎn)生“聽(tīng)覺(jué)”。又比如，人們已能安全地在實(shí)驗(yàn)室里用植入式宏觀腦機(jī)接口讓盲人“睜眼”。其工作原理是：利用腦機(jī)接口，把來(lái)自攝像機(jī)的視頻信號(hào)安全地輸入已經(jīng)植入視網(wǎng)膜或視覺(jué)皮層的電極陣列中，從而激發(fā)相應(yīng)的“視覺(jué)”。目前，雖有不少成功而安全的植入式宏觀腦機(jī)接口案例，但必須強(qiáng)調(diào)，此類腦機(jī)接口其實(shí)才剛開(kāi)始，困難很大，問(wèn)題很多，絕不可隨意應(yīng)用和推廣。幸好，人們可以利用已有的外延型AI的“機(jī)器學(xué)習(xí)算法”來(lái)識(shí)別與特定感覺(jué)或運(yùn)動(dòng)相關(guān)的腦電活動(dòng)模式，并將這些模式作為確定性的電信號(hào)來(lái)安全地指揮假肢等各種外部設(shè)備，以實(shí)現(xiàn)相應(yīng)的功能。當(dāng)然，如果今后腦機(jī)接口所采集的腦電信號(hào)足夠全面和精準(zhǔn)，那么直接將這些腦電信號(hào)安全地注入另一個(gè)人的相應(yīng)神經(jīng)回路而不做任何解碼，就完全可能實(shí)現(xiàn)一個(gè)人對(duì)另一個(gè)人的安全而精準(zhǔn)的控制，例如舞蹈家用意念指導(dǎo)另一個(gè)外行一次性學(xué)會(huì)某個(gè)動(dòng)作。非植入式腦機(jī)接口技術(shù)無(wú)需任何手術(shù)，雖然它們的腦電波采集能力肯定遠(yuǎn)不如植入式設(shè)備，但在某些精度要求不太高的情況下，特別是在宏觀情況下，仍然足夠有效。比如，有這樣一個(gè)非常簡(jiǎn)單的基于腦電圖的非植入式腦機(jī)接口，它僅僅是基于如下事實(shí)：當(dāng)你默想不同的單音節(jié)文字時(shí)，你的腦電圖中的響應(yīng)波紋也不相同。于是，你只需要默想“前”“后”“左”“右”這4個(gè)字，通過(guò)貼在你外頭皮上的5個(gè)電極，就能以90%的準(zhǔn)確度檢測(cè)并區(qū)分你的腦電圖模式。因此，在非植入式情況下，用意念控制玩具車(chē)前進(jìn)、后退、左沖、右突就輕而易舉了。此類方法顯然不難擴(kuò)展為意念下棋、走出迷宮、挪動(dòng)鼠標(biāo)等操作。更一般地說(shuō)，該非植入式方法，能夠以較高的安全可靠性來(lái)實(shí)現(xiàn)任何命令數(shù)不多的意念控制場(chǎng)景。當(dāng)然必須指出的是，若僅僅采用非植入式腦機(jī)接口技術(shù)，雖然可以從大腦中讀出某些特定的信號(hào)，實(shí)現(xiàn)意念控制或心靈感應(yīng)等，但它離真正的意念通信還差得很遠(yuǎn)，畢竟讀取信號(hào)與全面通信根本就不是一回事?？傊?，在非植入情況下，僅基于宏觀的腦電圖的內(nèi)涵型AI的能力還是有限的，但是，積極繼續(xù)探索大腦的運(yùn)行機(jī)制，積極在腦電圖的全面而安全的精準(zhǔn)檢測(cè)、采集、處理、傳輸和注入等方面穩(wěn)步前進(jìn)，仍然可以取得許多重大的實(shí)用性成果，大大提升人類的整體智能和體能。3基于中觀大腦地圖的內(nèi)涵型AI及安全上一節(jié)敘述的內(nèi)涵型AI始終只鎖定了神經(jīng)電脈沖的宏觀形態(tài)，即所謂的“腦電圖”。這就意味著，一方面，輸出的腦電圖無(wú)法區(qū)分大腦電模式的許多中觀和微觀區(qū)別，因此很難精準(zhǔn)地表達(dá)相關(guān)意念；另一方面，宏觀腦電圖幾乎不可能輸入，至少不能精準(zhǔn)輸入到別人大腦中?？傊?，若想基于各種腦機(jī)接口來(lái)實(shí)現(xiàn)更高水平的內(nèi)涵型AI，顯然不能只停留在宏觀的腦電圖水平上，還需要分別鎖定中觀的大腦地圖和微觀的神經(jīng)元電脈沖。腦科學(xué)已揭示了兩個(gè)重要事實(shí)：一是腦電波很重要，它甚至能決定一個(gè)人的各種智能和技能水平，或者說(shuō)，你若擁有了超人的腦電波，你便可以擁有超人的智能和技能；二是腦電波可以被重塑，因此，你若能重塑你的腦電波，使它們與愛(ài)因斯坦的腦電波相同，那你就能成為第二個(gè)愛(ài)因斯坦。于是，從理論上看，其實(shí)每個(gè)人都有機(jī)會(huì)成為愛(ài)因斯坦，只要你能巧妙而安全地重塑自己的腦電波。既然安全重塑腦電波（或重塑大腦）如此重要，人們便會(huì)努力研究重塑大腦的思路。當(dāng)然，人類在這方面的工作才剛開(kāi)始，需要改進(jìn)之處還有很多，實(shí)際上，內(nèi)涵型AI能否成功，將主要取決于能否找到愉快而無(wú)害的方法，使得任何人的大腦能被迅速而安全地重塑，這種重塑既包括宏觀腦電圖在結(jié)構(gòu)方面的重塑，也包括中觀大腦地圖在具體功能或技能方面的重塑，還包括微觀神經(jīng)元的突觸導(dǎo)電性重塑，或由神經(jīng)元的發(fā)射與抑制組合而成的神經(jīng)回路重塑等。重塑腦電波的最暴力手段，可能當(dāng)數(shù)目前醫(yī)院針對(duì)精神病患者經(jīng)常使用的電休克療法，即經(jīng)過(guò)10余次電擊，腦電圖就可能被永久性地改變，顯然此法只適合于特定人群，且還不夠安全。其實(shí)對(duì)每個(gè)人來(lái)說(shuō)，他從一出生，就已在不間斷地重塑自己的腦電波了，只不過(guò)是采用了最溫柔、最緩慢的腦電波重塑手段，那就是眾所周知的學(xué)習(xí)，既包括有意識(shí)的學(xué)習(xí)和無(wú)意識(shí)的學(xué)習(xí)，也包括自主學(xué)習(xí)和輔導(dǎo)學(xué)習(xí)等。實(shí)際上，大腦隨時(shí)都在因外界的刺激而安全地改變其神經(jīng)回路的聯(lián)結(jié)，它是環(huán)境與基因互動(dòng)的產(chǎn)物，即我們的觀念會(huì)產(chǎn)生行為，行為又反過(guò)來(lái)改變大腦的結(jié)構(gòu)；先天的基因決定某個(gè)行為，該行為也會(huì)反過(guò)來(lái)改變大腦的聯(lián)結(jié)。早在1949年，心理學(xué)家就提出了“學(xué)習(xí)發(fā)生在細(xì)胞水平上”這一基本原則，或者說(shuō)“一起發(fā)射的神經(jīng)元就會(huì)連接在一起”，或者說(shuō)“不一起發(fā)射的神經(jīng)元就不會(huì)連接在一起”。因此，我們從小到大的學(xué)習(xí)過(guò)程，其實(shí)就是在以“隨風(fēng)潛入夜，潤(rùn)物細(xì)無(wú)聲”的方式安全地改變腦電模式，準(zhǔn)確地說(shuō)，學(xué)習(xí)改變了某些神經(jīng)元的放電特性，改變了某些突觸的導(dǎo)電性等。所謂的“活到老，學(xué)到老”，就意味著人的大腦終生都可以被重塑，至少可以被緩慢而溫柔地重塑，各種學(xué)習(xí)就是溫柔的安全重塑過(guò)程。更極端地說(shuō)，即使某人不想學(xué)習(xí)，但隨著年齡的增大，他大腦的自然退化也是一種重塑過(guò)程，只不過(guò)是有害的重塑而已。諾貝爾獎(jiǎng)得主、物理學(xué)家蓋爾曼曾在1994年暢想到：今后某一天，人類能與計(jì)算機(jī)直接相連，彼此之間的思想與情感完全被共享，再也沒(méi)有語(yǔ)言上的選擇與欺騙。形象地說(shuō)，蓋爾曼暢想的東西可以是某種“腦聯(lián)網(wǎng)”，它將人類的大腦連成一體，就像互聯(lián)網(wǎng)將電腦連成一體那樣。欲實(shí)現(xiàn)“腦聯(lián)網(wǎng)”，就必須克服兩大難題：一是解決信息的安全輸出問(wèn)題，即從大腦活動(dòng)的樣本中安全地提取相關(guān)信息，并將由此產(chǎn)生的信息安全地傳輸給人造設(shè)備。這一點(diǎn)，在前面介紹的“意念控制”中，都在某種程度上初步實(shí)現(xiàn)了信息輸出。二是將外部信息包括他人的意念信息安全地輸入接受者的大腦，或更準(zhǔn)確地說(shuō)，安全輸入到接受者的神經(jīng)系統(tǒng)中去。這其實(shí)是目前的難點(diǎn)和重點(diǎn)，所取得的實(shí)質(zhì)性進(jìn)展很少，比如，輸入信息的主渠道仍然是人類天生的視覺(jué)或聽(tīng)覺(jué)等，這當(dāng)然會(huì)限制腦聯(lián)網(wǎng)的深度開(kāi)發(fā)，因?yàn)榇藭r(shí)被輸入的信息只能以圖像或聲音的形式出現(xiàn)。4基于微觀神經(jīng)脈沖的內(nèi)涵型AI及安全細(xì)心的讀者也許已經(jīng)注意到，內(nèi)涵型AI的最終目的是要安全地制造超人，即在某些方面的智能和技能超強(qiáng)之人，甚至是各方面的能力都超強(qiáng)之人，當(dāng)然，這種超人狀態(tài)也許只需維持很短一段時(shí)間，然后再恢復(fù)正常，畢竟超人狀態(tài)需要耗費(fèi)太多的能量或需要犧牲其他方面的一些能力。內(nèi)涵型AI制造超人所希望使用的手段主要是腦機(jī)接口，即利用輸入或輸出的電子接口，安全地將大腦或神經(jīng)系統(tǒng)的潛能長(zhǎng)期或短期地發(fā)揮到極致。既然是接口，就必須考慮相反的兩個(gè)方面，即安全輸出和安全輸入。（1）關(guān)于安全輸出。若將大腦看成一個(gè)黑箱系統(tǒng)的話，該系統(tǒng)的安全輸入渠道有很多，包括但不限于聽(tīng)、看、觸、嘗、嗅等；但安全輸出渠道卻很少，幾乎只有言和行。而“言”又受限于文字，經(jīng)常會(huì)出現(xiàn)“只可意會(huì)不能言傳”的情況；“行”也受到身體的限制，經(jīng)常會(huì)出現(xiàn)“力不從心”的情況。因此，若想更安全有效地打造超人，就必須開(kāi)通大腦的更多輸出渠道，特別是要安全而精準(zhǔn)地獲取或檢測(cè)神經(jīng)元發(fā)射時(shí)所釋放的電脈沖。在宏觀情況下，這些電脈沖將以腦電波或腦電圖的形式被安全地獲取或檢測(cè)，比如，命令個(gè)數(shù)不多的意念控制系統(tǒng)，內(nèi)容受限的意念通信系統(tǒng)，給定候選集合的猜心術(shù)，認(rèn)定犯罪嫌疑人的超級(jí)測(cè)謊儀等。在中觀情況下，腦電脈沖將以大腦地圖的形式被安全獲取或檢測(cè)。在微觀情況下，腦電脈沖將以神經(jīng)回路電活動(dòng)的形式被安全獲取或檢測(cè)。（2）關(guān)于安全輸入。雖然腦機(jī)接口的安全而快速簡(jiǎn)捷的輸入很困難，但非常有趣的是，在宏觀和中觀情況下，大腦的安全輸入問(wèn)題卻很簡(jiǎn)單，比如，我們從小到大的所有學(xué)習(xí)和訓(xùn)練過(guò)程，以及神經(jīng)醫(yī)學(xué)中的許多醫(yī)療過(guò)程，其實(shí)都是在有意或無(wú)意地向大腦輸入腦安全電信號(hào)，而且還是可以精細(xì)到中觀層次的腦電信號(hào)，其結(jié)果就是安全地改變了相關(guān)的大腦地圖或腦電圖。但在微觀情況下，腦電信號(hào)的安全輸入?yún)s是腦機(jī)接口的難點(diǎn)和重點(diǎn)，因?yàn)槿祟愔两褚膊恢来竽X到底是如何對(duì)腦電信號(hào)進(jìn)行編碼和解碼的，所以，很難制造一段安全的人工電信號(hào)讓大腦讀懂，當(dāng)然也就很難控制大腦了。但是，“不能制造安全的人工信號(hào)”并不意味著就無(wú)計(jì)可施，比如，從理論上看，我們可以將天才的某段腦電信號(hào)，在微觀情況下，安全地照搬到普通人身上，從而將后者打造成天才。如果在大腦里動(dòng)手術(shù)太危險(xiǎn)的話，也可以先在某些肢體上采取一些安全辦法，這也是微觀層次上內(nèi)涵型AI可能會(huì)優(yōu)先考慮的課題。比如，鋼琴家在彈奏某段曲譜時(shí)，他的大腦會(huì)向手部肌肉發(fā)出一系列神經(jīng)電信號(hào)，若能將這一系列的神經(jīng)電信號(hào)同