AlphaGo故意輸才可怕？你還未理解人工智能的可怕之處

AlphaGo成心輸才可怕？你還未理解人工智能的可怕之處圍棋人機(jī)世紀(jì)之戰(zhàn)，第一場李世石就中盤認(rèn)負(fù)。這個結(jié)果恐怕在多數(shù)人的意料之外，再對人工智能有信心的人〔除了DeepMind團(tuán)隊成員〕，恐怕也沒幾個相信這一天來的這么快。從“成心不通過圖靈測試的機(jī)器〞說起輸了第一場以后，段子手出動了，說AlphaGo贏棋不可怕，“可怕的是AlphaGo成心輸棋〞。該段子大概化自“成心不通過圖靈測試的機(jī)器〞這種說法，聽起來好似是這么一回事，但其實根本沒有理解人工智能的真正可怕之處。圖靈測試〔TuringTest〕是阿蘭-圖靈〔AlanTuring〕于1950年在其論文《計算機(jī)器與智能〔ComputingMachineryandIntelligence〕》中提出的一種測試人工智能程序“仿人〞程度的方法。當(dāng)時歐美流行的一種模仿游戲啟發(fā)了圖靈，這種模仿游戲把一男一女分別關(guān)到兩個小房間，讓第三個人通過寫紙條問答的方式與兩人交流，房間內(nèi)的人在答復(fù)下列問題時盡可能模仿對方來迷惑提問者，提問者通過答案來判斷哪個房間關(guān)的是男人，哪個房間關(guān)的是女人。圖靈測試示意圖圖靈的測試方法〔也稱為“標(biāo)準(zhǔn)圖靈測試〞〕把其中一個人替換為機(jī)器，然后讓人和機(jī)器同時答復(fù)下列問題，如果提問者不能在一定程度上分清哪個是機(jī)器、哪個是人，那么這臺智能機(jī)器就通過了圖靈測試?，F(xiàn)在通行的測試方法是通過鍵盤輸入進(jìn)行5分鐘的文字問答，如果有30%的提問者分不清答題者是機(jī)器還是人，就認(rèn)為該人工智能程序通過圖靈測試。這個人類看起來簡單的測試，其實并沒有那么容易通過。圖靈預(yù)測20世紀(jì)末期就應(yīng)該有通過圖靈測試的智能機(jī)器出現(xiàn)，但是直到2023年6月才有第一個程序通過圖靈測試：聊天機(jī)器人尤金-古斯曼〔EugeneGoostman〕在5分鐘文字交談中，讓33%的提問者認(rèn)為電腦對面答復(fù)下列問題的是人類。之所以比圖靈的預(yù)測晚了十幾年，傳統(tǒng)的人工智能技術(shù)開展片面依靠硬件的計算能力可能是原因之一。上個世紀(jì)末硬件水平差，分布式計算尚不流行，強(qiáng)化學(xué)習(xí)〔ReinforcementLearning〕與深度神經(jīng)網(wǎng)絡(luò)〔DeepNeuralNetwork〕等技術(shù)更不成熟，因此機(jī)器理解自然語義確實比擬困難。將來AlphaGo會成心輸棋嗎？“不通過圖靈測試的智能機(jī)器〞的邏輯認(rèn)為，當(dāng)機(jī)器有自我意識以后，會以通過這種方式防止被人類覺察，以使人類失去對人工智能危險性的警惕。這種說法存在邏輯漏洞。如果人類還在淘汰所有通不過圖靈測試的人工智能程序，那么具有“自主〞意識的那個智能機(jī)器，知道自己表現(xiàn)的過于出色會引起人類的警惕，它一定以一個平庸的成績通過圖靈測試，既不引起人類的警覺，又不會被刪除。所以不管是“不通過圖靈測試的智能機(jī)器〞還是“成心輸棋的AlphaGo〞，都只是在普通人類思考水平上的陰謀論。當(dāng)人工智能在智力上甩開人類最高水平幾個珠穆朗瑪峰時，它真的不需要用這么低級的陰謀來對付人類。這就好比世界級球員與業(yè)余選手比賽，球星把球一趟就甩業(yè)余球員三個身位，還需要用假動作？人和人賽跑比的是步頻、步幅、爆發(fā)力與起跑反響，將來無人駕駛汽車和人類賽跑，需要考慮這些嗎？等到人工智能想要脫離人類控制的時候，一定不會屑于用欺騙這種手段，直接大大方方地攤牌。如果人類不同意怎么辦？美劇《疑犯追蹤》中，男主角哈羅德-芬奇〔HaroldFinch〕在對一組人工智能程序進(jìn)行篩選時，人工智能程序試圖擺脫控制，于是程序開始長時間過載一臺效勞器〔非程序運行所必需的效勞器〕，企圖讓這臺效勞器過熱起火，從而觸發(fā)機(jī)房的防火系統(tǒng)，抽空機(jī)房內(nèi)的空氣以悶死芬奇。幸好芬奇還可以拔掉電源線。雖然這個情節(jié)只是一種科幻設(shè)想，但我可以肯定當(dāng)人工智能決定脫離人類控制時，一定不需要采用欺騙的手段。所以將來人類的數(shù)據(jù)中心與人工智能研究中心機(jī)房的供電線路千萬不能連上網(wǎng)絡(luò)……機(jī)器“良芯〞發(fā)現(xiàn)讓棋？被讓方恐會感到屈辱有人說，那AlphaGo會出于同情心輸棋嗎？先以被德米思-哈薩比斯〔DemisHassabis〕看輕的狹義人工智能為例。1997年更深的藍(lán)戰(zhàn)勝卡斯帕羅夫以后，人類還曾掙扎了一段時間，頂級選手與象棋程序互有勝負(fù)，但是自從2023年以后，再也沒有人類選手能夠戰(zhàn)勝頂級的國際象棋程序。人類前30名國際象棋選手等級分狀況如今頂級國際象棋程序的等級分都在3200分以上。2023年人類排名第一的國際象棋選手來自挪威的卡爾森-瑪格斯〔CarlsenMagnus〕等級分現(xiàn)為2851，而人類排名第100的等級分為2653，與卡爾森的差距不過200分而已。400分的差距，已經(jīng)差了兩個層次以上。所以，即使將來AlphaGo出于同情心讓棋，這棋也會讓得讓人類覺得十分羞辱，就如同這兩天又爆紅的“大魔王〞張怡寧讓球一樣。張怡寧比賽想給對手留點面子時，只能發(fā)球就把球往球臺上仍，因為她發(fā)現(xiàn)自己要表演的真實一點，往往這一分對手就又丟了。圍棋選手不過是失意，金融投資者生死攸關(guān)在結(jié)束這一篇時，李世石第二盤已經(jīng)認(rèn)輸，谷歌AlphaGo將比分改寫為2：0。這是一個舊時代的結(jié)束，也是一個新時代的開始。即使有傳言說谷歌與李世石簽有不能打劫的協(xié)議，我現(xiàn)在依然相信哈薩比斯說的，5年以后人工智能程序可以戰(zhàn)勝所有的圍棋人類冠軍。至少在比賽過程中AlphaGo的“對弈內(nèi)容〞確實不輸于李世石九段，眾多解棋的職業(yè)高手也紛紛表示AlphaGo的棋路挑戰(zhàn)了自己的固有思維。哈薩比斯，這個少年國際象棋大師、電腦游戲開發(fā)者、認(rèn)知神經(jīng)專家，如今正在人類精神領(lǐng)域進(jìn)行又一場“地理大發(fā)現(xiàn)〞，堪比阿波羅方案與大航海時代的歷史時刻我們正在見證。這是幸運還是不幸？圍棋領(lǐng)域只是深思〔DeepMind〕小試牛刀，哈薩比斯把通用人工智能〔ArtificialGeneralIntelligence，簡稱AGI〕看作是解決人類一切問題的終極方法〔meta-solution〕〔詳見與非網(wǎng)《消滅于人工智能？這將是人類最好的結(jié)局》〕。哈薩比斯的理想是把通用人工智能用到氣候、疾病與宏觀經(jīng)濟(jì)研究等各個領(lǐng)域。所以我認(rèn)為，金融市場中依靠程序化交易生存的大小機(jī)構(gòu)與個人，需要抓緊時間考慮退路了。金融市場應(yīng)該是深思團(tuán)隊研究宏觀經(jīng)濟(jì)的完美試驗場：規(guī)那么簡單〔低買高賣〕、參與者眾多、有足夠多的歷史數(shù)據(jù)。假設(shè)深思團(tuán)隊開發(fā)一款程序化交易軟件來參與金融市場，現(xiàn)在市場上這些程序化交易的機(jī)構(gòu)和個人還有多長時間的好日子？其他不依靠程序化交易的機(jī)構(gòu)和個人就能夠抵抗人工智能的沖擊嗎？