人工智能作為科學(xué)與技術(shù)的兩重性

1、 人工智能作為科學(xué)與技術(shù)的兩重性 人工智能是科學(xué)技術(shù)的前沿，不僅影響當(dāng)下人類社會(huì)的方方面面，而且關(guān)系到人類的命運(yùn)。正因?yàn)榇耍斯ぶ悄芤l(fā)來自科技界內(nèi)外的廣泛關(guān)注和爭(zhēng)議。人工智能是科學(xué)技術(shù)的前沿，不僅影響當(dāng)下人類社會(huì)的方方面面，而且關(guān)系到人類的命運(yùn)。正因?yàn)榇?，人工智能引發(fā)來自科技界內(nèi)外的廣泛關(guān)注和爭(zhēng)議。這些爭(zhēng)論大致可以歸為三類： 其一，人工智能是否會(huì)危及人類的命運(yùn)； 其二，強(qiáng)人工智能與弱人工智能的競(jìng)爭(zhēng)與合作； 其三，強(qiáng)人工智能與弱人工智能各自內(nèi)部發(fā)展路徑辨析。本文探討第一、二兩點(diǎn)，這兩點(diǎn)都涉及對(duì)人工智能的科學(xué)屬性與技術(shù)屬性的理解。人工智能一身而二任，既是科學(xué)，也是技術(shù)，是科學(xué)和技術(shù)的一體化。無論

2、置身于其中的業(yè)內(nèi)人士還是身處局外的觀察者，實(shí)際上自覺不自覺地不是把人工智能歸為科學(xué)，就是認(rèn)作技術(shù)。在某種意義上可以說，眼下關(guān)于人工智能的種種爭(zhēng)論，或多或少均與此有關(guān)。一、強(qiáng)人工智能與弱人工智能1.強(qiáng)、弱人工智能科學(xué)與技術(shù)強(qiáng)人工智能與弱人工智能之爭(zhēng)可以歸結(jié)到科學(xué)與技術(shù)的關(guān)系。相對(duì)而言，強(qiáng)人工智能強(qiáng)調(diào)跟隨并再現(xiàn)人的自我意識(shí)，偏向于認(rèn)為人工智能是探索人腦與意識(shí)的科學(xué)；弱人工智能則沿著圖靈的思路，認(rèn)為人工智能能夠執(zhí)行人腦相應(yīng)的功能而得到應(yīng)用即可。顯然，在弱人工智能一方的心目中，人工智能是技術(shù)。正因?yàn)閺?qiáng)人工智能與弱人工智能的背后有科學(xué)與技術(shù)之分，所以二者的思路和發(fā)展路徑存在種種差異。強(qiáng)人工智能的目標(biāo)是發(fā)

3、現(xiàn)未知，揭示人腦及其運(yùn)行背后未知的秘密，核心是主體的意向性。強(qiáng)人工智能的驅(qū)動(dòng)力是其背后人類數(shù)千年如一日的好奇心，是一往無前永不遏止的探索精神。作為科學(xué)，強(qiáng)人工智能清楚肩負(fù)的重任。且不要說人類的“意向性”，身邊貓狗等寵物的意向性說的清楚嗎？有必要沿生物進(jìn)化的路徑回溯，先從模擬昆蟲、魚和哺乳動(dòng)物的大腦開始，再一步一步進(jìn)階到對(duì)人腦的模擬?！皬?qiáng)人工智能還太遠(yuǎn)了。”（北京航空航天大學(xué)自動(dòng)化學(xué)院副教授秦曾昌）。面對(duì)如此宏大的目標(biāo)，眼下的弱人工智能，哪怕是阿法狗，還是阿法元，只能是一個(gè)字：“弱”；而那些媒體為此的搖旗吶喊，只能是泡沫，從而給人工智能，特別是弱人工智能潑冷水。強(qiáng)人工智能嘲笑弱人工智能之“弱”，

4、距人的智能何止千里之遙?！爸形奈葑印迸c其說是“懟”強(qiáng)人工智能，不如說是在羞辱弱人工智能。強(qiáng)人工智能要求揭示功能背后的結(jié)構(gòu)，必須以“具有意識(shí)功能的材料為基質(zhì)”（中山大學(xué)人際互聯(lián)實(shí)驗(yàn)室主任翟振明），譬如說“微管”，由結(jié)構(gòu)解釋功能，在量子層面闡明意識(shí)的本質(zhì)，以知其所以然。潘建偉認(rèn)為，“不到量子人工智能的時(shí)代，我是一點(diǎn)兒不擔(dān)心人工智能會(huì)取代人類?！瘪R兆遠(yuǎn)認(rèn)同這一點(diǎn)，在由納米尺度理解意識(shí)之前，“人工智能至少在三百年內(nèi)還沒什么機(jī)會(huì)超越人腦”。站在技術(shù)的立場(chǎng)，弱人工智能則認(rèn)為強(qiáng)人工智能沒有必要，實(shí)現(xiàn)功能無需舍近求遠(yuǎn)，不如且行且進(jìn)。如果人們的目標(biāo)是制造“工具”，那么考慮特定類型的智能行為就已足夠，何必再去考慮

5、獨(dú)立意識(shí)（南京大學(xué)教授、計(jì)算機(jī)軟件新技術(shù)國家重點(diǎn)實(shí)驗(yàn)室常務(wù)副主任周志華）？一部技術(shù)史，從工作機(jī)-動(dòng)力機(jī)-控制學(xué)習(xí)機(jī)的線索來看，工作機(jī)、動(dòng)力機(jī)、控制學(xué)習(xí)機(jī)，分解開來，逐一攻克。汽車并不是馬，電機(jī)和熱機(jī)未必如九牛或二虎，電腦雖在普適與情感等方面不如人腦，卻越來越多的個(gè)別場(chǎng)合勝似人腦。從科技黑箱的視角看，使用者只在乎其能否執(zhí)行功能。就此而言，科技黑箱并不介意牛馬的結(jié)構(gòu)，從基本物理運(yùn)動(dòng)、化學(xué)運(yùn)動(dòng)、生命運(yùn)動(dòng)一路走來，突破曾經(jīng)的一個(gè)個(gè)界限，在實(shí)際上同樣進(jìn)入意識(shí)運(yùn)動(dòng)的王國。弱人工智能的目標(biāo)是看得見的眼前，數(shù)年或數(shù)十年，在一定程度上可以預(yù)測(cè)，滲透到經(jīng)濟(jì)、社會(huì)和文化的各個(gè)領(lǐng)域，在個(gè)別的特定的領(lǐng)域逐一替代人。所謂

6、“個(gè)別”、“特定”，就是邊界明確，規(guī)則嚴(yán)密，賞罰分明，也就是有“激勵(lì)機(jī)制”。弱人工智能，在這些特定的領(lǐng)域攻城略地，日益，以及堅(jiān)定地?cái)U(kuò)大自己的營地。從知識(shí)論的視角來看，弱人工智能把人的日常生活與工作中有規(guī)可循的行為編碼編程，大數(shù)據(jù)加算法加算力，做成控制學(xué)習(xí)機(jī)。再結(jié)合工作機(jī)與動(dòng)力機(jī)，腳踏實(shí)地步步為營，對(duì)人工智能持樂觀立場(chǎng)，集腋成裘，在近數(shù)十年間將會(huì)迎來“奇點(diǎn)”。其實(shí)，歷史地看，科學(xué)和技術(shù)的發(fā)展都離不開對(duì)方的支撐和拉動(dòng)，已經(jīng)有太多的研究成果說明了這一點(diǎn)，人工智能至今的發(fā)展同樣是科學(xué)和技術(shù)，在某種意義上，也就是強(qiáng)人工智能與弱人工智能，雙方攜手并進(jìn)的結(jié)果（此處期待業(yè)內(nèi)人士拍磚和完善）。2.強(qiáng)人工智能人機(jī)

7、回圈中的“機(jī)”與“人”如果接受這一觀點(diǎn)，那么不難看出，筆者在（人機(jī)回圈：人類的科技化與科技的人文化（序及綱要）；人機(jī)回圈：人類的科技化與科技的人文化（一、2）“機(jī)”的演化人機(jī)回圈：人類的科技化與科技的人文化一、人機(jī)回圈中的“機(jī)”）中所分析的“機(jī)”，工作-動(dòng)力-學(xué)習(xí)機(jī)，以及科技黑箱，都是把人工智能看作是技術(shù)。既然如此，作為科學(xué)的強(qiáng)人工智能，“機(jī)”的含義自然有所不同，那就是科學(xué)研究過程中所提出的“模型”，例如一個(gè)多世紀(jì)前對(duì)于原子的“葡萄干面包”和“行星式”模型，關(guān)于銀河系的“水缸里的漩渦”模型，以及DNA的“三螺旋”和“雙螺旋”模型等。對(duì)于強(qiáng)人工智能來說，“機(jī)”，也就是模型，主要并不有意實(shí)現(xiàn)什么功

8、能，而是旨在認(rèn)識(shí)大腦的結(jié)構(gòu)，理解和揭示意識(shí)的本質(zhì)，這是模型的目標(biāo)：人的大腦和意識(shí)。強(qiáng)人工智能與弱人工智能的人機(jī)回圈中的“機(jī)”不同，人機(jī)回圈中的“人”也不同。在作為技術(shù)的弱人工智能看來，人機(jī)回圈中的人是現(xiàn)實(shí)社會(huì)中的各色人等；那么作為科學(xué)，既然強(qiáng)人工智能中人機(jī)回圈的“機(jī)”是認(rèn)識(shí)過程中的模型，那么人機(jī)回圈中的人就不是現(xiàn)實(shí)社會(huì)中的人，而是人作為“類”的典型。在一次次回圈中，模型無限逼近原型。眼下的一項(xiàng)最新進(jìn)展是麻省理工學(xué)院的“類腦芯片”i，人造突觸，是可以用于終端的便攜式低功耗神經(jīng)形態(tài)芯片，可將人腦能力“復(fù)制”到芯片，從而為實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)硬件化打下堅(jiān)實(shí)的基礎(chǔ)。值得注意的是，強(qiáng)人工智能在某種意義上沿襲了西

9、方近代以來的步點(diǎn)。秉承笛卡爾的“認(rèn)識(shí)論轉(zhuǎn)向”，“腦”登場(chǎng)，“心”只是“處理機(jī)械自然中為物理學(xué)無法解釋的一切感性經(jīng)驗(yàn)的傾倒垃圾的場(chǎng)所”ii。所以需要“以頭立地”，重“知”（智）輕“行”。然而，人是“工作機(jī)-動(dòng)力機(jī)-控制學(xué)習(xí)機(jī)”的融合，不可分割。身體，不僅是工作機(jī)和動(dòng)力機(jī)，而且全方位參與認(rèn)知與實(shí)踐活動(dòng)。這就是“全身心”，心智合一，靈與肉不可分離。如果考慮到身心合一，那么強(qiáng)人工智能人機(jī)回圈之“機(jī)”，就必須以一個(gè)完整的人作為“回圈”的目標(biāo)。2016/9/25上海AI小組閉門討論會(huì)稱，生命形態(tài)的不完整情況下發(fā)展的人工智能為“偽智能”。或許正是在此意義上，喬布斯曾在自傳里預(yù)言：20世紀(jì)80年代是IT時(shí)代，

10、而21世紀(jì)絕對(duì)是基因科技時(shí)代。生物技術(shù)將從技術(shù)之“機(jī)”和科學(xué)之模型兩個(gè)緯度推進(jìn)人工智能。考慮到科學(xué)與技術(shù)之間的互動(dòng)，作為技術(shù)的弱人工智能中的“機(jī)”與作為科學(xué)的強(qiáng)人工智能中的“機(jī)”，也就是科學(xué)模型之間的互動(dòng)，有待拓寬和強(qiáng)化。（此處同樣期待業(yè)內(nèi)人士拍磚和完善）二、人工智能雙刃劍科學(xué)技術(shù)是雙刃劍，這一點(diǎn)已經(jīng)在科技界和社會(huì)上形成廣泛共識(shí)。人工智能也是雙刃劍。分析強(qiáng)人工智能與弱人工智能雙方對(duì)人工智能雙刃劍的立場(chǎng)會(huì)饒有興味。1.科學(xué)與技術(shù)，何者更是雙刃劍科學(xué)技術(shù)是雙刃劍，這一說辭籠統(tǒng)了。進(jìn)一步的分析可以發(fā)現(xiàn)，科學(xué)與技術(shù)相比之下，技術(shù)更是雙刃劍?？梢栽谧匀慌c社會(huì)之間設(shè)一譜系，將人類的各項(xiàng)活動(dòng)排序。相對(duì)而言，

11、科學(xué)更接近自然，技術(shù)更靠近社會(huì)?？茖W(xué)源于好奇心，強(qiáng)調(diào)自由探索，“為科學(xué)而科學(xué)”，其成果是與特定的主體、對(duì)象和語境無關(guān)的非嵌入編碼知識(shí)。科學(xué)的成果雖然可以為各方所用，但科學(xué)本身止于認(rèn)識(shí)階段。作為認(rèn)識(shí)活動(dòng)，科學(xué)與社會(huì)的互動(dòng)主要在觀念層面，科學(xué)實(shí)驗(yàn)雖然是實(shí)踐活動(dòng)，但目的主要是為了認(rèn)識(shí)，而不是效益。技術(shù)旨在效用和控制，需要調(diào)動(dòng)更多自然和社會(huì)資源，其成果滿足特定社會(huì)成員的特定需要。作為實(shí)踐活動(dòng)，技術(shù)需要社會(huì)調(diào)集更多資源，技術(shù)的成果（科技黑箱）也會(huì)更直接廣泛影響社會(huì)。技術(shù)與社會(huì)之間在經(jīng)濟(jì)、政治和文化諸領(lǐng)域發(fā)生全方位的互動(dòng)。較之科學(xué)來說，技術(shù)的雙刃劍效應(yīng)，無論是正面還是負(fù)面，都更為顯著，更為“鋒利”。如果說

12、作為認(rèn)識(shí)活動(dòng)，“科學(xué)無禁區(qū)”，那么作為產(chǎn)生后果的實(shí)踐活動(dòng)，技術(shù)必須有禁區(qū)。由此可見，技術(shù)必須更多顧及負(fù)面效應(yīng)。2.人工智能雙刃劍的不同立場(chǎng)弱人工智能一方把人工智能看作是技術(shù)，因而人工智能必須考慮可控與效益，考慮雙刃劍的負(fù)面效應(yīng)。技術(shù)有禁區(qū)。因而擔(dān)心人工智能最終影響人類的命運(yùn)，霍金（科學(xué)家可以持人工智能是技術(shù)的觀點(diǎn)，或者其成果終究會(huì)轉(zhuǎn)化為技術(shù)，從而關(guān)注其負(fù)面效應(yīng)）與馬斯克是持這一觀點(diǎn)的代表人物。他們擔(dān)心的威脅，實(shí)際上是來自強(qiáng)人工智能?！皣?yán)肅學(xué)者不該去碰強(qiáng)人工智能”（周志華）。如果限定在弱人工智能，則只會(huì)是人類乖巧而順從的助手。如果看作是科學(xué)，更多強(qiáng)調(diào)自由探索精神，科學(xué)無禁區(qū)。難道“強(qiáng)人工智能是潘

13、多拉魔盒？”（北京郵電大學(xué)人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任劉偉）iii。即使是“潘多拉魔盒”，如果因此“說不要研究強(qiáng)人工智能，這就有些一廂情愿了。因?yàn)閺?qiáng)人工智能是科學(xué)發(fā)展的必然趨勢(shì)?！被仡櫼徊靠茖W(xué)史，劉偉所言不差。合成尿素打破無機(jī)與有機(jī)的界限，生命科學(xué)和生物技術(shù)架起通往生命的橋梁，往日的界限已經(jīng)攻克，意識(shí)運(yùn)動(dòng)同樣沒有禁區(qū)。大腦，即使加上身體，全身心，無論多么復(fù)雜，無限，畢竟是“已經(jīng)生成”之物（或弦）；人工智能，無論是“強(qiáng)”還是“弱”，其發(fā)展卻無窮無盡。這一點(diǎn)與三體中描繪的“黑暗森林”類似。這一追趕的步伐，在弱人工智能看來近在咫尺，就在數(shù)十年后，即使在強(qiáng)人工智能心目中，也就數(shù)百年。3.人工智能雙刃劍

14、前景先看作為技術(shù)的人工智能?？萍己谙鋵⒃絹碓胶?。除了少數(shù)科技精英，人類中越來越多的人將不知其運(yùn)行的機(jī)理，而科技精英的解釋如“糾纏”、“疊加”、“塌縮”，則往往令常人如云里霧里，甚至科技精英也無法以經(jīng)典的科學(xué)概念解釋得出的結(jié)果，乃至求助于已“恭候多時(shí)”的佛教徒。與此相反的趨勢(shì)是，在相當(dāng)程度上正是因?yàn)樵絹碓胶?，所以科技黑箱在操作上越來越?jiǎn)單。上文述及，科技黑箱沿量子階梯上升，由無機(jī)到有機(jī)、生命，以及大腦，從生理到心理；工作機(jī)越來越能干，動(dòng)力機(jī)越來越強(qiáng)大持久，控制學(xué)習(xí)機(jī)越來越聰明，因而對(duì)人類社會(huì)的影響在正負(fù)兩方面都越來越大。這一點(diǎn)再加上雙刃劍越來越黑，越來越簡(jiǎn)單，因而雙刃劍那一刃都變得越來越鋒利。人

15、性有兩個(gè)根本的弱點(diǎn)：自利與有限。無自利，或許唯有耶穌和佛陀。有限，不可能洞察一切。沿弱人工智能的途徑，人工智能的發(fā)展將最終超越人性的弱點(diǎn)。弱人工智能沒有自我意識(shí)，意味著無所謂“自利”， 無關(guān)尊嚴(yán)、榮譽(yù)，對(duì)于所有的情感“沒感覺”，而是遵循規(guī)律。弱人工智能不是克服，而是繞過人性的自利。而在時(shí)空上無窮無盡的大數(shù)據(jù)和超凡脫俗的計(jì)算能力則超越人之“有限”?！白寵C(jī)器工作，讓人們思考”，這是2011年9月22日，IBM公司在計(jì)算機(jī)紀(jì)元50周年的題詞。這十個(gè)字是弱人工智能的宗旨?；仡櫄v史，在普里戈金的分岔圖上，每一次科技創(chuàng)新或多或少都是一次分岔。每一次分岔，往往針對(duì)上一次創(chuàng)新的不足之處與負(fù)面效應(yīng)，換言之，人類

16、畢竟還擁有一定程度的控制權(quán)，可以由新的分岔彌補(bǔ)修正上一個(gè)分岔的負(fù)效應(yīng)。展望前程，人類正在越過的是人類歷史上最大，或許也是對(duì)于人類來說的最后一個(gè)分岔。人工智能的發(fā)展將可能一勞永逸地結(jié)束人類社會(huì)歷經(jīng)萬年，“從分岔到分岔”的“曲折前行”的道路。再看作為科學(xué)的強(qiáng)人工智能。即使在不涉及實(shí)踐后果的純粹的認(rèn)識(shí)領(lǐng)域，強(qiáng)人工智能同樣有令人毛骨悚然的效應(yīng)。在圍棋界，來無蹤去無影的“棋感”已被阿法狗解密。試想，例如在人類最神奇私密的愛情領(lǐng)域，強(qiáng)人工智能將其中難以乃至不可言說的微妙之處一一解碼，娓娓道來，以示天下，人類還花前月下，談情說愛嗎？要是同情心、審美和宗教情懷都可以在“微管”與量子的層面上得到解釋，這一說辭不

17、禁令人想起歷史上曾經(jīng)的還原論。強(qiáng)人工智能與弱人工智能的一個(gè)共同點(diǎn)是，踏在往日科學(xué)技術(shù)的肩上，沿量子階梯和運(yùn)動(dòng)形式升高，直至生命和意識(shí)。斯蒂芬沃爾夫勒姆（Stephen Wolfram）表示iv，模仿人類，既是錯(cuò)誤的路線，又是唯一可行的路線。強(qiáng)人工智能與弱人工智能結(jié)合，能否是“上帝的歸上帝，凱撒的歸凱撒”的模式。人，照看自己的靈魂，做出決策；機(jī)，人工智能從事計(jì)算，提供決策的依據(jù)和選項(xiàng)?！叭诵臋C(jī)腦”，是可欲的理想，還是一廂情愿？人是雙刃劍。雖然有上述種種反思，但是強(qiáng)人工智能也好，弱人工智能也好，二者的相互結(jié)合也好，人工智能繼續(xù)推進(jìn)的趨勢(shì)不可阻擋。說到底，在這一趨勢(shì)的背后，依然是人工智能苦苦追尋并試

18、圖超越的人性。人性推動(dòng)人工智能超越（否定）自身。科技雙刃劍的根源是人。人自身就是雙刃劍。一刃是善，一刃是惡；一刃是自我控制，一刃是放縱自我；一側(cè)是對(duì)世界無窮的知與控制的欲望，另一側(cè)是有限的認(rèn)識(shí)和實(shí)踐能力；一邊是對(duì)不確定未來的向往或恐懼，一邊是對(duì)確定往事的留戀或背離。說到底依然是兩句話：人是自利的，人是有限的。前者的表現(xiàn)之一是控制欲，控制自然，控制他人，與此同時(shí)則是放縱自我。個(gè)人的控制與放縱，在人際就是控制與反控制。后者在于，由于自然界（大腦）的極端復(fù)雜、相互關(guān)聯(lián)與不確定，由于人（國）際關(guān)系的博弈或合作，以及由于主觀能力所限，人不可能把握全局，不可能預(yù)知未來?；厥淄?，歷歷在目；展望未來，充滿了分岔和不確定。兩千年前，伊壁鳩魯?shù)脑诱撜J(rèn)為原子的偏斜造就了世界，上世紀(jì)居里的名言是，非對(duì)稱創(chuàng)造世界?；蛟S應(yīng)該補(bǔ)充的是，非對(duì)稱也會(huì)毀滅世界。潘多拉魔盒釋放了科技，也就是釋放了雙刃劍。打開了，就不可能再關(guān)上。弗洛伊德在1930年寫道，能否理解，文明在多大程度上是建立在對(duì)本能的滿足之上，又是在多大程度上是以對(duì)強(qiáng)大的本能的力量（以壓迫、鎮(zhèn)壓或別的方法？）不予滿足為前提？凱文凱利謹(jǐn)慎地表示，互聯(lián)網(wǎng)產(chǎn)生的相當(dāng)大一部分都是不好的。但只要互聯(lián)網(wǎng)的積極的一面