《人工智能倫理導(dǎo)論》課件第13章人工智能超現(xiàn)實(shí)倫理

第13章超現(xiàn)實(shí)人工智能倫理

學(xué)習(xí)要點(diǎn)學(xué)習(xí)和了解超現(xiàn)實(shí)倫理概念與含義。學(xué)習(xí)和了解科幻影視中的強(qiáng)人工智能倫理問(wèn)題。學(xué)習(xí)和了解自我意識(shí)的人工智能的倫理問(wèn)題。

超現(xiàn)實(shí)人工智能倫理，就是超越現(xiàn)實(shí)或現(xiàn)實(shí)中不存在，現(xiàn)在不存在，將來(lái)可能存在也可能不存在的倫理問(wèn)題。這類人工智能倫理大多是通過(guò)科幻影視小說(shuō)作品中的故事想象而來(lái)?，F(xiàn)實(shí)中的人們，出于某種心理需要，比較喜歡將這類尚不存在的倫理問(wèn)題放在現(xiàn)實(shí)背景中加以分析、討論，以期從中受到啟迪，未雨綢繆。這種人工智能倫理中的涉及的“人工智能”實(shí)際上遠(yuǎn)遠(yuǎn)超出了現(xiàn)代人工智能技術(shù)水平，由此產(chǎn)生的倫理問(wèn)題可能永遠(yuǎn)都是想象。這并不妨礙人們從中受到啟迪，正如機(jī)器人倫理正是起源于人類的幻想一樣。學(xué)習(xí)導(dǎo)言13.1超現(xiàn)實(shí)倫理概念與含義關(guān)于人工智能或機(jī)器人是否能夠毀滅人類并不是一個(gè)新鮮的話題。人類歷史上第一部關(guān)于機(jī)器人的話劇“羅素姆”就已經(jīng)展示了這樣的主題。在過(guò)去的一百年，大量的科幻小說(shuō)、影視劇作品已經(jīng)講述了各種人工智能具備自主意識(shí)并毀滅人類的故事，這些人工智能有的是地球上的科學(xué)家創(chuàng)造的，有的是來(lái)自外星球。關(guān)于這種現(xiàn)實(shí)中根本不存在的人工智能對(duì)于人類的潛在威脅及倫理問(wèn)題討論和思考一直經(jīng)久不衰。13.1超現(xiàn)實(shí)倫理概念與含義未來(lái)人類社會(huì)究竟會(huì)是一幅怎樣的呢？我們可以暢想人類社會(huì)的三種未來(lái)圖景。第一種是人類進(jìn)化成為超人類物種。這種技術(shù)及其倫理問(wèn)題我們已經(jīng)在第8章詳細(xì)討論過(guò)。第二種是人類依然保持對(duì)智能機(jī)器的控制，但出現(xiàn)難以消弭和日漸擴(kuò)大的智能化鴻溝。未來(lái)圖景之三是具有自我意識(shí)或類人屬性的智能機(jī)器掌控世界。

黑客帝國(guó)中控制人類的機(jī)器超現(xiàn)實(shí)倫理問(wèn)題指的是超越現(xiàn)實(shí)的人工智能引發(fā)的倫理問(wèn)題。思考這類問(wèn)題的意義在于提醒和警示今天的人類，對(duì)于人工智能的發(fā)展要未雨綢繆，防范未來(lái)可能出現(xiàn)的風(fēng)險(xiǎn)。超現(xiàn)實(shí)人工智能倫理在未來(lái)社會(huì)可能會(huì)出現(xiàn)，也可能不會(huì)出現(xiàn)，這取決于技術(shù)本身的發(fā)展，以及人類社會(huì)整體發(fā)展水平。無(wú)論如何，現(xiàn)在對(duì)于超現(xiàn)實(shí)人工智能倫理的討論對(duì)于人工智能技術(shù)的健康發(fā)展是有意義的。13.1超現(xiàn)實(shí)倫理概念與含義13.2科幻影視中的強(qiáng)人工智能倫理

總體上看，科幻影視中的強(qiáng)人工智能技術(shù)引發(fā)的問(wèn)題主要有兩種情況。

1.人工智能擁有自主決策能力進(jìn)而反客為主《西部世界》人類將機(jī)器人服務(wù)員定義為仆從者、愉悅工具，絕對(duì)凌駕于他們之上，肆無(wú)忌憚地展現(xiàn)出無(wú)比暴虐的本性，恣意殘害虐殺樂(lè)園里的類人機(jī)器人。該劇雖然是表現(xiàn)的是機(jī)器人反抗人類，實(shí)際上，通過(guò)機(jī)器人的視角展示了人類的人性中丑陋的一面，兇殘、貪婪、無(wú)恥等等?？苹脛　段鞑渴澜纭分杏X(jué)醒的女機(jī)器人開(kāi)始反抗人類13.2科幻影視中的強(qiáng)人工智能倫理《終結(jié)者》系列中的“天網(wǎng)”機(jī)器人，《機(jī)器姬》中的女機(jī)器人等也是此類威脅的代表。反客為主型的人工智能是人類所最為擔(dān)心的一種，這樣的人工智能完全顛倒了機(jī)器與人的關(guān)系。人類或被屠戮或被毀滅或被奴役，人類在智能機(jī)器面前像螞蟻面對(duì)強(qiáng)大的人類一樣茫然無(wú)助，毫無(wú)尊嚴(yán)可言。

終結(jié)者

機(jī)器姬2.有感情的人工智能與人類的關(guān)系在很多與機(jī)器人有關(guān)的科幻影視作品中，智能機(jī)器人擁有人類的屬性，如情感、意識(shí)、自由意志。這是更為人們所關(guān)注的。比如《阿童木》、《機(jī)器管家》、《人工智能》中等科幻電影中的機(jī)器人主角。這類科幻影視中的智能機(jī)器人啟發(fā)人們從機(jī)器人的角度出發(fā)考慮人與類人智能機(jī)器之間應(yīng)該是一種什么關(guān)系?！稒C(jī)器管家》和《人工智能》中的機(jī)器人13.2科幻影視中的強(qiáng)人工智能倫理13.3具有自我意識(shí)的人工智能人權(quán)倫理人權(quán)倫理，即人權(quán)中本身蘊(yùn)涵的基本倫理道德以及在一切人權(quán)制度、人權(quán)活動(dòng)中所體現(xiàn)出來(lái)的道德、價(jià)值和倫理關(guān)系以及應(yīng)遵循的道德原則、道德規(guī)范的總和?？梢韵胂?，具有自我意識(shí)或類人屬性會(huì)使得人的主體性、家庭結(jié)構(gòu)、市場(chǎng)構(gòu)成、社會(huì)關(guān)系、政治關(guān)系等的全面改變。具有自我意識(shí)的智能機(jī)器人或人工智能系統(tǒng)將不僅僅是簡(jiǎn)單的工具。人類和機(jī)器人也許有一天會(huì)變得密不可分，智能機(jī)器人可能被視為家庭中的一員，被視同為朋友，被視同為親人。這時(shí)的機(jī)器人對(duì)于人類來(lái)已經(jīng)不是附屬關(guān)系、主仆關(guān)系，而是與人類具有同等的地位和身份，享有同樣的權(quán)利。13.4具有自我意識(shí)的人工智能法律人格在人類法律史上，曾有過(guò)一段今天看起來(lái)很荒唐的歷史，從公元九世紀(jì)到公元十九世紀(jì)，西歐有兩百多件記錄在案的動(dòng)物審判，其中在公元1522年，一群老鼠因?yàn)閲澈推茐臍W坦教會(huì)教區(qū)內(nèi)的大麥作物而被指控犯有重罪。這樣看似可笑的案例給人類帶來(lái)的深刻啟示是：讓老鼠審判變得如此難以理解的，是歐洲文藝復(fù)興以來(lái)整個(gè)人類概念-關(guān)系框架，世界的整體性行為和感覺(jué)方式全面轉(zhuǎn)變的結(jié)果。這樣的整體思想的轉(zhuǎn)變，也適用當(dāng)今世界對(duì)人工智能的倫理和法律問(wèn)題的嚴(yán)肅思考和認(rèn)識(shí)。人工智能也正帶來(lái)與老鼠審判類似的難題。即具備自我意識(shí)或類人屬性的高等智能，是否可以擁有“法律人格”？正如歷史上曾經(jīng)站上被告席的老鼠，未來(lái)的智能機(jī)器人、人工智能或機(jī)器智能以及人機(jī)混合智能，甚至基于類腦智能形成人工智能體，將會(huì)以被告、原告甚至法官、律師和公證人的身份參與到新的法律游戲中。未來(lái)的民事主體不再只是自然人、法人，還有其他“非人”的各種人工智能形態(tài)。13.5機(jī)器本性與人性對(duì)于人性，哲學(xué)家們有先驗(yàn)論和經(jīng)驗(yàn)論之說(shuō)。先驗(yàn)論強(qiáng)調(diào)人類的性格是先天生成，人類通過(guò)繁衍獲得生命，人性向善，后天的培養(yǎng)只能是掌握控制性格的能力，然后通過(guò)實(shí)踐來(lái)培養(yǎng)世界觀、價(jià)值觀和人生觀。如果智能機(jī)器擁有了自我思維和自我意識(shí)，那么智能機(jī)器的本性是什么？它與人性有什么區(qū)別？是向善還是向惡？是否存在轉(zhuǎn)變的可能？其會(huì)失控嗎？為了自身價(jià)值、為了資源占有、為了尋找存在感、為了實(shí)現(xiàn)機(jī)器的目的和改造世界的需求，智能機(jī)器也會(huì)不斷完善和改造并最終形成自身的、不同于人類的世界觀、價(jià)值觀、人生觀。因此，參考人性的形成，這種超現(xiàn)實(shí)的智能機(jī)器的本性變化也是可能的。有了自我意識(shí)的智能機(jī)器與生物學(xué)意義上人類之間的關(guān)系注定變得復(fù)雜莫測(cè)。由此帶來(lái)對(duì)人類社會(huì)傳統(tǒng)的個(gè)體、家庭以及社區(qū)、組織、機(jī)構(gòu)和企業(yè)之間的倫理關(guān)系影響將是非常復(fù)雜的