《人工智能倫理導(dǎo)論》課件第13章人工智能超現(xiàn)實倫理

第13章超現(xiàn)實人工智能倫理

學(xué)習(xí)要點學(xué)習(xí)和了解超現(xiàn)實倫理概念與含義。學(xué)習(xí)和了解科幻影視中的強人工智能倫理問題。學(xué)習(xí)和了解自我意識的人工智能的倫理問題。

超現(xiàn)實人工智能倫理，就是超越現(xiàn)實或現(xiàn)實中不存在，現(xiàn)在不存在，將來可能存在也可能不存在的倫理問題。這類人工智能倫理大多是通過科幻影視小說作品中的故事想象而來?，F(xiàn)實中的人們，出于某種心理需要，比較喜歡將這類尚不存在的倫理問題放在現(xiàn)實背景中加以分析、討論，以期從中受到啟迪，未雨綢繆。這種人工智能倫理中的涉及的“人工智能”實際上遠(yuǎn)遠(yuǎn)超出了現(xiàn)代人工智能技術(shù)水平，由此產(chǎn)生的倫理問題可能永遠(yuǎn)都是想象。這并不妨礙人們從中受到啟迪，正如機器人倫理正是起源于人類的幻想一樣。學(xué)習(xí)導(dǎo)言13.1超現(xiàn)實倫理概念與含義關(guān)于人工智能或機器人是否能夠毀滅人類并不是一個新鮮的話題。人類歷史上第一部關(guān)于機器人的話劇“羅素姆”就已經(jīng)展示了這樣的主題。在過去的一百年，大量的科幻小說、影視劇作品已經(jīng)講述了各種人工智能具備自主意識并毀滅人類的故事，這些人工智能有的是地球上的科學(xué)家創(chuàng)造的，有的是來自外星球。關(guān)于這種現(xiàn)實中根本不存在的人工智能對于人類的潛在威脅及倫理問題討論和思考一直經(jīng)久不衰。13.1超現(xiàn)實倫理概念與含義未來人類社會究竟會是一幅怎樣的呢？我們可以暢想人類社會的三種未來圖景。第一種是人類進化成為超人類物種。這種技術(shù)及其倫理問題我們已經(jīng)在第8章詳細(xì)討論過。第二種是人類依然保持對智能機器的控制，但出現(xiàn)難以消弭和日漸擴大的智能化鴻溝。未來圖景之三是具有自我意識或類人屬性的智能機器掌控世界。

黑客帝國中控制人類的機器超現(xiàn)實倫理問題指的是超越現(xiàn)實的人工智能引發(fā)的倫理問題。思考這類問題的意義在于提醒和警示今天的人類，對于人工智能的發(fā)展要未雨綢繆，防范未來可能出現(xiàn)的風(fēng)險。超現(xiàn)實人工智能倫理在未來社會可能會出現(xiàn)，也可能不會出現(xiàn)，這取決于技術(shù)本身的發(fā)展，以及人類社會整體發(fā)展水平。無論如何，現(xiàn)在對于超現(xiàn)實人工智能倫理的討論對于人工智能技術(shù)的健康發(fā)展是有意義的。13.1超現(xiàn)實倫理概念與含義13.2科幻影視中的強人工智能倫理

總體上看，科幻影視中的強人工智能技術(shù)引發(fā)的問題主要有兩種情況。

1.人工智能擁有自主決策能力進而反客為主《西部世界》人類將機器人服務(wù)員定義為仆從者、愉悅工具，絕對凌駕于他們之上，肆無忌憚地展現(xiàn)出無比暴虐的本性，恣意殘害虐殺樂園里的類人機器人。該劇雖然是表現(xiàn)的是機器人反抗人類，實際上，通過機器人的視角展示了人類的人性中丑陋的一面，兇殘、貪婪、無恥等等?？苹脛　段鞑渴澜纭分杏X醒的女機器人開始反抗人類13.2科幻影視中的強人工智能倫理《終結(jié)者》系列中的“天網(wǎng)”機器人，《機器姬》中的女機器人等也是此類威脅的代表。反客為主型的人工智能是人類所最為擔(dān)心的一種，這樣的人工智能完全顛倒了機器與人的關(guān)系。人類或被屠戮或被毀滅或被奴役，人類在智能機器面前像螞蟻面對強大的人類一樣茫然無助，毫無尊嚴(yán)可言。

終結(jié)者

機器姬2.有感情的人工智能與人類的關(guān)系在很多與機器人有關(guān)的科幻影視作品中，智能機器人擁有人類的屬性，如情感、意識、自由意志。這是更為人們所關(guān)注的。比如《阿童木》、《機器管家》、《人工智能》中等科幻電影中的機器人主角。這類科幻影視中的智能機器人啟發(fā)人們從機器人的角度出發(fā)考慮人與類人智能機器之間應(yīng)該是一種什么關(guān)系。《機器管家》和《人工智能》中的機器人13.2科幻影視中的強人工智能倫理13.3具有自我意識的人工智能人權(quán)倫理人權(quán)倫理，即人權(quán)中本身蘊涵的基本倫理道德以及在一切人權(quán)制度、人權(quán)活動中所體現(xiàn)出來的道德、價值和倫理關(guān)系以及應(yīng)遵循的道德原則、道德規(guī)范的總和?？梢韵胂螅哂凶晕乙庾R或類人屬性會使得人的主體性、家庭結(jié)構(gòu)、市場構(gòu)成、社會關(guān)系、政治關(guān)系等的全面改變。具有自我意識的智能機器人或人工智能系統(tǒng)將不僅僅是簡單的工具。人類和機器人也許有一天會變得密不可分，智能機器人可能被視為家庭中的一員，被視同為朋友，被視同為親人。這時的機器人對于人類來已經(jīng)不是附屬關(guān)系、主仆關(guān)系，而是與人類具有同等的地位和身份，享有同樣的權(quán)利。13.4具有自我意識的人工智能法律人格在人類法律史上，曾有過一段今天看起來很荒唐的歷史，從公元九世紀(jì)到公元十九世紀(jì)，西歐有兩百多件記錄在案的動物審判，其中在公元1522年，一群老鼠因為嚙食和破壞歐坦教會教區(qū)內(nèi)的大麥作物而被指控犯有重罪。這樣看似可笑的案例給人類帶來的深刻啟示是：讓老鼠審判變得如此難以理解的，是歐洲文藝復(fù)興以來整個人類概念-關(guān)系框架，世界的整體性行為和感覺方式全面轉(zhuǎn)變的結(jié)果。這樣的整體思想的轉(zhuǎn)變，也適用當(dāng)今世界對人工智能的倫理和法律問題的嚴(yán)肅思考和認(rèn)識。人工智能也正帶來與老鼠審判類似的難題。即具備自我意識或類人屬性的高等智能，是否可以擁有“法律人格”？正如歷史上曾經(jīng)站上被告席的老鼠，未來的智能機器人、人工智能或機器智能以及人機混合智能，甚至基于類腦智能形成人工智能體，將會以被告、原告甚至法官、律師和公證人的身份參與到新的法律游戲中。未來的民事主體不再只是自然人、法人，還有其他“非人”的各種人工智能形態(tài)。13.5機器本性與人性對于人性，哲學(xué)家們有先驗論和經(jīng)驗論之說。先驗論強調(diào)人類的性格是先天生成，人類通過繁衍獲得生命，人性向善，后天的培養(yǎng)只能是掌握控制性格的能力，然后通過實踐來培養(yǎng)世界觀、價值觀和人生觀。如果智能機器擁有了自我思維和自我意識，那么智能機器的本性是什么？它與人性有什么區(qū)別？是向善還是向惡？是否存在轉(zhuǎn)變的可能？其會失控嗎？為了自身價值、為了資源占有、為了尋找存在感、為了實現(xiàn)機器的目的和改造世界的需求，智能機器也會不斷完善和改造并最終形成自身的、不同于人類的世界觀、價值觀、人生觀。因此，參考人性的形成，這種超現(xiàn)實的智能機器的本性變化也是可能的。有了自我意識的智能機器與生物學(xué)意義上人類之間的關(guān)系注定變得復(fù)雜莫測。由此帶來對人類社會傳統(tǒng)的個體、家庭以及社區(qū)、組織、機構(gòu)和企業(yè)之間的倫理關(guān)系影響將是非常復(fù)雜的