人工智能的倫理問題

1、人工智能的倫理問題的研究西北工業(yè)大學計算機學院2016302358 董正宇文檔人工智能的倫理問題研究董正宇（西北工業(yè)大學計算機學院，西安）摘 要：2016年3月，谷歌基于“深度學習”的圍棋人工智能程序AlphaGo以總比分4: 1戰(zhàn)勝“石佛”李世石，被譽為人類智慧王冠上的最后明珠的圍棋 也被人工智能“攻陷”。引發(fā)了全社會對于人工智能發(fā)展的空前關注。隨著人工 智能的快速發(fā)展，社會將如何應對和接納這一新的社會元素也成為了擺在人們 眼前的重要問題。本文將首先簡要的介紹人工智能的基本狀況、現(xiàn)今發(fā)展情況，再就人工智 能的可能發(fā)展做簡要探討，最后重點討論人工智能的倫理問題。關鍵詞：人工智能、深度學習、倫理

2、Abstract : March 2016, the Google s artificial intelligence program AlphaGo beatfamous go player Lee Se-dol by the total score of 4:1 which absorb a lot attention to the artificial intelligence. With the development of artificial intelligence, how to face this new element in our society is becoming

3、more and more important.The essay will firstly brief introduce the artificial intelligence and its situation, and then brief discuss about the future of artificial intelligence. Finally , I will mainly focus on the ethic of artificial intelligence.Key words: artificial intelligence文檔.人工智能技術簡介1人工智能技術

4、簡稱 AI(Artificial Intelligence) , AI 作為一門學科， 于 1956 年 問世，是由人工智能之父”麥卡錫 (McCartney)及一批數(shù)學家、信息學家、心理學家、神經(jīng)生理學家、計算機科學家在美 國Dartnouth大學召開的會議上首次提出來 的，它是在計算機科學、控制論、信息學、 神經(jīng)心理學、哲學、語言學等多種學科研究 的基礎上發(fā)展起來的一門綜合性的邊緣學 科。不過，關于人工智能技術的定義，至今 還沒有一個統(tǒng)一的表述，而且不同的學科以及不同學科背景的學者對人工智能技術有 著不同的理解與認識。廣義地講，人工智能技術是關于人造物的智能行為，這種智能行 為一般包括知覺

5、、學習、推理、交流以及在 復雜環(huán)境中的行為(Nilsson, 1998年)。另外， 從工程的角度來說，人工智能技術就是通過用人工的方法使機器具有與人類智慧有 關的功能，如判斷、推理、證明、感知、理 解、思考、識別、規(guī)劃、設計、學習和問題 求解等思維活動。它是人類智慧在機器上 的實現(xiàn)。弱人工智能技術和強人工智能技術一般來說，可以將人工智能技術分為弱 人工智能技術和強人工智能技術。其中，弱人工智能技術一般賦予機器的是某種既定 的、事先設定好了的程序指令，它只能對特 定的外界刺激做出相應的反應，而不能自己去改變。弱人工智能技術“根本沒有意向狀 態(tài)，它只是受電路和程序支配簡單地來回運 動而已”，故其所

6、表現(xiàn)出的智能及行為通常 能夠被人類控制，對人類并不會造成威脅。 弱人工智能技術不能使機器像人類那樣通 過自我學習來提高自己的智能，且缺乏自我 意識更沒有主動性而言。強人工智能技術則不同，強人工智能技 術能夠對外界環(huán)境的變化與刺激產(chǎn)生自我意識，且能夠對這些變化和刺激進行分析、 推理及判斷。強人工智能技術通常分為兩種： 一種是類人的人工智能技術，即這類機器有 著與人類相似的推理能力和思維方式；另 一種是非類人的人工智能技術，即這類機器具有自己的推理能力和思維方式，并有知覺和自我意識。強人工智能技術具有極大的智 能可以從其行為方式上得到體現(xiàn)：要么會按照人預先設定的指令具體去做什么，要么就根據(jù)具體環(huán)境

7、的需要去做什么，它通常能夠主動完成任務，而且其表現(xiàn)出的行為可以不 按照人類事先設計好的程序來執(zhí)行。對于弱人工智能技術的倫理討論是沒有意 義的，所以本文要討論的是強人工智能技術 的倫理問題。另一種人工智能的劃分方式或者我們可以將人工智能劃分為三個基本層次以及更高的層次。2.信息收集輔助與智能篩選信息收集輔助與智能篩選是最基礎的人工智能服務，現(xiàn)在已經(jīng)被廣泛使用。如目前的各類搜索引擎，其內(nèi)在都是采用智能化 的搜索機器人算法，在廣域的網(wǎng)絡中不斷讀 取分析，并匯集而來。當用戶在使用搜索引 擎時，根據(jù)用戶的搜索習慣，給出相對最有可能滿足用戶需求的排序結果。不同的個體 在使用同樣的關鍵詞進行檢索時，會得到不

8、同的結果。因此，從這個意義而言，最基礎 的人工智能早已經(jīng)進入人類社會中。信息收集輔助與智能篩選看似是最簡單的人工智 能領域，然而其難度和復雜度并不簡單。關 鍵的難度在于在大數(shù)據(jù)時代，如何有效地快 速獲取最有價值的信息。因此，如前所述， 大數(shù)據(jù)時代所產(chǎn)生的海量數(shù)據(jù)，是促生人工智能領域的最初和最重要的驅動。在這一層面，人工智能可以廣泛應用于各類信息獲取 需要的服務和反饋。文檔.識別應答接受模糊任務并完成人工智能 的早期使用如搜索數(shù)據(jù)，其最基礎的命令輸 入依然是要用固定形式的格式化命令來實現(xiàn)的。如搜索引擎的“關鍵字 +搜索”就是 一種格式化命令。然而人工智能的進一步發(fā) 展，是要求機器能夠識別人類相對

9、較為模 糊的自然語言命令并做出有效反應和完成 工作。在接到命令后，可以調(diào)動之前的搜索 功能提供信息，或者驅動行為部件實現(xiàn)特定動作。如人員可以命令“幫我找到XX信息”， “幫我提供XX方案”等機器則自動實現(xiàn)有效 信息和動作的反饋。在這一層面上，人工智 能將更廣泛地替代傳統(tǒng)僵化的人與機器的交互形式，以聲音、圖像、動作等多種交互 手段，并為人類提供更有效的決策與行為方 案參考并根據(jù)人的命令指示而完成工作。.自主的判斷與決策人工智能的第三個層面是要實現(xiàn)機器的自主判斷決策和相應的行為。在這一層面中，機器可以根據(jù)環(huán)境條件的變化自主決定 最優(yōu)的行動方案，從而在更大程度上模擬和 替代人的行為，并形成對前兩個層

10、面能力實 現(xiàn)統(tǒng)合，形成完整的人工智能功能體。目前廣泛所知的阿爾法狗程序就是在這一層面 的探索，其他如車載自動駕駛，自主無人機 以及更廣泛的人形機器人，都要在一定程度 上實現(xiàn)自主的判斷與決策。以上就是人工智能的三個最基本的層 次，當然，人工智能最高的層次是實現(xiàn)機器 自主意識的出現(xiàn)。這將遠超機器擁有自主的 判斷與決策能力層面，是否人能夠設計或 者機器將自我演化形成具有類似人的自我 意識乃至情緒、情感、好惡，將依然是一個 極為難以判斷的問題。也將產(chǎn)生更多的社會 影響，包括自主意識的機器智能體是否還是 機器和基本權利問題等等。.人工智能的發(fā)展現(xiàn)狀人工智能技術作為一項綜合性很強的 技術，其發(fā)展到目前，主

11、要應用領域有：專 家系統(tǒng)、人工生命、模式識別、定理證明、 機器人學、機器學習、自動程序設計、自然 語言處理、問題求解、人工神經(jīng)網(wǎng)絡、智能 決策系統(tǒng)等。人工智能正在經(jīng)歷由弱人工智能向著 強人工智能的轉變。以谷歌的最新人工智能程序Alpha GO為例，其依靠兩個“大腦”來進行整個圍棋中 的思維過程：落子選擇器(move picker)和 棋局評估器(position evaluator )。落子選擇 器基于大數(shù)據(jù)和云計算對于落子概率進行 評估，而棋局評估器針對落子選擇器所選擇 的可能結果進行分析評估雙方獲勝的可能 性在反饋給落子選擇器。通過這樣大量的運 算，來確定對自身最為有利的方案來進行棋 局。

12、其本質是利用了云計算的強大計算能力 來進行一種優(yōu)選后的窮舉運算，這種做法仍然不足以稱為思維“，但是優(yōu)選這一過程無 疑是向著這一方向邁出的重要一步。文檔總體來說，人工智能存在于現(xiàn)代生活的 方方面面，但是人工智能技術仍然沒有在 “能力“到”智力”的進程上取得突破性進展。.人工智能的未來發(fā)展由于本文需要討論的是人工智能的倫 理問題，所以在這里只探討會產(chǎn)生倫理問題 的強人工智能的發(fā)展問題，尤其是使人工智 能擁有類似人類思維能力和情感的人工智 能的發(fā)展。要做到擁有類似人類思維能力的人工 智能，現(xiàn)階段有兩種方式是最為可能的：其一，是通過大量的電子元器件完全模 擬人類的腦神經(jīng)網(wǎng)絡，神經(jīng)的興奮和抑制恰 好可以

13、與電路的高電頻和低電頻對應即其 很好的對應了計算機的以二進制為基礎的 語言。目前，人類已經(jīng)成功的模擬了小鼠的 大腦使得電子的小鼠腦產(chǎn)生了與實際小鼠 大腦相似的電波。這種方式理論上可以制造 出真正的人造人腦，但是，這種方式的問題 也是明顯的，即這樣的人造人腦在無法自行 建造的情況下，只能使其擁有人類某一特定 狀態(tài)的思維能力，沒有直接以神經(jīng)網(wǎng)絡模擬 的形式來獲取新知識的能力。其二，是制造可以不斷自我更新自我進 化的人工智能，隨著人工智能的不斷的自我 進化，其可以產(chǎn)生基于機器自身的邏輯體系 和思維方式。這種思維方式會與人類的思維 方式是有區(qū)別的，但是由于這種形式的人工 智能是程序不斷自我完善的產(chǎn)物，

14、所以，其思維模式等特征是較難預估的，這便產(chǎn)生了 人類無法控制人工智能發(fā)展的可能性。而且,零星的偏移就可能產(chǎn)生蝴蝶效應式的巨量 偏移，其對人類社會的存在造成的影響是不 可預知的?？偟膩碚f，擁有人類情感的人工智能是 可能的，但是仍面臨著技術難關和道德倫理 問題。.人工智能的道德倫理問題這部分將就幾個隨著人工智能的發(fā)展 可能浮現(xiàn)出的問題進行討論。思維存在是否人就存在33D活動模擬圖在結構上與人腦皮層相 同，如果復制后的 “電子人腦”能夠產(chǎn)生思維 意識，思維的存在是否就是人的存在呢？一方面認為思維的存在不等于人的存 在。人是一種自然存在物.自然屬性是人存 在的基本屬性.人的自然性首先是指人對于生命的擁

15、有。正如馬克思指出：“人直接地 是自然存在物。？?而且作為有生命的自然存 在物?！?一個人如果離開了 對于自己生命的 擁有，那么他將不復存在。因此，人的存在 首 先是對自身生命和身體的擁有。其次，在自然存在的前提下，人是一種社會存在物和精神存在物.社會屬性和精神 屬性是人類特有的屬性。人作為社會動物， 必然在相互交往的過程中發(fā)生人與人之間、 人與社會之間的聯(lián)系。馬克思說：“人的本質 并不是單個人所固有的抽象物，在其現(xiàn)實性 上，它是一切社會關系的總和。”同時馬克思 實踐唯物主義強調(diào)實踐作為人的存在的基 本方式，是實踐創(chuàng)造人本身。 人類的思維意 識在實踐活動中得到了豐富，并且實踐使人 的活動具有社

16、會性。人的存在既是人的自然 屬性、社會屬性和精神屬性的統(tǒng)一又是認識 活動、實踐活動的統(tǒng)一。然而，“電子人腦” 僅僅復制的是人腦的承載思維的物質基礎。 沒有了生命和身體，離開自然環(huán)境，脫離了 社會環(huán)境。即使存在思維意識也將變得孤立， 認識無從談起，實踐無從談起。更不能當作 是人的存在。另一方面，認為思維的存在即人的存在。 黑格爾認為人的本質是一個能夠“思考自己”， 即具有自我意識的精神實體， 是一個能夠擺 脫物質必然性的束縛而實行獨立自決的自 由的精神實體，人即精神，精神即人。宗教 哲學中將人看做是有靈魂的生物，他們認為文檔每個人都是有靈魂的， 靈魂所指就是人類的 思維意識。同樣，在醫(yī)學界有著“

17、腦死亡”的說法，思維活動的停止標志著生命的完結。 因此，在某種程度上來說，思維意識更是標 志一個人存在而永恒不變的東西，思維的存在即人的存在?！半娮尤四X”即使不能達到與人類相同程 度的思維意識。即使是低一級或者遲鈍的思 維意識，都同樣可以看做強 AI研究的成功， 因為思維意識產(chǎn)生規(guī)律的發(fā)現(xiàn)將使人工智 能逐漸向著人類智能邁進，而且將來為“電 子人腦”安裝各種傳感設備來代替人類感覺器官是極為容易的事情， 接收外界環(huán)境的 感知也將不再是難題， 那么高級智能的產(chǎn)生 也將僅僅是時間問題。其次，網(wǎng)絡技術的普及和發(fā)展使得網(wǎng)絡對人們的影響不斷加深， 如今人們除了現(xiàn)實存在外，還在虛擬世界里 有著虛擬存在，通過網(wǎng)

18、絡，人們能足不出戶 對客觀世界進行認識與實踐，或者說認識方 式與實踐方式隨著網(wǎng)絡技術的發(fā)展而改變。第一，通過網(wǎng)絡。人們能夠對想要了解 的事物有一個基本的認識。網(wǎng)上交流、聊天 能獲得自己需要的信息， 并建立起新的社會 關系。第二，通過網(wǎng)絡。改變了人類的實踐方 式。人類的實踐 活動是一種目的性活動。 列 寧曾經(jīng)簡潔地提出一個公式：“人的實踐=要求+外部現(xiàn)實性”問。網(wǎng)絡恰好滿足這種“要 求和外部現(xiàn)實性”，為虛擬實踐提供可能。因 此，我們可以設想如果“電子人腦”與網(wǎng)絡相 聯(lián)接.即使在缺少自然生命和身體的情況下。 其思維意識同樣能夠與現(xiàn)實社會的人溝通、 交流并在網(wǎng)上進行認識實踐活動，如在網(wǎng)上實現(xiàn)現(xiàn)實物品

19、的買賣、網(wǎng)絡視頻會議等。而 且認識實踐活動中將逐步建立起相應的社 會關系。其社會屬性和精神屬性都將得到實 現(xiàn)，如果那樣我們還能將這些沒有生命的 “電子人腦”當作機器看待嗎？有感情有意識的人工智能是否應該享有人權假設某一人工智能可以擁有和人類一 樣的情感和意識，那么對于該人工智能體的 界定便面臨了巨大的挑戰(zhàn)。人類是否應該僅 僅作為其創(chuàng)造者的身份與該人工智能相處？ 該人工智能是否應該享有同人類相同各種 權利？當這樣的人工智能體的數(shù)量極其稀 少時這樣的問題并非明顯， 但是一旦擁有自 我意識的人工智能數(shù)量達到一定限度時，矛盾便凸顯了出來。對于擁有自我意識的人工 智能在社會中的地位界定是需要提前進行 的，只有擁有了正確的明確定位后，擁有自 我意識的人工智能體才不會給社會的健康 發(fā)展帶來不利影響。什么才是對于人工智能正確的定位？ 絕不是簡單的使其擁有和普通人類完全相 同的人權。做一個極端情況的假設，由于人 工智能在大量領域能力是遠遠超過人類所 具備的能力的，以個體的利己