智能機(jī)器外觀設(shè)計(jì)中的自我謬誤與反思,倫理學(xué)論文

智能機(jī)器外觀設(shè)計(jì)中的自我謬誤與反思,倫理學(xué)論文摘要：智能機(jī)器的外觀設(shè)計(jì)存在擬人化傾向，擬人化設(shè)計(jì)背后是一種對(duì)自我的內(nèi)在假設(shè)，以為智能機(jī)器想要符合道德共同體的道德標(biāo)準(zhǔn)，就必須具有與共同體內(nèi)部成員類似的道德圖像。本文以為這種對(duì)道德圖像的認(rèn)識(shí)導(dǎo)致了一種自我錯(cuò)誤。這種錯(cuò)誤理解會(huì)在個(gè)體層面導(dǎo)致道德身份同一的問(wèn)題，在群體層面產(chǎn)生中心化的問(wèn)題。而自我錯(cuò)誤反映到智能機(jī)器的道德自我上，表現(xiàn)為自我與他者混淆、絕對(duì)對(duì)象化和道德圖像的不對(duì)稱；反映到外觀設(shè)計(jì)上就是內(nèi)在假設(shè)的自我主導(dǎo)機(jī)器的道德圖像。而環(huán)境假設(shè)的自我能夠克制自我錯(cuò)誤帶來(lái)的問(wèn)題，其在設(shè)計(jì)上主張客體圖像的獨(dú)立性、它者行為的差異性和互動(dòng)關(guān)系的去道德化，進(jìn)而構(gòu)建一種成認(rèn)它者性道德的設(shè)計(jì)途徑。本文關(guān)鍵詞語(yǔ)：智能機(jī)器;道德圖像;設(shè)計(jì)倫理;Abstract：Theappearancedesignofintelligentmachineshasthetrendtobemoreanthropomorphicthanbefore,inordertoproducemoreaffinityformachinestobeacceptedbytheirusers.Theinherenthypothesisofselfbehindthisanthropomorphismclaimsthatonlythemoralimagesimilartothatofthemembersofmoralcommunitiescansecuretheappropriateperformanceofamoral-selfofmachines.Thispaperconsidersthismoral-selfasafallacyofself.Itcreatestheproblemofmoralidentityattheindividuallevel,andtheproblemofcentralizationatthegrouplevel.Forthehypotheticalmoral-selfofintelligentmachines,thefallacyofselfcausesthemixtureofselfandothers,theabsoluteobjectification,andtheasymmetryofthemoralimage.Forthedesignofappearance,thefallacyledtoamoralimageofmachinesdominatedbytheinherenthypothesisofself.Theselfofenvironmentalhypothesesisawaytoovercomethefallacyofself.Indesign,itproposestheindependenceofothersimage,thedissimilarityofothersactionandthede-moralizationofinterrelationships.Basedonthat,therefore,wecanestablishadesignapproachthatadmitsthemoralityofotherness.Keyword：Intelligentmachine;Moralimage;Designethics;在關(guān)心機(jī)器人或治療機(jī)器人的設(shè)計(jì)中，其外觀或互動(dòng)方式常以兒童或者動(dòng)物的形象出現(xiàn)，其外形偏向于球體或者毛絨、柔軟的設(shè)計(jì)。外表上看來(lái)，這是為了使得用戶自然地產(chǎn)生親近感。但實(shí)際上，其蘊(yùn)含了人對(duì)智能機(jī)器這種技術(shù)物的道德圖像的考慮。一、智能機(jī)器的道德圖像社會(huì)機(jī)器人〔socialrobot〕是當(dāng)前與普通人在生活中產(chǎn)生最多交際的智能機(jī)器，而具有治療或者陪伴功能的關(guān)心機(jī)器人是華而不實(shí)最典型的一類。關(guān)心機(jī)器人的倫理問(wèn)題近年來(lái)得到普遍關(guān)注，首先是由于來(lái)機(jī)器人學(xué)的飛速發(fā)展，智能機(jī)器本身帶來(lái)的倫理問(wèn)題得到了人們的重視；其次是由于老齡化的加速，使得關(guān)心機(jī)器人成為一種能夠預(yù)見(jiàn)的社會(huì)必需品。[1]，[2]華而不實(shí)主要的倫理問(wèn)題有：1.隱私問(wèn)題。機(jī)器人在與人進(jìn)行互動(dòng)時(shí)需要采集數(shù)據(jù)加以分析，不管是對(duì)人的直接攝像，還是行為形式的數(shù)據(jù)化都會(huì)帶來(lái)隱私問(wèn)題。2.減少人與人之間的交往并影響社交質(zhì)量。關(guān)心機(jī)器人會(huì)強(qiáng)化與使用者之間的關(guān)系，減少使用者與其他社會(huì)成員之間的交往時(shí)間，并且關(guān)心機(jī)器人本身的陪伴質(zhì)量也遭到人們的質(zhì)疑。3.改變了照料本身的含義。從效率出發(fā)，照料的提供者與照料的接受者之間需要通過(guò)機(jī)器中介來(lái)進(jìn)行，由此怎樣有效的利用關(guān)心機(jī)器人，是使用者與設(shè)計(jì)者雙方共同的問(wèn)題。[3]基于以上的倫理問(wèn)題，有些學(xué)者以為如今的社會(huì)機(jī)器人存在倫理缺陷。例如在醫(yī)療機(jī)器人的使用中，假如病人真的以為關(guān)心機(jī)器人是在照料他們，那么他們就會(huì)處于風(fēng)險(xiǎn)之中，甚至?xí){到病人的尊嚴(yán)和自主性，造成感情上的傷害。[4]人之所以相信機(jī)器人是在照料他們，是由于機(jī)器人具有某種機(jī)器人其實(shí)并不具有的屬性。正是由于這種錯(cuò)誤的信念，人才會(huì)有意無(wú)意地感遭到機(jī)器人的關(guān)心與愛(ài)，并以為自個(gè)從中受益。[5]而有些學(xué)者支持關(guān)心機(jī)器人的使用，以為我們?cè)谏钋羞M(jìn)入考慮人與機(jī)器的關(guān)系時(shí)，也必須去除對(duì)人與人之間關(guān)系的成見(jiàn)。[6]就像機(jī)器人將要大規(guī)模應(yīng)用的今天一樣，人與人的當(dāng)代性關(guān)系也經(jīng)歷過(guò)一個(gè)大規(guī)模的推廣、應(yīng)用時(shí)期，并且這種非傳統(tǒng)關(guān)系一直延續(xù)到今天。在這些倫理爭(zhēng)論的背后，有一個(gè)看起來(lái)外表化、但卻事關(guān)人機(jī)互動(dòng)本質(zhì)的問(wèn)題，那就是外觀形象設(shè)計(jì)問(wèn)題。在面對(duì)電子通訊的圖像或者機(jī)器人時(shí)，我們更為注重其外觀所呈現(xiàn)的東西。[7]所謂外觀，不僅指其靜態(tài)的形象，還指其行為的形式，總的來(lái)講就是機(jī)器人的外在表現(xiàn)，包括外形、材質(zhì)、行為舉止，甚至表示出的邏輯。我們之所以覺(jué)得機(jī)器的行為能夠在倫理維度討論，一個(gè)重要的原因就是我們把機(jī)器進(jìn)行了擬人化〔anthropomorphism〕的處理。我們只要覺(jué)得是人，而不是機(jī)器在照顧我們，才會(huì)從關(guān)心的經(jīng)典意義上來(lái)考慮這個(gè)問(wèn)題。因而，擬人化的外觀設(shè)計(jì)就是把機(jī)器人的外觀形象設(shè)計(jì)得無(wú)限接近于人。雪莉特克爾〔SherryTurkle〕、馬蒂亞斯舒爾茨〔MatthiasScheutz〕等人指出把機(jī)器人擬人化并在這里基礎(chǔ)上建立人機(jī)關(guān)系，是對(duì)人與人之間關(guān)系的毀壞。〔[4]，p.173〕但是現(xiàn)實(shí)情況是，機(jī)器人已經(jīng)在諸多領(lǐng)域成為了社會(huì)行動(dòng)的一分子，人不可避免地與機(jī)器人建立了親密關(guān)系。彼得辛格〔PeterSinger〕甚至指出在一些戰(zhàn)地故事中，兵士會(huì)冒著生命危險(xiǎn)去拯救機(jī)器人?！瞇4]，p.175〕在這些事例中，擬人化通過(guò)起名字等表示出接納的行為而實(shí)現(xiàn)，人們會(huì)以一些歡迎儀式和準(zhǔn)入方式來(lái)賦予一個(gè)純粹技術(shù)物以同伴的身份。因而，假如一個(gè)關(guān)心機(jī)器人在擬人化上非常成功，我們似乎就能夠接受其為社會(huì)的一員，并建立親密關(guān)系；而假如擬人化不成功，我們就會(huì)以為這個(gè)機(jī)器人不能承當(dāng)與社會(huì)關(guān)系相關(guān)的任務(wù)。在倫理上存在這樣一個(gè)邏輯：外觀上越擬人，我們就容易把其納入到道德的考慮范圍內(nèi)；而外觀與人差距越大，我們?cè)讲粫?huì)考慮其道德方面存在的問(wèn)題。這個(gè)邏輯被應(yīng)用到社會(huì)機(jī)器人設(shè)計(jì)之中，導(dǎo)致所有社會(huì)機(jī)器人的外觀設(shè)計(jì)，都傾向于具有某種擬人的、使人親近的特點(diǎn)。實(shí)際上這是我們?cè)诟鶕?jù)自個(gè)的道德圖像要求，來(lái)構(gòu)建自個(gè)的人工物。這種設(shè)計(jì)理念的來(lái)源是人對(duì)自我道德圖像的認(rèn)識(shí)。不管一個(gè)人的行為能否經(jīng)常符合道德要求，這個(gè)人自個(gè)都希望自個(gè)的形象是正面的、道德的。這就是個(gè)人的道德圖像〔moralself-image,MSI〕，道德圖像提供了一種道德向心力，使人為了竭力維持自我的道德圖像而努力。[8]同樣，人在與他者交往的經(jīng)過(guò)中，也在理解、感悟與期望著他者的道德圖像。想要把機(jī)器人納入到社會(huì)交往活動(dòng)中，就需要機(jī)器人自個(gè)的道德圖像。這不只是為了塑造其本身的道德特性，更是為了知足我們本身認(rèn)知、感受它者道德圖像的需求。那么智能機(jī)器人的道德圖像是由什么構(gòu)成的？我們?cè)鯓訕?gòu)建作為一個(gè)獨(dú)特道德能動(dòng)者的自我圖像，又是如何幫助其他所謂的非道德能動(dòng)者構(gòu)建既屬于它們、但又只為我們而存在的道德圖像？只要考慮了這些問(wèn)題之后，才能從根本上回答擬人化設(shè)計(jì)所帶來(lái)的倫理問(wèn)題。二、智能機(jī)器外觀設(shè)計(jì)中的自我錯(cuò)誤想要討論智能機(jī)器的道德圖像，就要先梳理人的道德圖像。自我位居于道德圖像的中心，有什么樣的道德自我，就有什么樣的道德身份。道德身份直接構(gòu)成道德圖像，人的道德身份與其所處的道德共同體〔moralcommunity〕息息相關(guān)。而道德共同體的排他性使得人的道德圖像在具有朝向自我的向心力的同時(shí)，也具有排擠其他非共同體內(nèi)部成員的排他傾向，這實(shí)際上這是一種自我錯(cuò)誤的具體表現(xiàn)出。1.道德自我道德準(zhǔn)則經(jīng)常具有很大范圍的普遍性，是一種需要共同遵守的規(guī)定。例如康德就以為道德準(zhǔn)則應(yīng)該在本質(zhì)上是普遍有效的，否則就不能算是真正的道德準(zhǔn)則。但是關(guān)于個(gè)人化準(zhǔn)則的討論也沒(méi)有停止過(guò)，從古希臘開(kāi)場(chǎng)的道德討論很多都關(guān)注個(gè)人道德選擇，例如此多葛學(xué)派。西塞羅就講，只要卡托這個(gè)人的自殺是道德的。[9]這種對(duì)倫理準(zhǔn)則的認(rèn)識(shí)是基于獨(dú)有的自我觀念。所以講，個(gè)人化準(zhǔn)則的根據(jù)在于第一人稱的觀點(diǎn)，即從自我的經(jīng)歷體驗(yàn)與身體知覺(jué)出發(fā)?！瞇9]，p.37〕這時(shí)自我能夠分解為兩個(gè)自我考慮的方式，一個(gè)是從個(gè)性〔individuality〕出發(fā)，討論自我意識(shí)與主體性；另一個(gè)是從心理功能的統(tǒng)合性出發(fā)，討論人際與社會(huì)的介入能力、對(duì)象性理解?！瞇9]，p.37〕第一種自我是我們常講的作為道德能動(dòng)者的自我，第二種自我是一種共同性自我，強(qiáng)調(diào)社會(huì)成員之間在倫理取向上的共通之處。但這種共同性是一種假設(shè)，由于只要第一種自我才是詳細(xì)討論自我內(nèi)部，而第二種自我只是基于自我的存在而直接進(jìn)行道德活動(dòng)的功能性假設(shè)。這種共同性假設(shè)的核心就是，我們相信自個(gè)具有某種本質(zhì)，這種本質(zhì)與其他主體的本質(zhì)之間有某種共同性。我們之所有覺(jué)得社會(huì)中的別人或者他者具有某種道德上的可討論性，或者直白地講，值得我們考慮，就是由于我們以為其具有某種共通性的個(gè)人品質(zhì)，某種被共同體所接受的個(gè)人塑造的品質(zhì)〔theperson-makingqualities〕。[10]道德自我與道德目的通常是分開(kāi)的。道德向心力〔moralcentrality〕是考察自我與動(dòng)機(jī)關(guān)系時(shí)的一個(gè)重要概念。并不是由于特定的道德目的驅(qū)動(dòng)，人就能夠做出符合自我需求的道德行為。[11]分層解釋理論〔ConstrualLevelTheory,CLT〕以為對(duì)行為原因不同層面的解釋，能夠模擬出非理性的自我目的設(shè)定。[12]不管怎樣精細(xì)化地分析道德目的，道德目的并不直接構(gòu)成道德圖像，只要道德向心力才是直接原因。道德向心力不為實(shí)現(xiàn)直接的、特定的道德行為而存在，而是為了構(gòu)成共同性假設(shè)下的群體內(nèi)在一致性而存在。從個(gè)人層面講，這種向心力構(gòu)成了道德身份；而從群體層面講，這種向心力構(gòu)成了道德共同體。道德身份是自我的獨(dú)特性所在，在之前的哲學(xué)討論中，身體上的延續(xù)性與一致性是身份同一的核心。而2000年之后，人們開(kāi)場(chǎng)把心理上的延續(xù)性作為身份同一的重要方面。[13]人希望在與他者的互動(dòng)中不斷強(qiáng)化自我觀念，這時(shí)對(duì)他者的經(jīng)歷體驗(yàn)就是對(duì)一種自我對(duì)象〔selfobject〕的經(jīng)歷體驗(yàn)。[14]要想在機(jī)器身上獲得如此強(qiáng)大的自我認(rèn)同，就需要機(jī)器有極高的擬真度，即人越是能在機(jī)器身上獲得自我經(jīng)歷體驗(yàn)，機(jī)器就越接近于人，機(jī)器就越接近道德能動(dòng)者。這是人工道德能動(dòng)者討論中一個(gè)重要的錯(cuò)誤觀念，稱之為自我錯(cuò)誤。自我錯(cuò)誤即具體表現(xiàn)出了道德身份同一性的問(wèn)題，又中心主義的問(wèn)題。2.中心主義的道德共同體倫理學(xué)家也試圖讓倫理包含他者，但是人類中心主義的，或者在道德認(rèn)知意義上的自我中心主義的方式方法論框架，在處理別人、動(dòng)物、環(huán)境、機(jī)器等他者時(shí)，采取了一種復(fù)原論的態(tài)度，強(qiáng)行把他者通過(guò)類比或誤解的方式，納入到傳統(tǒng)的自我中心主義框架中。[10]這外表上擴(kuò)大了倫理考慮的范圍，實(shí)際上還是一種只把自我屬性作為可考慮內(nèi)容的倫理傾向。斯拉沃熱齊澤克〔Slavoj?i?ek〕把這種趨勢(shì)描繪敘述為：他者性的本質(zhì)，就是另一種共同性,一種展現(xiàn)我們要控制他者的決心的構(gòu)造?！瞇15]，p.161〕這種構(gòu)造的現(xiàn)實(shí)表現(xiàn)就是道德共同體。道德共同體是中心化的詳細(xì)呈現(xiàn)，這種中心化是超越所謂的人類中心主義的。共同體的成員沒(méi)有區(qū)別人與非人，更沒(méi)有許諾把所有人類都納入到共同體。共同體的標(biāo)準(zhǔn)更具有地方性，能夠區(qū)別地看待不同道德共同體之間的文化、社會(huì)差異，而不像是人類中心主義那樣預(yù)設(shè)了一個(gè)抽象的人類共同體。人類中心主義在行使歧視性標(biāo)準(zhǔn)的同時(shí)，本身就是一種對(duì)人類內(nèi)部的歧視。歷史上西方社會(huì)就一度以為白人男性是道德共同體的成員，而女性和非白人不是。[16]這不是一種理性的標(biāo)準(zhǔn)，而是感性的成見(jiàn)。這種劃分與我們前面提到的排他性經(jīng)過(guò)一致，但是區(qū)別在于，排他性經(jīng)過(guò)遵循一種內(nèi)在的理性邏輯，其能夠歷史地看成是人類道德知識(shí)演化的經(jīng)過(guò)；而道德共同體成員標(biāo)準(zhǔn)的變化，沒(méi)有嚴(yán)格遵循這個(gè)演化經(jīng)過(guò)，它能夠是根據(jù)非理性的標(biāo)準(zhǔn)，例如種族主義；可以以是根據(jù)理性的標(biāo)準(zhǔn)，例如能否具有自我意識(shí)與理性等。但是，兩者的共同之處都在于，其有排他性傾向，并保持總是有標(biāo)準(zhǔn)之外的它者存在，而這些它者由于共同體或中心主體的存在而沒(méi)有道德地位。排他性道德共同體的存在本身就是在挑戰(zhàn)每個(gè)成員內(nèi)在的道德性。每一次道德共同體的擴(kuò)大，都是對(duì)原來(lái)成員本身的道德本質(zhì)的質(zhì)疑，迫使共同體內(nèi)部的每個(gè)人考慮這樣兩個(gè)問(wèn)題：1.共同體的道德標(biāo)準(zhǔn)。這個(gè)道德標(biāo)準(zhǔn)是在下降還是上升？是我們接納了新成員，還是被接納為新團(tuán)體？我們是修改了自個(gè)的道德標(biāo)準(zhǔn)，還是重新認(rèn)識(shí)了自個(gè)的道德本質(zhì)？不管理論上應(yīng)該怎樣回應(yīng)，但是事實(shí)上，道德共同體擴(kuò)大的經(jīng)過(guò)，也是道德等級(jí)構(gòu)成的經(jīng)過(guò)；參加道德共同體越晚，在道德上的地位越低。2.共同成員的道德本質(zhì)。為什么原來(lái)只要這樣的主體有資格被道德地考慮，而如今那樣的主體卻獲得了同樣的資格？新成員與舊成員之間在道德本質(zhì)上有什么異同？新成員在自我層面能否還具有同樣朝向的向心力？現(xiàn)如今，道德本質(zhì)問(wèn)題直接導(dǎo)致了我們對(duì)于未進(jìn)入的道德主體，以及剛進(jìn)入的道德主體仍持有懷疑態(tài)度。我們以為這些主體的道德能力只是表征層面或者功能上成立，實(shí)際上其仍然沒(méi)有從其自我層面擁有成為共同體一員的資格。這兩個(gè)問(wèn)題構(gòu)成了中心論意義上的自我錯(cuò)誤。3.自我錯(cuò)誤帶來(lái)的人工物道德窘境綜上所述，自我錯(cuò)誤的現(xiàn)實(shí)問(wèn)題，就是我們依靠舊共同體的道德標(biāo)準(zhǔn)，來(lái)考慮內(nèi)部成員的道德自我，以及外部它者的道德自我。因而，自我錯(cuò)誤會(huì)非常直接地遭到三個(gè)挑戰(zhàn)：(1〕人的自我同一問(wèn)題古典哲學(xué)以為，創(chuàng)造人工物的活動(dòng)就是自我見(jiàn)之于自我的活動(dòng)。對(duì)這個(gè)觀點(diǎn)的誤讀導(dǎo)致人們以為，人工物就是一個(gè)自我客體。這忽視了黑格爾等古典哲學(xué)家們普遍具有的經(jīng)過(guò)思想。創(chuàng)造活動(dòng)是一種見(jiàn)之于自我的活動(dòng)，但人工物不是見(jiàn)之于自我的客體。首先，創(chuàng)造活動(dòng)是人能動(dòng)性的反映經(jīng)過(guò)，在對(duì)象性中斷時(shí)，人一心一意地投入到自個(gè)延展自我的活動(dòng)中，是一種見(jiàn)之于自我的經(jīng)過(guò)。然后，當(dāng)人工物構(gòu)成時(shí)，物質(zhì)性與對(duì)象性重新回歸，人開(kāi)場(chǎng)審視這個(gè)異己之物與異己之自我，它者正式構(gòu)成。人工物在這個(gè)意義上與自然物并沒(méi)有本質(zhì)的區(qū)別，物質(zhì)性與對(duì)象性帶來(lái)的異己感是其核心。因而不能講人工物是一個(gè)自我客體，而只能講人工物的誕生經(jīng)過(guò)是出于人見(jiàn)之于自我的需要。(2〕控制問(wèn)題人真的能從人工物或自然物之中加強(qiáng)自我觀念嗎？這種嘗試一直存在，但是效果欠佳，由于人類歷史上的強(qiáng)化自我概念的行為都是從社會(huì)關(guān)系中來(lái)實(shí)現(xiàn)的。是主客、統(tǒng)治與被統(tǒng)治等傳統(tǒng)關(guān)系的不斷強(qiáng)化，使人能從控制他者的活動(dòng)中獲得自我的強(qiáng)化?？刂疲莿?chuàng)造，才是經(jīng)典自我觀念的外化經(jīng)過(guò)。舊的倫理原則也是基于此來(lái)建立的，所有的傳統(tǒng)倫理原則都強(qiáng)調(diào)人與人之間的關(guān)系，并且是傾向于維持關(guān)系而不是毀壞關(guān)系。這種設(shè)置在今天視為先驗(yàn)的、理所應(yīng)當(dāng)?shù)?，其根本?lái)源就是自我的控制需求。但是當(dāng)代性開(kāi)場(chǎng)以后，人類創(chuàng)造的經(jīng)過(guò)還是那樣被理解為控制的經(jīng)過(guò)，導(dǎo)致了用控制的倫理來(lái)理解創(chuàng)造的倫理，必然面臨問(wèn)題。而人工物即使在今天獲得了宏大突破，也在由于控制的倫理而不斷被束縛與誤解。(3〕不確定性問(wèn)題確定性是哲學(xué)的一大追求，直到20世紀(jì)，杜威的實(shí)用主義還在追求技術(shù)社會(huì)中確實(shí)定性。確定性是與追求自我的觀念相聯(lián)絡(luò)的，而不確定性是與追求他者的觀念相聯(lián)絡(luò)的。確定性最后的喪失，與人們轉(zhuǎn)而追求非構(gòu)造的、后當(dāng)代的自我觀念，預(yù)示了他者倫理將要取代自我倫理。而人工物倫理作為一種過(guò)渡，既是自我外化的表現(xiàn)，又是他者性的載體。需要先建立人工物倫理，再建立他者倫理，進(jìn)而扭轉(zhuǎn)中心論、自我論的倫理。因而，人工物也不應(yīng)該在自我倫理的意義上是一種道德能動(dòng)者。由于能動(dòng)性作為自我道德能力的一種表現(xiàn)，對(duì)于道德他者性沒(méi)有奉獻(xiàn)。即使自我之外的它者能夠在傳統(tǒng)意義上成為某種程度的能動(dòng)者，也只是在自我的序列中爭(zhēng)取到了一定的地位，遠(yuǎn)獲得他者應(yīng)有的倫理地位。三、自我的環(huán)境假設(shè)對(duì)自我錯(cuò)誤的反思道德自我與個(gè)人、記憶和欲望都有直接的關(guān)系，甚至與未反思、加工的認(rèn)知體驗(yàn)和知覺(jué)也有關(guān)聯(lián)。但最主要的是，道德自我與一個(gè)在社會(huì)環(huán)境中所處的位置有嚴(yán)密聯(lián)絡(luò)。[13]很多學(xué)者以為，機(jī)器當(dāng)前沒(méi)有意識(shí)與自我，因而也沒(méi)有道德?tīng)顟B(tài)，也就沒(méi)有自我道德圖像。這種觀點(diǎn)是站著一種道德能動(dòng)性的自我視角之上，以為自我觀念與意識(shí)功能是道德個(gè)體的基礎(chǔ)。這種觀點(diǎn)存在兩個(gè)問(wèn)題，首先個(gè)體概念不以個(gè)體能力為基礎(chǔ)，我們成認(rèn)個(gè)體存在是以異己性為根據(jù)，而不是以其能力大小以及與我們的類似程度為根據(jù)。對(duì)于植物人等類型的病人，我們?nèi)匀怀烧J(rèn)其個(gè)體性與生存資格；對(duì)于詳細(xì)的植被，甚至抽象的生態(tài)圈層，如今環(huán)境倫理都成認(rèn)其道德地位。顯然以與人一樣的能力作為道德可考慮性的根據(jù)，已經(jīng)過(guò)時(shí)。其次，道德的概念不以自我為基礎(chǔ)，而是以互動(dòng)和關(guān)系為基礎(chǔ)。我們考察詳細(xì)情境中每個(gè)能動(dòng)者對(duì)共同體規(guī)則的遵守程度，而不是考察每個(gè)能動(dòng)者的內(nèi)部道德?tīng)顟B(tài)。假如經(jīng)典的道德個(gè)體觀念存在問(wèn)題，那么對(duì)于機(jī)器等人工物的道德能動(dòng)性就會(huì)有新的解釋。當(dāng)前智能機(jī)器還沒(méi)有自我觀念和類人的意識(shí)能力，但是機(jī)器在被使用的經(jīng)過(guò)中處于一種互動(dòng)關(guān)系中。對(duì)于作為使用者的我們，需要從它者的視角，而不是自我的視角，來(lái)區(qū)分它者的兩種道德自我。一種是內(nèi)在假設(shè)的自我，即基于他心內(nèi)部的道德?tīng)顟B(tài)來(lái)生成的道德身份，來(lái)構(gòu)建和維持的他者的道德圖像。另一種是環(huán)境假設(shè)的自我，即自我的道德形象具體表現(xiàn)出在詳細(xì)的互動(dòng)環(huán)節(jié)中，我們會(huì)依靠肢體動(dòng)作、表情、話語(yǔ)等因從來(lái)理解與構(gòu)建別人的道德圖像。對(duì)于環(huán)境假設(shè)的自我的疑問(wèn)在于，人能夠拋開(kāi)內(nèi)部狀態(tài)來(lái)單純的討論意義環(huán)境嗎？其實(shí)，互動(dòng)中的道德圖像能夠不基于內(nèi)在狀態(tài)。梅洛龐蒂就以為在主體互動(dòng)關(guān)系中，內(nèi)在狀態(tài)并不扮演主要角色。梅洛龐蒂?zèng)]有否認(rèn)互動(dòng)關(guān)系就有內(nèi)在性，但是他在對(duì)話這種詳細(xì)、精細(xì)的互動(dòng)環(huán)境的限制條件下指出，所謂的互動(dòng)意義，只來(lái)自于互動(dòng)關(guān)系本身，而并不來(lái)自雙方的主體狀態(tài)。[17]擬人化作為人為智能機(jī)器構(gòu)建道德圖像的常見(jiàn)方式，恰恰是假設(shè)了機(jī)器具有某種內(nèi)在的自我。這看起來(lái)是矛盾的，由于機(jī)器沒(méi)有內(nèi)在自我與意識(shí)能力，為什么還要遵從內(nèi)在自我的假設(shè)來(lái)設(shè)計(jì)其外觀呢？這正是由于我們只成認(rèn)存在內(nèi)在假設(shè)的自我，所以機(jī)器、尤其是智能機(jī)器的設(shè)計(jì)，正是朝著讓機(jī)器具有內(nèi)在自我的方向前進(jìn)。假如一個(gè)道德圖像的背后是內(nèi)在假設(shè)的自我，那么全方位的、不分次序地為其賦予自我道德能力，也是我們?nèi)缃衽Φ姆较?。由于我們想讓機(jī)器進(jìn)入我們的排他性共同體，而唯一的途徑就是讓它者獲得我們本身道德圖像與道德自我所展現(xiàn)的內(nèi)容。所以，人在維持自個(gè)作為道德共同體成員的圖像時(shí)，也在竭力維持互動(dòng)型機(jī)器人的擬人形象。擬人既包括趨近于人的形象或?qū)徝?，也指?duì)人的感受性的親近。由于智能機(jī)器沒(méi)有內(nèi)在假設(shè)的自我，所以正確的途徑應(yīng)該是從環(huán)境假設(shè)的自我來(lái)考慮。但是當(dāng)前的智能機(jī)器的設(shè)計(jì)者并沒(méi)有根據(jù)環(huán)境假設(shè)的思路來(lái)構(gòu)建機(jī)器的道德圖像，仍然遵循擬人化的內(nèi)在假設(shè)的自我，這就比自我錯(cuò)誤更進(jìn)了一步，會(huì)帶來(lái)一系列道德圖像的問(wèn)題：首先，混淆了自我與他者，導(dǎo)致一種自我中心論的設(shè)計(jì)缺陷。模糊、封閉的自我標(biāo)準(zhǔn)會(huì)影響道德溝通，使得他者的道德身份對(duì)互動(dòng)關(guān)系的塑造無(wú)法彰顯，導(dǎo)致實(shí)際互動(dòng)中的道德溝通障礙。在成認(rèn)異己的物質(zhì)性存在的基礎(chǔ)上，先假設(shè)地把機(jī)器作為道德共同體的一員，來(lái)設(shè)想其形象，然后又否認(rèn)其內(nèi)外一致性，最終會(huì)產(chǎn)生一般化的自我道德圖像與設(shè)計(jì)的他者道德圖像之間的矛盾。其次，絕對(duì)對(duì)象化的他者道德圖像，導(dǎo)致自我的道德圖像也不能獲得正確的地位。本來(lái)對(duì)象化是絕對(duì)道德中立的，由于對(duì)象化就是主體外化本身，為自個(gè)創(chuàng)造客體的經(jīng)過(guò)。[18]但是從女性主義反對(duì)物化開(kāi)場(chǎng)，對(duì)象化在道德上就開(kāi)場(chǎng)偏向貶義。對(duì)象化揭示了當(dāng)代性意義上自我與他者的關(guān)系，即他者就是披著主體性面紗的客體，或者講有著客體性本質(zhì)的類自我、類主體〔quasi-subject〕。這是一種強(qiáng)調(diào)自我、虛化他者的理論，給人機(jī)互動(dòng)帶來(lái)本體論的問(wèn)題。最后，構(gòu)建與維持道德圖像之間的不對(duì)稱。假如共同體不成認(rèn)智能機(jī)器的道德地位，就會(huì)導(dǎo)致自我道德圖像的構(gòu)建與維持之間的不對(duì)稱。沒(méi)有絕對(duì)獨(dú)立存在的、理論上的自我道德圖像，自我圖像是在自我的主體性與賦予他者的主體性之間維持著圖像身份的同一。假如拋開(kāi)這個(gè)自我與他者之間的關(guān)系，道德身份同一就面臨困難。智能機(jī)器的道德圖像就只能在認(rèn)知上具有可理解性，但是在身份與地位上無(wú)法獲得認(rèn)同。四、從漠視到舒適：它者的道德圖像恐懼谷〔Theuncannyvalley〕指出了在機(jī)器人在擬人經(jīng)過(guò)中出現(xiàn)的使人感到不適的階段?！瞇19]，p.25〕機(jī)器人的外觀會(huì)隨著不斷接近于人而使人感到親近感，在當(dāng)時(shí)的日本，外觀的含義更為單調(diào)，只是其形象與行為能否與人類似。即使在這個(gè)情況下，在非常接近人的外表時(shí)，我們?nèi)匀粫?huì)把注意力從類似之處轉(zhuǎn)向細(xì)微的不同之處，進(jìn)而產(chǎn)生宏大的詭異感與恐懼感。能夠想象在今天，假設(shè)機(jī)器人除了在形象上類似之外，還在行為舉止、甚至表示出上與人相近的話，也會(huì)相應(yīng)地出現(xiàn)道德圖像的恐懼谷，我們會(huì)對(duì)機(jī)器產(chǎn)生道德上的不信任感與交往上的排擠感。這些直觀上的感受都是由于我們希望把機(jī)器納入到道德共同體之中，但是自我道德圖像上的不同一又無(wú)法克制擬人所帶來(lái)的差異感。這種嫌隙實(shí)際上也發(fā)生在每次共同體擴(kuò)大時(shí)所納入的新成員與舊成員之間，只是面向人工物的這一次跨越尤為使得共同體成員感到不適。圖1恐懼谷與漠視谷要克制這種恐懼谷帶來(lái)的不適感，根據(jù)內(nèi)在假設(shè)的自我，就要進(jìn)一步提高機(jī)器的擬人化程度，并在內(nèi)在自我的層面進(jìn)行突破。且不講內(nèi)在假設(shè)本身的問(wèn)題，就算在突破機(jī)器自我的技術(shù)層面，對(duì)當(dāng)前的技術(shù)水平來(lái)講也是不現(xiàn)實(shí)的。因而，擬人化的、強(qiáng)調(diào)自我道德圖像的途徑是走不通的。機(jī)器作為社會(huì)互動(dòng)關(guān)系中一員，首先是一個(gè)獨(dú)立的它者，其次才是可能被舊的道德共同體吸納的潛在成員。我們不能本末倒置，以為只要成為共同體成員，才是道德上獨(dú)立的個(gè)體。所以智能機(jī)器的外觀設(shè)計(jì)首先應(yīng)該是根據(jù)一個(gè)它者的道德圖像來(lái)設(shè)計(jì)，而不是根據(jù)一個(gè)與人同一的道德圖像來(lái)設(shè)計(jì)。不類似才是設(shè)計(jì)的核心，而不是類似。如今社會(huì)中應(yīng)用的社會(huì)機(jī)器人，大多數(shù)以擬人為設(shè)計(jì)初衷，假如去擬人化，必然會(huì)帶來(lái)舒適度的下降〔見(jiàn)圖1中漠視谷〕。這種舒適度下降帶來(lái)的是差異感，由于人只關(guān)心趨向于中心的道德主體，因而去擬人化帶來(lái)的遠(yuǎn)離中心的道德圖像會(huì)使人產(chǎn)生冷淡感。就像沙漠中的沙子一樣，變成人毫不關(guān)心的客體存在。但是，假如堅(jiān)持這種去擬人化的途徑，同時(shí)保持社會(huì)機(jī)器人的互動(dòng)角色，最終人們會(huì)在漠視它者的中心感中走出來(lái)，正視這種作為它者的、保持與共同體中道德圖像的絕對(duì)差異的、卻又如實(shí)地在道德活動(dòng)中發(fā)揮作用的機(jī)器。此時(shí)，由于道德豐度的提高，舒適度又會(huì)上升?；谶@種邏輯，關(guān)心機(jī)器人的設(shè)計(jì)需要遵循如下三個(gè)原則：第一，客體圖像的獨(dú)立性。作為他者出現(xiàn)的機(jī)器的道德圖像，不應(yīng)該成為我們共同性道德圖像中的新成員；或者講，不要以我們自個(gè)道德共同體的準(zhǔn)入標(biāo)準(zhǔn)來(lái)要求機(jī)器，至少使其處于一個(gè)道德性不被排他性共同體評(píng)判的位置。這樣使得機(jī)器的倫理問(wèn)題是一個(gè)機(jī)器倫理問(wèn)題，而不是人倫理問(wèn)題。第二，它者行為的差異性。要使得機(jī)器的行為具有機(jī)器的特點(diǎn)而不是無(wú)限趨近于人的行為特點(diǎn)，進(jìn)而讓我們能夠注意到一個(gè)異己的存在。這樣不只是為了提示潛在的道德傷害，更是為了避免人的道德的機(jī)器化，或者機(jī)器行為的人化。只要這樣才能保證機(jī)器的道德地位與互動(dòng)中的身份同一。第三，互動(dòng)關(guān)系的去道德化。人機(jī)關(guān)系具有社會(huì)性特征，這是智能機(jī)器與人互動(dòng)的表征特點(diǎn)。[20]但是這種社會(huì)性不意味著人與機(jī)器之間存在道德關(guān)系。根據(jù)固有的道德共同體認(rèn)定方式，內(nèi)部成員與共同體之外的他者之間是沒(méi)有道德關(guān)系的，但是擬人設(shè)計(jì)違背了這一點(diǎn)，因而首先要使得共同體的標(biāo)準(zhǔn)能夠維持本身的一致性。而接下來(lái)，我們要反對(duì)道德共同體的概念，強(qiáng)調(diào)一種一般性的、包含道德它者與道德自我的道德共在標(biāo)準(zhǔn)，進(jìn)而使得互動(dòng)關(guān)系獲得新的道德性。總的來(lái)講，社會(huì)機(jī)器人的設(shè)計(jì)應(yīng)該遵循人工物本來(lái)的外觀，而不是擬人的外觀。這會(huì)產(chǎn)生另一個(gè)問(wèn)題：關(guān)心、陪伴機(jī)器人本來(lái)就是為了補(bǔ)足人類勞動(dòng)力缺乏而產(chǎn)生的，假如外觀上去人化，能否與其初衷相悖？面對(duì)老齡化社會(huì)，我們確實(shí)面臨從事照料活動(dòng)的勞動(dòng)力缺乏的問(wèn)題。機(jī)器人代替人從事服務(wù)行業(yè)，也確實(shí)從一定程度上緩解了這個(gè)問(wèn)題。而事實(shí)是，每個(gè)接受關(guān)心機(jī)器人的老人，也并沒(méi)有真的把機(jī)器人當(dāng)做人；而我們更不能以為有了機(jī)器人，對(duì)老齡人口的人文關(guān)心就能夠變成機(jī)器關(guān)心。我們既要知足對(duì)照料活動(dòng)的需求，也要如實(shí)地區(qū)別人與機(jī)器這兩種不同的照料服務(wù)提供者。假設(shè)機(jī)器是共同體的一員，或者強(qiáng)行為機(jī)器塑造一個(gè)類人的自我，都是自欺欺人的行為。更重要的是，人有自個(gè)的道德地位，需要共同體內(nèi)部成員的關(guān)心；機(jī)器也有自個(gè)的道德地位，也需要作為它者而被尊重。總之，智能機(jī)器的道德圖像既不能由于一種中心化的共同體準(zhǔn)入標(biāo)準(zhǔn)而創(chuàng)造，也不能為了服務(wù)共同體成員的便利，而假設(shè)其具有類人的道德自我。智能機(jī)器的道德個(gè)體性不因其能否屬于某個(gè)共同體而存在，機(jī)器的道德性也不依靠人賦予其的內(nèi)在假設(shè)的道德自我而存在。只要把機(jī)器放入道德互動(dòng)的社會(huì)語(yǔ)境中，從與其他社會(huì)成員的互動(dòng)性上來(lái)看，才能正視機(jī)器的道德地位。以下為參考文獻(xiàn)[1]Borenstein,J.,Pearson,Y.RobotCaregivers:HarbingersofExpandedFreedomForAll?[J].EthicsInformationTechnology,2018,12(3):277-288.[2]Nagai,Y.,Tanioka,T.,Fuji,S.,etal.NeedsandChallengesofCareRobotsinNursingCareSetting:ALiteratureReview[A],InternationalConferenceonNaturalLanguageProcessingandKnowledgeEngineering[C],IEEE,2018,1-4.[3]Royakkers,L.,Est,R.V.JustOrdinaryRobots:AutomationfromLovetoWar[M].BocaRaton:CRCPress,2021.[4]Lin,P.,Abney,K.,Jenkins,R.RobotEthics2.0:FromAutonomousCarstoArtificialIntelligence[M].London:OxfordUniversityPress,2021,97.[5]Sharkey,A.,Sharkey,N.GrannyandtheRobots:EthicalIssuesinRobotCarefortheElderly[J].EthicsInformationTechnology,2020,14(1):27-40.[6]Coeckelbergh,M.,Brey,P.,Briggle,A.CareRobots,VirtualVirtue,andtheBestPossibleLife[A],Spence,E.,Brey,P.,Briggle,A.,Spence,E.(Eds)TheGoodLifeinaTechnologicalAge[C],NewYork:Routledge,2020,281-293.[7]Pols,J.WonderfulWebcams:AboutActiveGazesandInvisibleTechnologies[J].ScienceTechnologyHumanValues,2018,36(4):451-473.[8]Jordan,J.,Leliveld,M.C.,Tenbrunsel,A.E.TheMoralSelf-imageScale:MeasuringandUnderstandingtheMalleabilityoftheMoralSelf[J].FrontiersinPsych