法哲學(xué)視角探析人工智能不具有人格主體地位,法哲學(xué)論文_第1頁(yè)
法哲學(xué)視角探析人工智能不具有人格主體地位,法哲學(xué)論文_第2頁(yè)
法哲學(xué)視角探析人工智能不具有人格主體地位,法哲學(xué)論文_第3頁(yè)
法哲學(xué)視角探析人工智能不具有人格主體地位,法哲學(xué)論文_第4頁(yè)
已閱讀5頁(yè),還剩22頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

法哲學(xué)視角探析人工智能不具有人格主體地位,法哲學(xué)論文摘要:人工智能固然在特定領(lǐng)域擁有超凡的運(yùn)算能力,但是在法哲學(xué)視角下并不具有法律主體地位的理論和現(xiàn)實(shí)基礎(chǔ)。從法哲學(xué)的普遍邏輯講,人工智能不具有人格的主體性要素。人的主體性要素在西方哲學(xué)中是基于需要和自我意識(shí)構(gòu)成的價(jià)值觀念,在主義哲學(xué)中則具體表現(xiàn)出為社會(huì)實(shí)踐活動(dòng)。人工智能的本體從概念到符號(hào),僅注重邏輯排序,這導(dǎo)致其不具有人的價(jià)值性和實(shí)踐性。從民法哲學(xué)上講,人工智能既無(wú)法知足法人格實(shí)體講和目的講要件,也不具有法人格的擬制講基礎(chǔ)。由符號(hào)構(gòu)成的人工智能缺乏公司法人的組織性和目的性,且不可擬制。弱人工智能時(shí)代,為回應(yīng)社會(huì)現(xiàn)實(shí)、助推司法實(shí)踐,應(yīng)將人工智能定位為法律客體。本文關(guān)鍵詞語(yǔ):人工智能;法律主體;法律客體;法哲學(xué);一、文獻(xiàn)綜述及問(wèn)題的提出2020年,世界人工智能峰會(huì)發(fā)布全球首支人工智能合唱MV(musicvideoofanAIchorus),由微軟小冰、百度小度、小米小愛(ài)、B站泠鳶四位虛擬歌手合唱人工智能編寫(xiě)的歌曲(智聯(lián)家園〕。人工智能的智能水平不斷提升為人類帶來(lái)了視聽(tīng)享受和生活便利,這也意味著人工智能在社會(huì)生活中扮演著愈發(fā)重要的角色。人工智能時(shí)代的到來(lái),首先需要回答的法律問(wèn)題是責(zé)任問(wèn)題,而責(zé)任又以主體為前提,因而需要回答“機(jī)器人是機(jī)器還是人〞的問(wèn)題[1]。人工智能法律主體地位問(wèn)題一直飽受爭(zhēng)議。2021年,歐盟委員會(huì)賦予機(jī)器人“特定的權(quán)利與義務(wù)〞,也為智能自動(dòng)化機(jī)器人設(shè)立登記冊(cè),但是,報(bào)告沒(méi)有提出機(jī)器人責(zé)任承當(dāng)?shù)脑敿?xì)方案。因而,有觀點(diǎn)以為,無(wú)論是適用羅馬法中的“繳出賠償〞(noxoededitio)原則(把機(jī)器人交給受害者或其家屬處置),還是讓機(jī)器人支付賠償金或坐牢,最終承當(dāng)責(zé)任的始終是機(jī)器人的“主人〞,其“法律人格〞多余且無(wú)必要[2]。2021年,沙特阿拉伯授予美國(guó)公司生產(chǎn)的機(jī)器人Sophia公民資格。李開(kāi)復(fù)以為,“授予這樣一臺(tái)只會(huì)形式辨別的機(jī)器‘公民’身份,是對(duì)人類最大的侮辱和誤導(dǎo)〞。在已有關(guān)于人工智能法律主體地位的研究中,支持者主要有三點(diǎn)理由:一是在法律技術(shù)上,人工智能能夠通過(guò)“法人擬制講〞進(jìn)行演繹推理,成為法人之外的另一種擬制主體[3];二是在現(xiàn)實(shí)生活中,人工智能技術(shù)發(fā)展迅猛,使其具備了權(quán)利主體智能性這一本質(zhì)要素[4];三是在哲學(xué)向度下,人工智能本體具有人的主體性要素[5]。然而,反對(duì)者基于同樣的邏輯以為,人工智能并不具有人的理性[6],不具有主體條件[7],將其擬制為法律主體也并無(wú)實(shí)益,而應(yīng)定為法律客體[8]。面對(duì)實(shí)踐和理論中大相徑庭的兩種觀點(diǎn),為使問(wèn)題的研究能夠到達(dá)豁然貫穿的境地,有必要從法哲學(xué)的層面來(lái)認(rèn)識(shí)人工智能的法律地位。(智聯(lián)家園〕雖然彰顯了人工智能的藝術(shù)成就,但細(xì)心的觀眾會(huì)發(fā)現(xiàn)其作詞之平仄、音律之起伏和意境之遠(yuǎn)近都似曾相識(shí),顯得中規(guī)中矩,并無(wú)讓人久久不能忘懷之感??梢?jiàn),就現(xiàn)實(shí)生活藝術(shù)而言,人工智能無(wú)法替代“作者〞,由于人工智能的藝術(shù)創(chuàng)造本就依靠某藝術(shù)門類或藝術(shù)風(fēng)格的成熟[9]。同時(shí),將機(jī)器人作為擬制之人以享有法律主體資格,在法哲學(xué)上尚有商榷之處。在法哲學(xué)視野下,支持者的理由不外乎兩點(diǎn):一是人工智能主體地位符合法哲學(xué)的普遍邏輯,二是民法哲學(xué)能夠?yàn)橘x予其主體地位提供法律技術(shù)支持。在第一點(diǎn)上,反對(duì)者主要集中于西方哲學(xué)中人的倫理性這一本體要素進(jìn)行反駁,因缺少主義哲學(xué)方式方法論的指導(dǎo),導(dǎo)致論證不夠充分;在第二點(diǎn)上,現(xiàn)有反對(duì)者的研究更是忽視了民法哲學(xué)中實(shí)在講和目的講也是法人主體地位的根據(jù),以及擬制講本身存在的缺陷。因而,本文首先以主義哲學(xué)為指導(dǎo)方式方法,結(jié)合西方哲學(xué)人本主義觀點(diǎn)和當(dāng)代民法的法人實(shí)在講、目的講和擬制講理論,來(lái)認(rèn)識(shí)和討論人工智能的主體地位。二、人工智能不具有人格主體地位的價(jià)值和實(shí)踐基礎(chǔ)(一)從法哲學(xué)普遍邏輯上認(rèn)識(shí)人格主體的基礎(chǔ)本體論是關(guān)于世界本源的研究。西方哲學(xué)中本體論的概念有廣義和狹義之分,述者多以廣義概念進(jìn)行討論。本體論的廣義概念與認(rèn)識(shí)論相對(duì)應(yīng),指一切實(shí)在的最終本性。這種本性需要通過(guò)認(rèn)識(shí)論而得到認(rèn)識(shí),因此研究一切實(shí)在的最終本性為本體論,研究怎樣認(rèn)識(shí)則為認(rèn)識(shí)論。主義哲學(xué)沒(méi)有采用本體論與認(rèn)識(shí)論相對(duì)立的方式方法,而是以辯證唯物主義講明整個(gè)問(wèn)題。兩者固然在研究方式方法上有所不同,但是對(duì)人主體地位的認(rèn)識(shí)在本質(zhì)和目的上是一致的,即以人為目的,尊重人的主體地位。本文之所以用法哲學(xué)普遍邏輯研究人的主體地位有兩點(diǎn)原因:一是方式方法上,法哲學(xué)是一種應(yīng)用的邏輯學(xué),這種“應(yīng)用〞把哲學(xué)的普遍邏輯規(guī)范用于詳細(xì)描繪敘述、分析和揭示法的辯證的、歷史的運(yùn)動(dòng)上;二是淵源上,法哲學(xué)對(duì)人的主體地位的認(rèn)識(shí)源自一般哲學(xué)。主義對(duì)人主體性的認(rèn)識(shí)與西方人本主義流派有著密切的聯(lián)絡(luò),前者是從后者演變而來(lái)的[10]。固然兩者都強(qiáng)調(diào)人的尊嚴(yán)和價(jià)值,以人為目的,但是主義更具有優(yōu)越性。主義不僅繼承了歐洲啟蒙思想家的歷史觀,并且堅(jiān)持唯物史觀,以唯物主義的歷史辯證法看待人類的主體地位。唯物史觀關(guān)于人的主體地位的認(rèn)識(shí)的進(jìn)步具體表現(xiàn)出在兩個(gè)方面。一是認(rèn)識(shí)途徑提升,即從人的本質(zhì)到人的價(jià)值觀念。成認(rèn)人的價(jià)值之后,人本身就會(huì)具有價(jià)值的評(píng)判尺度,這也是價(jià)值觀念的生成經(jīng)過(guò)。二是詮釋方式視角新,即以“實(shí)踐〞視域來(lái)審視人[11]。因而,以主義哲學(xué)為指導(dǎo)方式方法,結(jié)合西方哲學(xué)人本主義觀點(diǎn),能夠?qū)θ酥黧w地位做較好解釋,進(jìn)而講明人工智能的法律地位。(二)人工智能不具有主體人的價(jià)值觀念1.人本主義中的價(jià)值觀念西方哲學(xué)中,人的自我價(jià)值一直遭到肯定。普羅泰格拉“人是萬(wàn)物的尺度〞開(kāi)拓了人學(xué)先聲。柏拉圖在(理想國(guó)〕中論及人的靈魂有三部分組成,即理智、激情和欲望。理智是用來(lái)判定好壞,領(lǐng)導(dǎo)個(gè)人靈魂,使正義的靈魂三部分處于和諧狀態(tài)[12]。亞里士多德在(政治學(xué)〕中提出“人是兩足的動(dòng)物〞“人是理性的動(dòng)物〞“人是政治的動(dòng)物〞[13],從形體、思想和社會(huì)三個(gè)方面對(duì)人進(jìn)行了勾畫(huà)。文藝復(fù)興后,笛卡爾從理性主義認(rèn)識(shí)論出發(fā),提出“我思故我在〞新的本體論命題。黑格爾在(法哲學(xué)〕中說(shuō)明“自為存在的意志即抽象的意志就是人(Person)〞。具言之,人是在有限性中知道自個(gè)是某種無(wú)限的、普遍的、自由的東西。那么,人是怎樣知道自個(gè)的主體性,黑格爾以為,沒(méi)有理智就不可能具有意志[14]。西方哲學(xué)對(duì)人本身確實(shí)信是基于人是理性的,在理性領(lǐng)導(dǎo)下構(gòu)成人的價(jià)值觀念。根據(jù)古希臘哲學(xué)觀點(diǎn),人的靈魂是具有復(fù)雜性的,理性固然占據(jù)上風(fēng),但是仍摻雜其他的復(fù)雜因素。假如沒(méi)有理性的主導(dǎo),人的靈魂就會(huì)處于混亂狀態(tài),很難成為價(jià)值尺度。一般以為,理性在人的復(fù)雜因素中占有重要地位,人之所以能夠?yàn)樽匀缓妥晕伊⒎?,成為萬(wàn)物的尺度,是由于人的理性能夠引導(dǎo)人做出良性決斷[8]。在理性控制下,這些復(fù)雜因素根據(jù)不同的比例進(jìn)行組合,構(gòu)成了人類共有的價(jià)值觀。筆者以為,人之所以具有“尺度〞功能,具有思維意識(shí),就在于人類具有價(jià)值觀念。從某種意義上講,價(jià)值觀念就是人的本體。價(jià)值觀念作為觀念的一種,是關(guān)于客觀對(duì)象的作用、意義,亦即關(guān)于客觀對(duì)象的價(jià)值的總觀點(diǎn)、總看法,區(qū)別于對(duì)客觀事實(shí)規(guī)律總結(jié)的非價(jià)值觀念。具言之,價(jià)值觀念不揭示客觀對(duì)象的本質(zhì)和規(guī)律或預(yù)測(cè)客觀對(duì)象的將來(lái)趨勢(shì)。價(jià)值觀念是一定社會(huì)群體中的人們所共同具有的對(duì)于區(qū)別好與壞、正確與錯(cuò)誤的觀念,是人所特有的應(yīng)該希望什么和應(yīng)該避免什么的規(guī)范性見(jiàn)解[16]。價(jià)值觀念是人類能夠相信自我的本源,作為個(gè)體的人在物質(zhì)世界的每次延續(xù)都是基于本身價(jià)值觀念所做出的判定,每一突破都是群體價(jià)值觀念共向的作用。固然主義和西方傳統(tǒng)哲學(xué)對(duì)人本主義的稱謂不一,但是不得不成認(rèn),人類基于本身所建立的認(rèn)知范疇,為人類認(rèn)識(shí)世界提供了價(jià)值觀念,這種價(jià)值觀念驅(qū)動(dòng)著人類的智能發(fā)展。2.人工智能不具有價(jià)值觀念人工智能并不具有人的價(jià)值觀念,也很難理解人的價(jià)值觀念。朱松純教授及其團(tuán)隊(duì)以實(shí)驗(yàn)對(duì)象對(duì)椅子的愛(ài)好進(jìn)行觀察,研究每個(gè)人的腦袋里面一個(gè)基本的價(jià)值函數(shù),即對(duì)椅子選擇的價(jià)值判定。團(tuán)隊(duì)發(fā)現(xiàn),對(duì)人類稀松平常的現(xiàn)象,機(jī)器人必須計(jì)算很多數(shù)據(jù)以分析出這樣的常識(shí)。AlphaGo(俗稱“阿爾法狗〞)固然戰(zhàn)勝了人類,但是AlphaGo的棋局空間與人類大腦的復(fù)雜度相距甚遠(yuǎn),所以,想讓人工智能懂得人類價(jià)值觀特別困難。這是由于,從發(fā)生學(xué)的意義上分析,價(jià)值觀念的構(gòu)成具有兩個(gè)直接的前提條件:需要和自我意識(shí)。需要是構(gòu)成價(jià)值觀的客觀前提,具有多樣性和社會(huì)歷史性;自我意識(shí)是其構(gòu)成的主觀條件,包括人的地位、行為、能力和責(zé)任意識(shí)[16]。價(jià)值觀念的培養(yǎng)已經(jīng)超出了人工智能的頂層想象,人工智能對(duì)于需求和自我意識(shí)的理解很難產(chǎn)生。人類需求是在歷史和社會(huì)條件下構(gòu)成的,并且具有深層次性,不單單是算出答案:或者完成機(jī)械任務(wù)般簡(jiǎn)單,而是大到國(guó)家情懷,中到家庭關(guān)愛(ài),小到人生目的,這些需求人工智能都無(wú)法理解。除此之外,人工智能并不具有自我意識(shí),它的自由是設(shè)計(jì)者所賦予的,“我是什么〞“我在做什么〞“我能做什么〞“我應(yīng)該做什么〞,對(duì)于這些問(wèn)題的回答,設(shè)計(jì)者從一開(kāi)場(chǎng)就已預(yù)設(shè)。人工智能更多的是做規(guī)律總結(jié)和預(yù)測(cè)事物發(fā)生動(dòng)向的工作,其內(nèi)部功能在非價(jià)值觀念操控下運(yùn)作,以知足人類社會(huì)生活的需要。當(dāng)前,關(guān)于人工智能本體論最權(quán)威的定義是斯坦福大學(xué)的人工智能專家湯姆·格魯勃(TomGurber)教授提出的:分享概念模型的明確的形式化講明。換言之,人工智能的本體論是建立在“概念化〞基礎(chǔ)之上的知識(shí)的形式表現(xiàn)系統(tǒng)。假如將法律推理的形式邏輯轉(zhuǎn)換為計(jì)算機(jī)可辨別、可運(yùn)算的符號(hào)系統(tǒng),即“從概念到符號(hào)〞,此乃人工智能的本體論[18]。能夠講,人工智能的本體是基于規(guī)律總結(jié)的成熟邏輯系統(tǒng)轉(zhuǎn)換下的運(yùn)算符號(hào),用以論證和預(yù)測(cè)將來(lái)結(jié)果,是一種非價(jià)值觀的展現(xiàn)。人工智能的非價(jià)值觀念詳細(xì)具體表現(xiàn)出在強(qiáng)調(diào)運(yùn)算符號(hào)的排列邏輯,忽視符號(hào)本身的意義。人工智能的本源在哲學(xué)的向度下被轉(zhuǎn)換為一個(gè)個(gè)符號(hào),計(jì)算機(jī)能夠輕易地以三段論的邏輯將這些符號(hào)有序排列,然后進(jìn)行內(nèi)容的輸入和輸出。但是,這些符號(hào)的處理沒(méi)有任何意向性。用語(yǔ)言學(xué)的行話來(lái)講,它們只要句法,沒(méi)有語(yǔ)義[19]。換言之,作為人工智能本體的符號(hào)并非功能發(fā)揮的核心,人工智能的關(guān)鍵在于符號(hào)的排序方式,以及設(shè)計(jì)者怎樣將三段論轉(zhuǎn)化為有序的符號(hào),進(jìn)而導(dǎo)致人工智能由于無(wú)法理解立法者或者解釋者的價(jià)值觀念,無(wú)法對(duì)符號(hào)進(jìn)行選擇和解釋,而這是三段論推理的關(guān)鍵?,F(xiàn)實(shí)生活中,以法律適用為例,人工智能的非價(jià)值觀特征更為明顯。法律經(jīng)常能夠?yàn)闄?quán)利提供多種救濟(jì)途徑,因而,即便在三段論推理中,“找法〞(明確大前提)的經(jīng)過(guò)本身也經(jīng)常需要價(jià)值判定[20]。在“找法〞后,由一般的語(yǔ)言用法獲得的字義,構(gòu)成法律解釋的出發(fā)點(diǎn),在這里基礎(chǔ)上,根據(jù)法律的意義脈絡(luò)可做出目的性擴(kuò)張等解釋。然而,法律語(yǔ)言與人工語(yǔ)言(計(jì)算機(jī)程序語(yǔ)言)相比的一個(gè)突出特征就是語(yǔ)義的模糊性,人工智能不具有價(jià)值判定能力,無(wú)法根據(jù)立法者的目的對(duì)抽象法律概念進(jìn)行擴(kuò)大解釋。譬如,人工智能能夠根據(jù)民法典第一千零三十二條的規(guī)定做出如下排序:(1)自然人享有隱私權(quán);(2)小麥?zhǔn)亲匀蝗耍?3)小麥享有隱私權(quán)。但是,它并不是通過(guò)符號(hào)的語(yǔ)義得出該結(jié)論。計(jì)算機(jī)不知道誰(shuí)是小麥,以及怎樣解釋“自然人〞和“隱私權(quán)〞(除非再次通過(guò)系統(tǒng)輸入該條的第二款規(guī)定)。法學(xué)解釋者通過(guò)對(duì)個(gè)案的價(jià)值觀判定和理解立法者的目的適用法律的一般現(xiàn)象在計(jì)算機(jī)上無(wú)法實(shí)現(xiàn)。(三)人工智能不具有主體人的實(shí)踐性1.實(shí)踐性作為人的主體性要素主義實(shí)踐論將人的本體歸為社會(huì)性實(shí)踐活動(dòng)。從實(shí)踐的觀點(diǎn)出發(fā),以為舊唯物主義的缺陷在于只看到客觀事物的直觀形式,而忽視了客觀事物是實(shí)踐的對(duì)象這一主體性原則,也就是沒(méi)有注意到主體人對(duì)客觀事物的改造。詳細(xì)具體表現(xiàn)出在,把“感性的人的活動(dòng)〞與“實(shí)踐〞和“主體〞嚴(yán)密聯(lián)絡(luò)在一起,指出只要把感性存在復(fù)原為人的勞動(dòng)和實(shí)踐的產(chǎn)物,才能克制這一缺陷[21]。著重強(qiáng)調(diào)舊唯物主義信奉的“客體〞和“直觀形式〞,意味著還必須有一個(gè)主體,而這一主體是從事實(shí)踐性活動(dòng)的感性的人。實(shí)踐成為人的存在方式,也是主體對(duì)客體發(fā)生作用的根本原因。因而,人作為主體的唯一原因是從事實(shí)踐性活動(dòng)。主義實(shí)踐論之所以將人的本體歸為社會(huì)性實(shí)踐活動(dòng),是由于社會(huì)屬性是人的本質(zhì)屬性。在闡述人類的異化及本身社會(huì)歷史性發(fā)展經(jīng)過(guò)時(shí),就已經(jīng)用作為對(duì)象性活動(dòng)的生產(chǎn)實(shí)踐來(lái)定義人的本質(zhì):“通過(guò)實(shí)踐創(chuàng)造對(duì)象世界,改造無(wú)機(jī)界,人證明自個(gè)是有意識(shí)的類存在物。〞[21]而正是在對(duì)象性活動(dòng)中,“人才真正地證明自個(gè)是類存在物〞[21]。與西方哲學(xué)中我思故我在的命題不同,主義以為,人作為社會(huì)中的群居動(dòng)物,只要在改造客觀世界中才能夠證明自我意識(shí)的存在,而社會(huì)性實(shí)踐是人的本體。2.人工智能本體對(duì)實(shí)踐性的缺失從人的社會(huì)實(shí)踐性考量,人工智能的本體不具有主體的本質(zhì)屬性,而屬于客體。人的社會(huì)屬性是人工智能本體論無(wú)法比較的,作為“從概念到符號(hào)〞的本體,人工智能當(dāng)前僅為分散的個(gè)體,社會(huì)群體性的實(shí)踐活動(dòng)為人類所獨(dú)有。人工智能是人類在通過(guò)實(shí)踐改造無(wú)機(jī)世界中創(chuàng)造的新產(chǎn)物。換言之,在唯物主義觀念的邏輯下,人工智能是處于主體的人在對(duì)象性活動(dòng)中產(chǎn)生的新客體。人工智能本身是無(wú)社會(huì)屬性的,它是人類社會(huì)實(shí)踐的產(chǎn)物。概言之,就價(jià)值觀念與實(shí)踐性而言,人的本體論具有人工智能本體論無(wú)可比較的優(yōu)越性,兩者判若云泥。民法以人為本,以人之尊嚴(yán)為其理論基礎(chǔ)。人、權(quán)利能力及權(quán)利主體構(gòu)成三位一體,不可分割[24]。近代法上的“法律人格〞,就是私法上的權(quán)利和義務(wù)所歸屬之主體[25]。權(quán)利主體原初于人,派生出權(quán)利能力,能夠講,人是法律主體的元概念。溯源作為法律主體之源的人之本體的價(jià)值論和實(shí)踐論,能夠發(fā)現(xiàn)人工智能并不具有法律主體的品質(zhì)與特征。三、人工智能不具有法人主體地位的擬制基礎(chǔ)(一)人工智能不知足法人主體地位的實(shí)體講和目的講自然人對(duì)人格的概念并無(wú)太大突破,但是團(tuán)體的出現(xiàn)對(duì)人格概念產(chǎn)生了沖擊。支持人工智能法律主體地位的闡述多以“法人擬制講〞進(jìn)行演繹推理,以為理性是自然人主體的判定標(biāo)準(zhǔn),擬制才是非自然人法律主體的判定標(biāo)準(zhǔn)[3];抑或講究羅馬法上的人(person)之位格概念,指出當(dāng)代法人制度是運(yùn)用“位格加等〞的主體邏輯,擬制出其人格,人工智能亦可如此[27]。通過(guò)法人人格(團(tuán)體人格)對(duì)人格屬性進(jìn)行范式分析,以此作為途徑將人工智能納入人格(person)體系為支持者的普遍邏輯。法人擬制講將人工智能擬制為法律上的權(quán)利義務(wù)主體,為其擁有法律人格提供了技術(shù)支持,但是支持者忽略了這并非法人理論的唯一觀點(diǎn)。自中世紀(jì)以來(lái),團(tuán)體被冠以各種名稱,如“擬制人〞、觀念的人格、想象的人格等。進(jìn)入19世紀(jì),法人的名稱才開(kāi)場(chǎng)出現(xiàn)并被使用,但該用語(yǔ)在法人格上并不區(qū)別自然人人格與法人人格,屬于為了法律技術(shù)或法律目的而創(chuàng)設(shè)的人格,故與自然人呈相對(duì)立狀態(tài)[28]。至于法律為何確認(rèn)團(tuán)體為統(tǒng)一的客觀實(shí)體,并賦之以人格,則有不同的理論基礎(chǔ)。首先,不同于人工智能,法人有主體地位的現(xiàn)實(shí)基礎(chǔ)。基爾克以為,從個(gè)體人格概念中孕育出的聯(lián)合體人格的概念是有機(jī)整體的獨(dú)立人格[29]。此處,基爾克的“法人實(shí)在講〞重點(diǎn)強(qiáng)調(diào)作為產(chǎn)生法律概念抽象作用之基礎(chǔ)的社會(huì)層面。詳細(xì)地講,一方面,作為法人類型的法人格并非現(xiàn)實(shí)存在的,而是抽象化考慮的結(jié)果;另一方面,在法背后的社會(huì)學(xué)層面即社會(huì)規(guī)范層面,法人格屬于實(shí)體[30]。法人實(shí)在講的核心在于后者,法律將人格賦予聯(lián)合體,其必定與人一樣,是一個(gè)有生命、有靈魂的生命體,能夠考慮,并將所有思想付諸行動(dòng)[29]。對(duì)于人工智能而言,一旦賦予其法律人格,就需要其能夠如人一樣考慮和行動(dòng)。但是,由于人工智能不能獲取、分享人類的價(jià)值觀,所以在社會(huì)規(guī)范層面無(wú)法與人類共處同一位階。其次,不同于人工智能,法人有主體地位的社會(huì)屬性。固然法律需要在規(guī)范層面對(duì)其抽象化提取,但是作為構(gòu)成“社會(huì)的有機(jī)體〞的“集合人〞,法人是由一個(gè)個(gè)鮮活的個(gè)人組成的有機(jī)體。法人團(tuán)體人格中內(nèi)部組織構(gòu)造的特殊團(tuán)體法關(guān)系是法人格的基石。換言之,縱使是法律上擬制的人格,法人格的內(nèi)部要素也應(yīng)作為必要條件。法人在法律或者章程規(guī)定的議事方式和通過(guò)表決程序做出的決議指導(dǎo)下行動(dòng),是團(tuán)體成員意思表示的結(jié)晶,呈現(xiàn)出個(gè)人與社會(huì)的關(guān)系狀態(tài)。在外部社會(huì)關(guān)系中,法人之間存在著商業(yè)或者其他社會(huì)交往關(guān)系,以營(yíng)利法人為例,經(jīng)營(yíng)同類商品的法人通常會(huì)結(jié)成本行業(yè)的行業(yè)協(xié)會(huì),以促進(jìn)共同的發(fā)展。通過(guò)內(nèi)外部關(guān)系分析,法人的經(jīng)營(yíng)或其他活動(dòng)具有一定的社會(huì)實(shí)踐性,能夠成為其主體地位的根據(jù),而人工智能并不具備這種基礎(chǔ)。再次,不同于人工智能,法人有主體地位的目的價(jià)值。法人能夠基于不同的目的而設(shè)立,譬如營(yíng)利、公益等,具體表現(xiàn)出著法人的價(jià)值取向。法人根據(jù)自個(gè)的價(jià)值觀念在日?;顒?dòng)中做出價(jià)值判定。耶林在(羅馬法的精神〕(第三卷)中提出“權(quán)利是被法律保衛(wèi)的利益〞這一“權(quán)利利益〞講命題,主張成員(受益者)的利益或權(quán)利等于法人的權(quán)利[32]。固然概念法學(xué)將法人僅作為一種法律技術(shù),但是目的法學(xué)凸顯了法人目的(利益)對(duì)于成認(rèn)法人主體資格的作用——法人有著自然人般的價(jià)值觀。當(dāng)然,根據(jù)耶林的理論,法人的目的價(jià)值是自然人價(jià)值觀念的具體表現(xiàn)出,法人具有的主體地位與人密不可分。這也是人工智能不具有的特點(diǎn)。(二)人工智能無(wú)法擺脫法人擬制技術(shù)本身的局限性人工智能的主體地位不能僅從法人擬制講單方面論證,還要知足觀點(diǎn)的統(tǒng)一性。固然薩維尼提出了法人擬制講,但也在法律主體之上提出了法律關(guān)系理論。法律關(guān)系的本質(zhì)具體表現(xiàn)出在其互相包含、互為條件的組成部分的關(guān)聯(lián)之中,也部分具體表現(xiàn)出在動(dòng)態(tài)的變化經(jīng)過(guò)中。因而,法律關(guān)系這種生機(jī)勃勃的構(gòu)造是法實(shí)踐的精神要素,并與單純的機(jī)械主義相區(qū)分[33]。人工智能并不能建構(gòu)這種動(dòng)態(tài)交互的法律關(guān)系,它不具有實(shí)踐性,進(jìn)而無(wú)法完成法實(shí)踐的高貴責(zé)任。人工智能只是機(jī)械地完成設(shè)計(jì)者對(duì)它的要求,對(duì)其權(quán)利的成認(rèn)局限于任務(wù)范圍,在該范圍以外的真實(shí)性是難以令人信服的。也就是講,人工智能的權(quán)利是片面的,在法律關(guān)系整體直觀的全貌中并不被成認(rèn)。薩維尼的人格擬制是以人為先決條件的。薩維尼以為,在抽象的人格關(guān)系上,每一個(gè)相對(duì)于個(gè)體存在的外在主體都是有機(jī)體關(guān)系中的一員,以本身為圓心發(fā)散出三種類型的法律制度,即家庭法、物法和債法[33]。假使人工智能成為法律關(guān)系的主體,那么作為外在的個(gè)體,其是何種有機(jī)體的一員呢?除此之外,這三種制度構(gòu)成羅馬—法國(guó)民法典體例的邏輯,該體例以關(guān)心“家庭關(guān)系中的人〞著稱,薩維尼將該關(guān)系形態(tài)稱為聯(lián)合的團(tuán)體。可見(jiàn),人還是華而不實(shí)的組成元素。因而,基于這種對(duì)抽象人格的認(rèn)識(shí)追問(wèn),法人的擬制也基于其是一種人的聯(lián)合團(tuán)體。團(tuán)體是由自然人組成的,那么法律對(duì)團(tuán)體的主體地位成認(rèn)自然也彰顯自然人的倫理價(jià)值需求。自然人的團(tuán)體構(gòu)造——法人的意義不僅表如今“人法〞上,也表如今“行為法〞上,反映自然人結(jié)社自由的可實(shí)現(xiàn)程度,是法律行為的法律效果。法律成認(rèn)法人的主體資格意味著法律對(duì)自然人自由結(jié)合設(shè)立法人意志的認(rèn)可,仍具體表現(xiàn)出出對(duì)人的價(jià)值的尊重。相反,成認(rèn)人工智能的主體地位并不會(huì)帶來(lái)行為法意義上的效果,作為符號(hào)的組合,其間僅僅是組成構(gòu)件的互相配合和數(shù)據(jù)博弈,運(yùn)行中并無(wú)人與人的交往關(guān)系。人工智能法律主體地位的擬制對(duì)私法自治不具有任何意義。饒有趣味的是,在擬制抽象人格概念的嘗試上,法學(xué)并不是唯一的學(xué)科。心理學(xué)也曾想要脫離人的倫理價(jià)值本身而塑造一個(gè)獨(dú)立的“人格〞概念,但以失敗告終。近代心理學(xué)曾完全依靠經(jīng)歷體驗(yàn)的事實(shí),以人格取代形而上學(xué)的靈魂與自我,但是,之后在理解以經(jīng)歷體驗(yàn)獲得的組織人格和變化人格等有關(guān)人格的詳細(xì)含義時(shí),“自我〞的學(xué)講又卷土重來(lái)[35]。例如,奧爾波特起初將人格定義為個(gè)體內(nèi)部決定其順應(yīng)環(huán)境的心理生理系統(tǒng)中的動(dòng)力組織,但之后在對(duì)“組織〞的解釋中又回到了自我機(jī)能的認(rèn)識(shí)。心理學(xué)上的人格以客觀醫(yī)學(xué)概念上的組織表述,但是這種組織和人的倫理價(jià)值密不可分??梢?jiàn),不管在法學(xué)還是其他學(xué)科中,人格擬制基礎(chǔ)的本質(zhì)是自然人的存在。那么,作為符號(hào)構(gòu)成的人工智能,其人格的擬制完全擺脫了人的倫理價(jià)值,難以證成這種擬制的基礎(chǔ)。法人格的擬制技術(shù)不僅在法教義學(xué)上存在難題,而且在法經(jīng)濟(jì)學(xué)上亦生詰問(wèn)。在法經(jīng)濟(jì)學(xué)視角下,法人格的擬制本身就具有缺陷。公司作為法人的典型,也是法人理論產(chǎn)生的現(xiàn)實(shí)基礎(chǔ),其法人格遭到了經(jīng)濟(jì)學(xué)家的批評(píng)。Easterbrook和Fischel教授以為,公司作為法人的所謂“人格〞只不過(guò)是為了方便訴訟,然而這樣的提法往往會(huì)掩蓋其交易的本質(zhì)。因而,他們經(jīng)常將公司視為“合同束(一個(gè)契約網(wǎng))〞或一組“默示〞或“明示〞的合同[36]。經(jīng)濟(jì)學(xué)家從企業(yè)運(yùn)行中產(chǎn)生的各種代理成本出發(fā),運(yùn)用契約關(guān)系理論反對(duì)公司法人理論,以節(jié)約企業(yè)成本,并且,公司法人虛擬性在法律制度內(nèi)的一個(gè)反證就是運(yùn)用“揭開(kāi)公司的面紗〞原則否認(rèn)其人格,暴露出其背后的自然人。很顯然,在任何情況下,自然人的人格都不具有可否認(rèn)性??梢?jiàn),法學(xué)家對(duì)法人格的擬制并沒(méi)有得到跨領(lǐng)域?qū)W科的認(rèn)可,并且法律制度內(nèi)部也會(huì)在特殊情況下否認(rèn)法人格,需要自然人出面承當(dāng)責(zé)任。鑒于此,法學(xué)領(lǐng)域?qū)θ斯ぶ悄苤黧w地位的再次擬制可能會(huì)影響行業(yè)領(lǐng)域?qū)θ斯ぶ悄艿恼_認(rèn)識(shí),以及在法律體系內(nèi)徒增建構(gòu)人工智能人格否認(rèn)制度的困惑。四、人工智能法律客體地位的厘清(一)人工智能作為法律客體的現(xiàn)實(shí)基礎(chǔ)法律對(duì)人工智能法律地位的討論,是為了厘清對(duì)人工智能的規(guī)制思路,以更好規(guī)范人工智能,最大化地發(fā)揮其對(duì)社會(huì)發(fā)展的積極作用。因而,這種討論應(yīng)該建立在人工智能的科技發(fā)展現(xiàn)在狀況、社會(huì)實(shí)踐表現(xiàn)等一系列現(xiàn)實(shí)情況的基礎(chǔ)之上,否則,只會(huì)成為法學(xué)內(nèi)部的“圈地自萌〞。結(jié)合人工智能的社會(huì)現(xiàn)實(shí),將其歸入法律客體的范疇,能夠更好地實(shí)現(xiàn)上述目的。第一,從現(xiàn)實(shí)機(jī)理看,人工智能是人在改造客觀世界經(jīng)過(guò)中實(shí)踐的產(chǎn)物,是實(shí)踐的對(duì)象,是哲學(xué)范疇中的客體。約翰·塞爾提出了強(qiáng)—弱人工智能的哲學(xué)分類,弱人工智能指計(jì)算機(jī)的主要價(jià)值是為心智探尋求索提供有效的工具,而強(qiáng)人工智能則意味著某種程序化系統(tǒng)的運(yùn)行,能夠真正理解事物并具有自個(gè)的認(rèn)知狀態(tài)[37]。根據(jù)現(xiàn)有研究,人工智能的基礎(chǔ)支撐僅包括算法、計(jì)算力和大數(shù)據(jù),主要應(yīng)用領(lǐng)域是專用人工智能[38]??梢?jiàn),人類對(duì)于人工智能的探尋求索仍處于弱人工智能階段。簡(jiǎn)言之,現(xiàn)前階段,人工智能的知識(shí)庫(kù)依靠人類的數(shù)據(jù)輸入,限于被人類適用的特定領(lǐng)域,受法律主體——人的控制,不具有動(dòng)搖法律主體制度的現(xiàn)實(shí)基礎(chǔ)。第二,從概念體系看,成認(rèn)人工智能法律客體地位有利于維護(hù)法秩序的穩(wěn)定。假使賦予人工智能法律主體地位,就需要法律技術(shù)上的創(chuàng)新。但是,這種創(chuàng)新會(huì)造成現(xiàn)有法律主體制度的邏輯混亂。各國(guó)民法皆以“人〞開(kāi)端,凡為“人〞自由,僅在編排體例上有所差異。不管羅馬—法國(guó)體例的三編制,還是德國(guó)體例的五編制,“人〞都是法典的邏輯起點(diǎn)。人工智能主體地位的參加會(huì)打破這種邏輯,造成不可估量的后果,法律的基本原則、法律主體的邏輯框架都將遭到毀壞。第三,從司法實(shí)踐看,就(中國(guó)民法典〕而言,成認(rèn)人工智能法律客體地位有助于法典的施行。人格權(quán)獨(dú)立成編是我們國(guó)家民法典的時(shí)代特點(diǎn),真正實(shí)現(xiàn)了“民法中的人的再發(fā)現(xiàn)〞[39]。一旦成認(rèn)人工智能的主體地位,人格權(quán)編在有關(guān)人工智能的司法實(shí)踐中勢(shì)必會(huì)碰到困惑,例如,法官應(yīng)該怎樣正確處理自然人與人工智能的人格權(quán)關(guān)系。人工智能歸入客體范疇并不會(huì)打破現(xiàn)實(shí)觀念、法學(xué)理念和司法實(shí)踐的傳統(tǒng),能夠更好地被社會(huì)所接納,法律可以以更合理地對(duì)其進(jìn)行保衛(wèi)。第四,從實(shí)踐表現(xiàn)看,當(dāng)人類面臨現(xiàn)實(shí)災(zāi)難時(shí),人工智能還是一種人工輔助工具。在新冠肺炎疫情防控中,人工智能的主要用武之地仍集中在提升信息管理能力方面,表如今對(duì)信息的獲取、組織、分析和傳遞,如運(yùn)用大數(shù)據(jù)分析和人工智能來(lái)估算特定社區(qū)或個(gè)人暴露于新冠病毒的可能性,幫助人類做出有效的應(yīng)對(duì)措施[40]。復(fù)旦大學(xué)附屬華山醫(yī)院感染科主任張文宏坦言,這次中國(guó)疫情的控制是靠傳統(tǒng)智慧和城市管理實(shí)現(xiàn)的,疫情防控的初期,全部依靠的是人工。人工智能的作用在于提供實(shí)時(shí)的數(shù)據(jù),幫助做到智能化管理。我們處在一個(gè)弱人工智能時(shí)代——盡管理論提出了超級(jí)人工智能的概念,但是在面對(duì)現(xiàn)實(shí)風(fēng)險(xiǎn)時(shí),機(jī)器人并無(wú)太大的獨(dú)立作用,是授權(quán)利主體支配的對(duì)象,服務(wù)于主體需求?;诩夹g(shù)領(lǐng)域?qū)θ斯ぶ悄艿难芯颗c應(yīng)用的現(xiàn)實(shí),人工智能歸于客體范疇更能回應(yīng)實(shí)踐的需求,由于人工智能當(dāng)前的最大效用是專項(xiàng)領(lǐng)域數(shù)據(jù)處理與分析的工具,強(qiáng)人工智能仍然是一個(gè)概念。(二)人工智能作為法律客體的司法價(jià)值第一,在客體范圍內(nèi)對(duì)人工智能進(jìn)行規(guī)制能夠清楚明晰責(zé)任承當(dāng)途徑。譬如,由人工智能承當(dāng)侵權(quán)責(zé)任,外表上簡(jiǎn)化了歸責(zé)程序,實(shí)際上并不能解決責(zé)任認(rèn)定和承當(dāng)?shù)睦щy。假如機(jī)器人沒(méi)有資產(chǎn),被侵權(quán)人就要自個(gè)承受此無(wú)妄之災(zāi),并且,在普通人的眼中,機(jī)器人本無(wú)情感,由其做出的賠禮道歉能撫恤安慰被侵權(quán)人遭到的傷害嗎?更為重要的是,這可能使機(jī)器人的生產(chǎn)者、銷售者、使用者逃避法律規(guī)制,助長(zhǎng)投機(jī)心理,也明顯不利于行業(yè)的健康發(fā)展。就被侵權(quán)人而言,可能更為期望的是最終能有自然人或者法人為機(jī)器人的行為埋單,與機(jī)器人進(jìn)行溝通和訴訟,可能會(huì)讓被侵權(quán)人感覺(jué)本身落入一幕滑稽的鬧劇。人工智能歸入客體范疇后,通過(guò)侵權(quán)法的有關(guān)規(guī)定和理論確定歸責(zé)程序,反而愈加清楚明晰。人工智能侵權(quán)責(zé)任并非一類全新的特殊侵權(quán)類型,其侵權(quán)責(zé)任的斷定牽涉產(chǎn)品責(zé)任規(guī)則和其他詳細(xì)侵權(quán)責(zé)任類型規(guī)則的運(yùn)用,最終的責(zé)任承當(dāng)者可能是產(chǎn)品的設(shè)計(jì)者、生產(chǎn)者、銷售者、產(chǎn)品的所有權(quán)人、實(shí)際使用人或第三人[41]。“責(zé)任人〞的出現(xiàn)使所有責(zé)任有了最后的下落?!柏?zé)任器〞即便在法律上被認(rèn)定為責(zé)任承當(dāng)主體,若實(shí)現(xiàn)的可能性甚小,訴訟也是沒(méi)有意義的,由于責(zé)任的實(shí)現(xiàn)是訴訟的根本目的。第二,在客體范圍內(nèi)對(duì)人工智能進(jìn)行規(guī)制符合法律的邏輯。從法律的初始邏輯——人出發(fā),民事權(quán)利客體是與主體相對(duì)應(yīng)的概念。人工智能作為人類的創(chuàng)造物,在以法律行為為中心展開(kāi)的規(guī)范體系內(nèi),理應(yīng)歸入客體的范疇。從物理意義上講,人工智能是人類的創(chuàng)造物,具有承載工具的屬性,幫助人類更好的生存,而不是和人類“分享〞世界。基于此,其完全符合法律意義上權(quán)利客體的概念要求。民事權(quán)利,因其種類不同而有不同的客體,且物為一切財(cái)產(chǎn)關(guān)系最基本的要素,牽涉一切財(cái)產(chǎn)關(guān)系,故而,物是權(quán)利客體之典范[42]。物者,指除人體外,凡能為人力所支配,獨(dú)立知足人類社會(huì)生活需要的有體物及自然力[24]。弱人工智能的機(jī)器人完全受主體人的支配,以知足主體人的特殊需求,納入物的概念范疇完全自洽。第三,在客體范圍內(nèi)對(duì)人工智能進(jìn)行規(guī)制具體表現(xiàn)出法律的時(shí)代性。隨著社會(huì)生產(chǎn)力的發(fā)展,民事權(quán)利客體是不斷發(fā)展與變革的,從羅馬法到當(dāng)代民事權(quán)利客體制度革新,彰顯人類實(shí)踐創(chuàng)新的特點(diǎn)。近代民法有關(guān)權(quán)利客體制度的發(fā)展與變革中的一大特點(diǎn)是精神產(chǎn)物財(cái)產(chǎn)化。知識(shí)產(chǎn)權(quán)的出現(xiàn),使得知識(shí)產(chǎn)品和智力成果成為財(cái)產(chǎn)權(quán)的標(biāo)的[44]。(中國(guó)民法典〕亦在總則編設(shè)“民事權(quán)利〞一章規(guī)定知識(shí)產(chǎn)權(quán)等多種權(quán)利客體。當(dāng)下人工智能生成發(fā)明,包括遺傳編程、人工神經(jīng)網(wǎng)絡(luò)、機(jī)器人科學(xué)家等,都成為“可專利性〞的主題。不管是作為知識(shí)產(chǎn)權(quán)客體以鼓勵(lì)技術(shù)領(lǐng)域的創(chuàng)新,還是納入物的框架以實(shí)現(xiàn)物盡其用,將人工智能歸入客體范疇均具有充分的可行性。第四,在客體范圍內(nèi)對(duì)人工智能進(jìn)行規(guī)制,能夠?qū)崿F(xiàn)行業(yè)的良性發(fā)展,保證“物為人用〞?!叭祟愖罡吣康牟皇前l(fā)展和應(yīng)用技術(shù),而是人的全面發(fā)展,技術(shù)只是為這個(gè)目的服務(wù)的手段〞[45]。人工智能的發(fā)展不能完全超脫人的控制,對(duì)其法律地位的成認(rèn)應(yīng)該以人的知足為依托。若成認(rèn)其主體地位,將造成人和人工智能在法律上的等量齊觀。法律對(duì)法人主體地位的成認(rèn)是為了知足人對(duì)投資風(fēng)險(xiǎn)有限性的需求,假如人工智能也如此,將有人類自掘墳?zāi)沟目赡堋H斯ぶ悄艿某跗跔顟B(tài)是人類所賦予的,后期通過(guò)自我學(xué)習(xí)可能會(huì)超出人類預(yù)期。假如不強(qiáng)化設(shè)計(jì)者的風(fēng)險(xiǎn)責(zé)任意識(shí),純粹以鼓勵(lì)創(chuàng)新為目的,追求“為人工智能而智能〞,就可能讓設(shè)計(jì)者脫離責(zé)任主體認(rèn)定,難免為有心之人所利用。將人工智能納入客體范疇,使法律的利劍直指設(shè)計(jì)者,能夠有效保證人工智能的發(fā)展不會(huì)超出人類的控制。第五,需要重申的是,人從單細(xì)胞生物歷經(jīng)數(shù)億年的演化,本身凝結(jié)造物者之無(wú)盡藏。法律主體地位背后是人的厚重底蘊(yùn),也是法律主體制度的一脈淵源??萍冀K究是人類實(shí)踐的產(chǎn)物,是人類認(rèn)識(shí)和改造客觀世界的工具,不能單純?yōu)榭萍嫉陌l(fā)展而改變?nèi)说闹贫?。科技為主體所用,是一以貫之的邏輯。五、結(jié)論在技術(shù)和行業(yè)領(lǐng)域仍沒(méi)有確切把握人工智能的智識(shí)建設(shè)時(shí),法律就從現(xiàn)有制度出發(fā),斷然構(gòu)造法律主體地位,則在理論上是錯(cuò)誤的,在實(shí)踐上是有害的。錯(cuò)誤的法律構(gòu)造自以為從一種法律制度的“概念〞“本質(zhì)〞能夠引出其法律規(guī)則,就像把法人稱作大寫(xiě)的人和有機(jī)體,進(jìn)而引申出法人具有侵權(quán)能力和刑事責(zé)任能力一樣,充其量只是對(duì)其目的的形象描繪[46]。既然行業(yè)和技術(shù)都遵循“人工智能為人所用〞原則,那么法律試圖賦予人工智能主體地位的目的值得懷疑。法律的基本目的之一是提供穩(wěn)定性和連續(xù)性,故而,一種法律制度的根本轉(zhuǎn)變是一件自相矛盾的事情[47]。在

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論