機(jī)器學(xué)習(xí)技術(shù)與應(yīng)用 課件 第14課 機(jī)器人安全與法律

智能機(jī)器人技術(shù)與應(yīng)用“十四五”職業(yè)教育人工智能技術(shù)應(yīng)用專(zhuān)業(yè)系列教材第14課機(jī)器人安全與法律231知識(shí)目標(biāo)（1）熟悉與機(jī)器人相關(guān)的安全問(wèn)題。（2）熟悉機(jī)器人倫理基礎(chǔ)知識(shí)。（3）熟悉人工智能與機(jī)器人面臨的法律問(wèn)題。能力目標(biāo)（1）掌握專(zhuān)業(yè)知識(shí)的學(xué)習(xí)方法，培養(yǎng)閱讀、思考與研究的能力。（2）積極參加“研究性學(xué)習(xí)小組”活動(dòng)，提高組織和活動(dòng)能力，具備團(tuán)隊(duì)精神。素質(zhì)目標(biāo)（1）熱愛(ài)學(xué)習(xí)，掌握學(xué)習(xí)方法，提高學(xué)習(xí)能力。（2）熱愛(ài)讀書(shū)，善于分析，勤于思考，培養(yǎng)關(guān)心機(jī)器人的社會(huì)進(jìn)步。（3）體驗(yàn)、積累和提高“大國(guó)工匠”的專(zhuān)業(yè)素質(zhì)。學(xué)習(xí)目標(biāo)

愿景

體驗(yàn)

創(chuàng)意

實(shí)踐重點(diǎn)難點(diǎn)（1）熟悉機(jī)器人倫理社會(huì)基礎(chǔ)。（2）熟悉人工智能與機(jī)器人的法律問(wèn)題。目錄與機(jī)器人相關(guān)的安全01機(jī)器人的倫理基礎(chǔ)02人工智能面臨的法律問(wèn)題03機(jī)器人的發(fā)展方向04第14課機(jī)器人安全與法律自動(dòng)化技術(shù)的快速進(jìn)步，例如固定機(jī)器人、協(xié)作和移動(dòng)機(jī)器人、動(dòng)力外骨骼和自主車(chē)輛等，可以改善工作條件，但也可能在制造工作場(chǎng)所引入了工作場(chǎng)所危害。危險(xiǎn)源在特定的機(jī)器人系統(tǒng)中往往各不相同，危險(xiǎn)的數(shù)量和類(lèi)型與自動(dòng)化過(guò)程的性質(zhì)和裝備的復(fù)雜性直接有關(guān)。與危險(xiǎn)相關(guān)的風(fēng)險(xiǎn)隨著所用機(jī)器人的類(lèi)型及其應(yīng)用、安裝、編程、操作和維護(hù)方式而變化。與機(jī)器人相關(guān)的安全0101

與機(jī)器人相關(guān)的安全與機(jī)器人相關(guān)的事故多數(shù)發(fā)生在維修期間，即工人們不得不進(jìn)入圍欄內(nèi)進(jìn)行單元測(cè)試和故障查找時(shí)，實(shí)際上這些悲劇都是可以避免的。與傳統(tǒng)工業(yè)機(jī)器人相比，協(xié)作機(jī)器人不依賴(lài)籠子進(jìn)行簡(jiǎn)單隔離這一安全措施，而是使用力反饋和力傳感器以及3D攝像機(jī)和激光雷達(dá)等來(lái)實(shí)現(xiàn)與人類(lèi)的安全互動(dòng)。同時(shí)，協(xié)作機(jī)器人擁有輕量的機(jī)械

臂和末端執(zhí)行器，以減少人們?cè)谂c機(jī)器人接觸時(shí)

受到嚴(yán)重傷害的風(fēng)險(xiǎn)。

圖14-11機(jī)器人工作環(huán)境機(jī)器人安全性能機(jī)器人行業(yè)安全規(guī)范系統(tǒng)性安全守則01

與機(jī)器人相關(guān)的安全01

與機(jī)器人相關(guān)的安全14.1.1機(jī)器人安全性能產(chǎn)品的總體安全性評(píng)價(jià)指標(biāo)包括產(chǎn)品本身的安全等級(jí)、環(huán)境的限制條件以及人們對(duì)安全性的期望水平。同理，機(jī)器人自身通過(guò)了什么等級(jí)的安全認(rèn)證，使用者是否按照規(guī)范操作，人們是否充分認(rèn)識(shí)并接受機(jī)器人的危險(xiǎn)性，都是評(píng)價(jià)一個(gè)機(jī)器人系統(tǒng)是否安全時(shí)需要考慮的重要因素。（1）各種機(jī)器人通常都配備有各自的安全技術(shù)，但其安全功能本身還比較初級(jí)，例如將物理的圍欄換成了虛擬圍欄、檢測(cè)到有人靠近時(shí)自動(dòng)停止，還不能算是完整的協(xié)作安全技術(shù)。（2）通過(guò)ISO/TS15066認(rèn)證的成本太高，從市場(chǎng)的逐利性來(lái)看不劃算。因此，除了歐美等大公司對(duì)安全性有硬性要求外，其他機(jī)器人企業(yè)并不很重視。（3）國(guó)內(nèi)一般更注重機(jī)器人的功能性，而對(duì)于機(jī)器人的安全性能不太重視，即使機(jī)器人具備碰撞檢測(cè)功能，那也只算錦上添花而已。01

與機(jī)器人相關(guān)的安全（4）機(jī)器人的安全性不高還在于“人”的問(wèn)題。一些中小型企業(yè)管理者的自我保護(hù)意識(shí)偏弱，機(jī)器人領(lǐng)域的安全管理人才較少等。多重因素之下，導(dǎo)致國(guó)內(nèi)協(xié)作機(jī)器人在安全性技術(shù)上比較缺乏，鮮見(jiàn)通過(guò)安全認(rèn)證的工業(yè)機(jī)器人。01

與機(jī)器人相關(guān)的安全14.1.2機(jī)器人行業(yè)安全規(guī)范在市場(chǎng)上銷(xiāo)售的機(jī)器人除了必須遵守一般的設(shè)計(jì)與安全規(guī)范外，涉及機(jī)器人行業(yè)的安全規(guī)范主要有以下幾項(xiàng)：（1）國(guó)際電工委員會(huì)（IEC）的IEC61508標(biāo)準(zhǔn)《電氣/電子/可編程電子安全系統(tǒng)的功能安全》是工業(yè)安全領(lǐng)域的通用標(biāo)準(zhǔn)，既可以用作編寫(xiě)細(xì)分領(lǐng)域安全標(biāo)準(zhǔn)的基礎(chǔ)，也可以在沒(méi)有專(zhuān)用安全標(biāo)準(zhǔn)的領(lǐng)域中直接應(yīng)用。（2）IEC60204-1《機(jī)械安全機(jī)器電氣設(shè)備第1部分一般要求》

提出了安全停止的三大類(lèi)別。01

與機(jī)器人相關(guān)的安全（3）IEC61800-5-2，對(duì)應(yīng)的中國(guó)國(guó)家標(biāo)準(zhǔn)為GB/T12668.5.2《可調(diào)速的電動(dòng)設(shè)備標(biāo)準(zhǔn).第5-2部分:功能安全要求》。該標(biāo)準(zhǔn)主要針對(duì)安全編碼器、安全伺服驅(qū)動(dòng)器（STO、SOS、SLS、SBC、SafetyStop1/2等功能）、伺服電機(jī)等系統(tǒng)提出了功能安全要求。（4）國(guó)際標(biāo)準(zhǔn)化組織ISO公布的ISO10218《工業(yè)機(jī)器人安全要求》，規(guī)定了機(jī)器人在設(shè)計(jì)和制造時(shí)應(yīng)遵循的安全原則；ISO10218-2規(guī)定了在機(jī)器人集成應(yīng)用、安裝、功能測(cè)試、編程、操作、維護(hù)以及維修時(shí)，對(duì)人身安全的防護(hù)原則。01

與機(jī)器人相關(guān)的安全（5）ISO發(fā)布的ISO/TS15066《在操作人員與機(jī)器人協(xié)作工作時(shí)，如何確保操作人員安全的技術(shù)指南》是專(zhuān)門(mén)針對(duì)協(xié)作機(jī)器人編寫(xiě)的安全規(guī)范，同時(shí)也是ISO10218-1和ISO10218-2關(guān)于協(xié)作機(jī)器人操作內(nèi)容的補(bǔ)充。ISO/TS15066也可以作為機(jī)器人系統(tǒng)集成商在安裝協(xié)作型機(jī)器人時(shí)做“風(fēng)險(xiǎn)評(píng)估”的指導(dǎo)性和綜合性文件，它為機(jī)器人行業(yè)解答了以下幾個(gè)問(wèn)題，包括如何定義人機(jī)協(xié)作行為；如何量化機(jī)器人可能對(duì)人造成的傷害；在以上基礎(chǔ)上，對(duì)協(xié)作機(jī)器人的設(shè)計(jì)有什么要求等。01

與機(jī)器人相關(guān)的安全14.1.3系統(tǒng)性安全守則由于機(jī)器人系統(tǒng)復(fù)雜而且危險(xiǎn)性大，對(duì)機(jī)器人進(jìn)行的任何操作都必須注意安全。無(wú)論什么時(shí)候進(jìn)入機(jī)器人的工作范圍，都可能導(dǎo)致嚴(yán)重的傷害。因此，只有經(jīng)過(guò)培訓(xùn)認(rèn)證的人員才可以進(jìn)入機(jī)器人的工作區(qū)域。為保證工業(yè)機(jī)器人在運(yùn)用過(guò)程中的安全性，保證操作人員安全，需要注意例如：（1）萬(wàn)一發(fā)生火災(zāi)，應(yīng)使用二氧化碳滅火器。（2）急停開(kāi)關(guān)（E-Stop）不允許被短接。01

與機(jī)器人相關(guān)的安全（3）機(jī)器人處于自動(dòng)模式時(shí)，任何人員都不允許進(jìn)入其運(yùn)動(dòng)所及的區(qū)域。

圖14-12機(jī)器人工作安全區(qū)域01

與機(jī)器人相關(guān)的安全（4）任何情況下都不要使用機(jī)器人原始啟動(dòng)盤(pán)，而是使用其復(fù)制盤(pán)。（5）停機(jī)時(shí)，機(jī)器人的夾具上不應(yīng)置物，必須空機(jī)。（6）在發(fā)生意外或運(yùn)行不正常等情況下，機(jī)器人均可使用E-Stop鍵以停止運(yùn)行。（7）在自動(dòng)狀態(tài)下，機(jī)器人即使運(yùn)行速度非常低其動(dòng)量仍很大，所以在進(jìn)行編程、測(cè)試及維修等工作時(shí)，必須將機(jī)器人置于手動(dòng)模式。（8）氣路系統(tǒng)中的壓力可達(dá)0.6MPa，任何相關(guān)檢修都要切斷氣源。（9）在手動(dòng)模式下調(diào)試機(jī)器人，如果不需要移動(dòng)機(jī)器人時(shí)，必須及時(shí)釋放使能器（負(fù)責(zé)控制信號(hào)的輸入和輸出叫做使能）。（10）調(diào)試人員進(jìn)入機(jī)器人工作區(qū)域時(shí)，必須隨身攜帶示教器，以防被他人誤操作。（11）在得到停電通知時(shí)，要預(yù)先關(guān)斷機(jī)器人的主電源及氣源。01

與機(jī)器人相關(guān)的安全（12）突然停電后，要在來(lái)電之前先關(guān)閉機(jī)器人的主電源開(kāi)關(guān)，并及時(shí)取下夾具上的工件。（13）維修人員必須保管好機(jī)器人鑰匙，嚴(yán)禁非授權(quán)人員在手動(dòng)模式下進(jìn)入機(jī)器人軟件系統(tǒng)，隨意翻閱或修改程序及參數(shù)。（14）在《用戶(hù)指南》中，關(guān)于安全這一章節(jié)中對(duì)安全事項(xiàng)要有詳細(xì)說(shuō)明。機(jī)器人的倫理基礎(chǔ)0202

機(jī)器人的倫理基礎(chǔ)所謂“倫理”，其意思是人倫道德之理，是指在處理人與人、人與社會(huì)、人與自然相互關(guān)系時(shí)應(yīng)遵循的各種道理和道德準(zhǔn)則，是一系列指導(dǎo)行為的觀念，也是從概念角度上對(duì)道德現(xiàn)象的哲學(xué)思考。例如“天地君親師”為五天倫，又如君臣、父子、兄弟、夫妻、朋友為五人倫。忠、孝、悌（敬愛(ài)兄長(zhǎng)）、忍、信是處理人倫的規(guī)則?？萍紓惱硎抢硇缘漠a(chǎn)物科技倫理的預(yù)見(jiàn)性和探索性人工智能倫理的發(fā)展02

機(jī)器人的倫理基礎(chǔ)02

機(jī)器人的倫理基礎(chǔ)14.2.1科技倫理是理性的產(chǎn)物2019年7月24日，中央全面深化改革委員會(huì)第九次會(huì)議審議通過(guò)了諸多重要文件，其中《國(guó)家科技倫理委員會(huì)組建方案》排在首位通過(guò)，這表明中央將科技倫理建設(shè)作為推進(jìn)國(guó)家科技創(chuàng)新體系不可或缺的重要組成部分。組建國(guó)家科技倫理委員會(huì)的要旨在于，抓緊完善制度規(guī)范，健全治理機(jī)制，強(qiáng)化倫理監(jiān)管，細(xì)化相關(guān)法律法規(guī)和倫理審查規(guī)則，規(guī)范各類(lèi)科學(xué)研究活動(dòng)?？萍紓惱硎强萍紕?chuàng)新和科研活動(dòng)中人與社會(huì)、人與自然以及人與人關(guān)系的思想與行為準(zhǔn)則，它

不只是涉及科學(xué)研究中的倫理，也不只是科研人員要遵守科技倫理，還包括科技成果應(yīng)

用中的倫理。例如，手機(jī)App下載的同意條款和醫(yī)院治病時(shí)的知情同意等。如果把人類(lèi)

文明的演化當(dāng)作一個(gè)永無(wú)止境的征程，人類(lèi)奔向更高文明的原動(dòng)力就是科技和創(chuàng)新。但

是，僅有動(dòng)力還不夠，還必須能識(shí)別方向，科技倫理就是指引科技造福人類(lèi)的導(dǎo)航儀。02

機(jī)器人的倫理基礎(chǔ)科技倫理是理性的產(chǎn)物。最根本的理性是，要求科技創(chuàng)新和成果只能有益于或最大限度地有益于人、生物和環(huán)境，而不能損傷人、損害生物和破壞環(huán)境，即便不可避免地會(huì)不同程度地?fù)p人毀物——如藥物的副作用，也要把這種副作用減少到最低，甚至為零。在具體的倫理規(guī)則上，還應(yīng)兩利相權(quán)取其大、兩害相衡擇其輕。02

機(jī)器人的倫理基礎(chǔ)14.2.2科技倫理的預(yù)見(jiàn)性和探索性提出和遵循科技倫理不僅有益于人類(lèi)，也有利于生態(tài)和環(huán)境。盡管人是理性的，并因此誕生了科技倫理，但人類(lèi)也有一些非理性思維和行動(dòng)，因此在歷史上產(chǎn)生了一些違背科技倫理的非理性行為，甚至是獸性和反人類(lèi)的行為。在今天，這樣的危險(xiǎn)并未消除。02

機(jī)器人的倫理基礎(chǔ)第二次世界大戰(zhàn)時(shí)期，納粹德軍和日軍用活人（俘虜）做試驗(yàn)，既違背了科技倫理，更犯下了殘害人類(lèi)和反人類(lèi)的罪行（見(jiàn)圖14-14）。盡管人體活體試驗(yàn)獲得了一些科學(xué)數(shù)據(jù)和原理，但建立在傷害人、毀滅生命之上的科學(xué)研究是絕對(duì)不能為人類(lèi)社會(huì)所接受的。因此，二戰(zhàn)后的紐倫堡審判產(chǎn)生了《紐倫堡法典》（1946年），1975年第29屆世界醫(yī)學(xué)大會(huì)又修訂了《赫爾辛基宣言》以完善和補(bǔ)充《紐倫堡法典》，1982年世界衛(wèi)生組織（WHO）和國(guó)際醫(yī)學(xué)科學(xué)組織理事會(huì)（CIOMS）聯(lián)合發(fā)表《人體生物醫(yī)學(xué)研究國(guó)際指南》，對(duì)《赫爾辛基宣言》進(jìn)行了詳盡

解釋。再到1993年，WHO和CIOMS聯(lián)合發(fā)表了《倫理學(xué)與人體研究國(guó)際指南》和《人體研究國(guó)際倫理學(xué)指南》。2002年，WHO和CIOMS修改制定了《涉及人的生

物醫(yī)學(xué)研究國(guó)際倫理準(zhǔn)則》，提出了需要遵守的21項(xiàng)準(zhǔn)則，體現(xiàn)了生命倫理的知情同

意、生命價(jià)值、有利無(wú)傷原則。02

機(jī)器人的倫理基礎(chǔ)圖14-14二戰(zhàn)后審判對(duì)中國(guó)實(shí)行細(xì)菌戰(zhàn)的日本罪犯的伯力審判02

機(jī)器人的倫理基礎(chǔ)當(dāng)科技創(chuàng)新成為今天人類(lèi)最重要的活動(dòng)，以及人類(lèi)需要科技創(chuàng)新才能快速和有效地推動(dòng)人類(lèi)文明向更高階段發(fā)展之時(shí)，科技倫理又有了大量的新范疇、新內(nèi)容和新進(jìn)展。人類(lèi)基因組和基因編輯、人工生命和合成生命、人工智能、5G/6G通信技術(shù)、機(jī)器人、腦機(jī)接口、人臉識(shí)別、納米技術(shù)、輔助生殖技術(shù)、精準(zhǔn)醫(yī)療等，都是今天科技創(chuàng)新和科技研發(fā)的新領(lǐng)域，也關(guān)系到所有人的福祉，但另一方面也可能會(huì)傷害人，甚至讓人類(lèi)走向?yàn)?zāi)難和毀滅，如此，科技倫理的導(dǎo)航和規(guī)范作用就極為重要和顯著，科技倫理需要有預(yù)見(jiàn)性和探索性，在一項(xiàng)研究和一個(gè)行業(yè)發(fā)展

到一定規(guī)模和程度時(shí)，必須要求有相適應(yīng)的科技倫理來(lái)規(guī)范。02

機(jī)器人的倫理基礎(chǔ)14.2.3人工智能倫理的發(fā)展人工智能的創(chuàng)新與社會(huì)應(yīng)用方興未艾，智能社會(huì)已見(jiàn)端倪。人工智能發(fā)展不僅僅是一場(chǎng)席卷全球的科技革命，也是一場(chǎng)對(duì)人類(lèi)文明帶來(lái)前所未有深遠(yuǎn)影響的社會(huì)倫理實(shí)驗(yàn)。02

機(jī)器人的倫理基礎(chǔ)2018年7月11日，中國(guó)人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展聯(lián)盟發(fā)布了《人工智能創(chuàng)新發(fā)展道德倫理宣言》（以下簡(jiǎn)稱(chēng)《宣言》）?！缎浴烦诵蜓灾猓还灿辛鶄€(gè)部分，分別是人工智能系統(tǒng)，人工智能與人類(lèi)的關(guān)系，人工智能與具體接觸人員的道德倫理要求，以及人工智能的應(yīng)用和未來(lái)發(fā)展的方向，最后是附則。02

機(jī)器人的倫理基礎(chǔ)發(fā)布“人工智能創(chuàng)新發(fā)展道德倫理宣言”，是為了宣揚(yáng)涉及人工智能創(chuàng)新、應(yīng)用和發(fā)展的基本準(zhǔn)則，以期無(wú)論何種身份的人都能經(jīng)常銘記本宣言精神，理解并尊重發(fā)展人工智能的初衷，使其傳達(dá)的價(jià)值與理念得到普遍認(rèn)可與遵行。《宣言》指出：（1）鑒于全人類(lèi)固有道德、倫理、尊嚴(yán)及人格之權(quán)利，創(chuàng)新、應(yīng)用和發(fā)展人工智能技術(shù)當(dāng)以此為根本基礎(chǔ)；（2）鑒于人類(lèi)社會(huì)發(fā)展的最高階段為人類(lèi)解放和人的自由全面發(fā)展，人工智能技術(shù)研發(fā)當(dāng)以此為最終依歸，進(jìn)而促進(jìn)全人類(lèi)福祉；（3）鑒于人工智能技術(shù)對(duì)人類(lèi)社會(huì)既有觀念、秩序和自由意志的挑戰(zhàn)巨大，且發(fā)展前景充滿(mǎn)未知，對(duì)人工智能技術(shù)的創(chuàng)新應(yīng)當(dāng)設(shè)置倡導(dǎo)性與禁止性的規(guī)則，這些規(guī)則本身應(yīng)當(dāng)凝聚不同文明背景下人群的基本價(jià)值共識(shí)；02

機(jī)器人的倫理基礎(chǔ)（4）鑒于人工智能技術(shù)具有把人類(lèi)從繁重體力和腦力勞動(dòng)束縛中解放的潛力，縱然未來(lái)的探索道路上出現(xiàn)曲折與反復(fù)，也不應(yīng)停止人工智能創(chuàng)新發(fā)展造福人類(lèi)的步伐。02

機(jī)器人的倫理基礎(chǔ)建設(shè)人工智能系統(tǒng)，要做到：（1）人工智能系統(tǒng)基礎(chǔ)數(shù)據(jù)應(yīng)當(dāng)秉持公平性與客觀性，摒棄帶有偏見(jiàn)的數(shù)據(jù)和算法，以杜絕可能的歧視性結(jié)果。（2）人工智能系統(tǒng)的數(shù)據(jù)采集和使用應(yīng)當(dāng)尊重隱私權(quán)等一系列人格權(quán)利，以維護(hù)權(quán)利所承載的人格利益。（3）人工智能系統(tǒng)應(yīng)當(dāng)有相應(yīng)的技術(shù)風(fēng)險(xiǎn)評(píng)估機(jī)制，保持對(duì)系統(tǒng)潛在危險(xiǎn)的前瞻性控制能力。（4）人工智能系統(tǒng)所具有的自主意識(shí)程度應(yīng)當(dāng)受到科學(xué)技術(shù)水平

和道德、倫理、法律等人文價(jià)值的共同評(píng)價(jià)。02

機(jī)器人的倫理基礎(chǔ)為明確人工智能與人類(lèi)的關(guān)系，《宣言》指出：（1）人工智能的發(fā)展應(yīng)當(dāng)始終以造福人類(lèi)為宗旨。牢記這一宗旨，是防止人工智能的巨大優(yōu)勢(shì)轉(zhuǎn)為人類(lèi)生存發(fā)展巨大威脅的關(guān)鍵所在。（2）無(wú)論人工智能的自主意識(shí)能力進(jìn)化到何種階段，都不能改變其由人類(lèi)創(chuàng)造的事實(shí)。不能將人工智能的自主意識(shí)等同于人類(lèi)特有的自由意志，模糊這兩者之間的差別可能抹殺人類(lèi)自身特有的人權(quán)屬性與價(jià)值。（3）當(dāng)人工智能的設(shè)定初衷與人類(lèi)整體利益或個(gè)人合法利益相悖

時(shí)，人工智能應(yīng)當(dāng)無(wú)條件停止或暫停工作進(jìn)程，以保證人類(lèi)整體利

益的優(yōu)先性。02

機(jī)器人的倫理基礎(chǔ)《宣言》指出，人工智能具體接觸人員的道德倫理要求是：（1）人工智能具體接觸人員是指居于主導(dǎo)地位、可以直接操縱或影響人工智能系統(tǒng)和技術(shù)，使之按照預(yù)設(shè)產(chǎn)生某種具體功效的人員，包括但不限于人工智能的研發(fā)人員和使用者。（2）人工智能的研發(fā)者自身應(yīng)當(dāng)具備正確的倫理道德意識(shí)，同時(shí)將這種意識(shí)貫徹于研發(fā)全過(guò)程，確保其塑造的人工智能自主意識(shí)符合人類(lèi)社會(huì)主流道德倫理要求。（3）人工智能產(chǎn)品的使用者應(yīng)當(dāng)遵循產(chǎn)品的既有使用準(zhǔn)則，除非出于改善產(chǎn)品本身性能的目的，否則不得擅自變動(dòng)、篡改原有的設(shè)置，使之背離創(chuàng)新、應(yīng)用和發(fā)展初衷，以致于破壞人類(lèi)文明及社會(huì)和諧。（4）人工智能的具體接觸人員可以根據(jù)自身經(jīng)驗(yàn)，闡述其對(duì)人工智能產(chǎn)品與技術(shù)的認(rèn)識(shí)。此種闡述應(yīng)當(dāng)本著誠(chéng)實(shí)信用的原則，保持理性與客觀，不得誘導(dǎo)公眾的盲目熱情或故意加劇公眾的恐慌情緒。02

機(jī)器人的倫理基礎(chǔ)針對(duì)人工智能的應(yīng)用，《宣言》指出：（1）人工智能發(fā)展迅速，但也伴隨著各種不確定性。在沒(méi)有確定完善的技術(shù)保障之前，在某些失誤成本過(guò)于沉重的領(lǐng)域，人工智能的應(yīng)用和推廣應(yīng)當(dāng)審慎而科學(xué)。（2）人工智能可以為決策提供輔助。但是人工智能本身不能成為決策的主體，特別是國(guó)家公共事務(wù)領(lǐng)域，人工智能不能行使國(guó)家公權(quán)力。（3）人工智能的優(yōu)勢(shì)使其在軍事領(lǐng)域存在巨大應(yīng)用潛力。出于對(duì)人類(lèi)整體福祉的考慮，應(yīng)當(dāng)本著人道主義精神，克制在進(jìn)攻端武器運(yùn)用人工智能的沖動(dòng)。（4）人工智能不應(yīng)成為侵犯合法權(quán)益的工具，任何運(yùn)用人工智能從事犯罪活動(dòng)的行為，都應(yīng)當(dāng)受到法律的制裁和道義的譴責(zé)。（5）人工智能的應(yīng)用可以解放人類(lèi)在腦力和體力層面的部分束縛，在條件成熟時(shí)，應(yīng)當(dāng)鼓勵(lì)人工智能在相應(yīng)領(lǐng)域發(fā)揮幫助人類(lèi)自由發(fā)展的作用。人工智能面臨的法律問(wèn)題0303

人工智能面臨的法律問(wèn)題初級(jí)的人工智能或許能為人類(lèi)帶來(lái)便捷，在我國(guó)或許還能帶來(lái)規(guī)則意識(shí)，甚至法治理念的真正普及。這是因?yàn)槿斯ぶ悄艿谋举|(zhì)就是算法，任何算法必然建立在對(duì)某項(xiàng)事物認(rèn)識(shí)的共性與常識(shí)之上。也正是在此意義上，人工智能能代替自然人為人類(lèi)服務(wù)。深度學(xué)習(xí)能力尚不充分的初級(jí)人工智能，難以進(jìn)行諸如價(jià)值判斷與情感判斷的活動(dòng)，比如包含愛(ài)的交流與體驗(yàn)，難以對(duì)疑難案件作出理性裁判，對(duì)案件的漏洞填補(bǔ)與價(jià)值補(bǔ)充等。隨著人工智能技術(shù)的進(jìn)步和應(yīng)用的推廣，其背后的法律倫理、政策監(jiān)管等問(wèn)題開(kāi)始引起人們的廣泛關(guān)注，

尤其是在主體資格、個(gè)人數(shù)據(jù)和隱私保護(hù)、侵權(quán)責(zé)任劃分和

承擔(dān)等方面。人格權(quán)保護(hù)數(shù)據(jù)財(cái)產(chǎn)保護(hù)機(jī)器人法律主體地位侵權(quán)責(zé)任認(rèn)定03

人工智能面臨的法律問(wèn)題03

人工智能面臨的法律問(wèn)題14.3.1人格權(quán)保護(hù)一些人工智能系統(tǒng)把某些人的聲音、表情、肢體動(dòng)作等植入內(nèi)部系統(tǒng)，使所開(kāi)發(fā)的人工智能產(chǎn)品可以模仿他人的聲音、形體動(dòng)作等，甚至能夠像人一樣表達(dá)，并與人進(jìn)行交流。但如果未經(jīng)他人同意而擅自進(jìn)行上述模仿活動(dòng)，就有可能構(gòu)成對(duì)他人人格權(quán)的侵害。此外，人工智能還可能借助光學(xué)技術(shù)、聲音控制、人臉識(shí)別技術(shù)等，對(duì)他人的人格權(quán)客體加以利用，這也對(duì)個(gè)人聲音、肖像等的保護(hù)提出了新的挑戰(zhàn)。例如，光學(xué)技術(shù)的發(fā)展促進(jìn)了攝像技術(shù)的發(fā)展，提高了攝

像圖片的分辨率，使夜拍圖片具有與日拍圖片同等的效果，也使對(duì)肖像權(quán)的獲取與利用

更為簡(jiǎn)便。此外，機(jī)器人伴侶已經(jīng)出現(xiàn)，在虐待、侵害機(jī)器人伴侶的情形下，行為人是

否應(yīng)當(dāng)承擔(dān)侵害人格權(quán)以及精神損害賠償責(zé)任呢？但這樣一來(lái)，是不是需要先考慮賦予

人工智能機(jī)器人主體資格，或者至少具有部分權(quán)利能力呢？這確實(shí)是一個(gè)值得探討的問(wèn)

題。03

人工智能面臨的法律問(wèn)題14.3.2數(shù)據(jù)財(cái)產(chǎn)保護(hù)人工智能的發(fā)展也對(duì)數(shù)據(jù)的保護(hù)提出了新的挑戰(zhàn)，一方面，人工智能及其系統(tǒng)能夠正常運(yùn)作，在很大程度上是以海量的數(shù)據(jù)為支撐的，在利用人工智能時(shí)如何規(guī)范數(shù)據(jù)的收集、儲(chǔ)存、利用行為，避免數(shù)據(jù)的泄露和濫用，并確保國(guó)家數(shù)據(jù)的安全，是亟需解決的重大現(xiàn)實(shí)問(wèn)題。另一方面，人工智能的應(yīng)用在很大程度上取決于其背后的一套算法，如何有效規(guī)范這一算法及其結(jié)果的運(yùn)用，避免侵害他人權(quán)利，也需要法律制度予以應(yīng)對(duì)。目前，人工智能算法本身的公開(kāi)性、

透明性和公正性的問(wèn)題，是人工智能時(shí)代的一個(gè)核心問(wèn)題，但

并未受到充分關(guān)注。03

人工智能面臨的法律問(wèn)題14.3.3侵權(quán)責(zé)任認(rèn)定以自動(dòng)駕駛為例，作為人工智能的重要應(yīng)用之一，近年來(lái)，美、德等發(fā)達(dá)國(guó)家積極推動(dòng)立法，鼓勵(lì)自動(dòng)駕駛車(chē)輛測(cè)試及應(yīng)用。2016年9月21日，美國(guó)交通運(yùn)輸部（DOT）頒布《聯(lián)邦自動(dòng)駕駛汽車(chē)政策》（2017年9月發(fā)布了第二版《自主駕駛系統(tǒng)的安全愿景》），提出自動(dòng)駕駛汽車(chē)安全評(píng)估、聯(lián)邦與州監(jiān)管政策協(xié)調(diào)等四部分內(nèi)容，進(jìn)一步為自動(dòng)駕駛技術(shù)提供了制度保障。2016年4月，德國(guó)政府批準(zhǔn)了交通部起草的相關(guān)法案，將“駕駛員”定義擴(kuò)大到能夠完全控制

車(chē)輛的自動(dòng)系統(tǒng)。目前我國(guó)自動(dòng)駕駛方面立法政策相對(duì)滯后，如何對(duì)自動(dòng)駕駛等產(chǎn)業(yè)

進(jìn)行規(guī)制，如何確定事故責(zé)任承擔(dān)等也是值得思考的法律問(wèn)題。03

人工智能面臨的法律問(wèn)題人工智能引發(fā)的侵權(quán)責(zé)任問(wèn)題很早就受到了學(xué)者的關(guān)注，隨著人工智能應(yīng)用范圍的日益廣泛，其引發(fā)的侵權(quán)責(zé)任認(rèn)定和承擔(dān)問(wèn)題將對(duì)現(xiàn)行侵權(quán)法律制度提出越來(lái)越多的挑戰(zhàn)。無(wú)論是機(jī)器人致人損害，還是人類(lèi)侵害機(jī)器人，都是新的法律責(zé)任。03

人工智能面臨的法律問(wèn)題據(jù)報(bào)載，2016年11月，在深圳舉辦的第十八屆中國(guó)國(guó)際高新技術(shù)成果交易會(huì)上，一臺(tái)某型號(hào)機(jī)器人突然發(fā)生故障，在沒(méi)有指令的前提下自行打砸展臺(tái)玻璃，砸壞了部分展臺(tái)，并導(dǎo)致一人受傷。毫無(wú)疑問(wèn)，機(jī)器人是人制造的，其程序也是制造者控制的，所以，在造成損害后，誰(shuí)研制的機(jī)器人，就應(yīng)當(dāng)由誰(shuí)負(fù)責(zé)，似乎在法律上沒(méi)有爭(zhēng)議。人工智能就是人的手臂的延長(zhǎng)，在人工智能造成他人損害時(shí)，當(dāng)然應(yīng)當(dāng)適用產(chǎn)品責(zé)任的相關(guān)規(guī)則。其實(shí)不然，機(jī)器人與人類(lèi)一樣，是用“腦子”來(lái)思考的，機(jī)器人的腦子就是程序。我們都知道一個(gè)產(chǎn)品可以追蹤屬于哪個(gè)廠家，

但程序是不一定的，有可能是由眾多的人共同開(kāi)發(fā)的，程序的產(chǎn)生可能無(wú)法追蹤到某

個(gè)具體的個(gè)人或組織。尤其是，智能機(jī)器人也會(huì)思考，如果有人故意挑逗，惹怒了它，

它有可能會(huì)主動(dòng)攻擊人類(lèi)，此時(shí)是否都要由研制者負(fù)責(zé)，就需要進(jìn)一步研究。03

人工智能面臨的法律問(wèn)題14.3.4機(jī)器人法律主體地位機(jī)器人是否可以被賦予法律人格？享有法律權(quán)利并承擔(dān)法律責(zé)任？近年來(lái)，歐盟在機(jī)器人立法方面進(jìn)行了積極探索。2015年，歐盟議會(huì)法律事務(wù)委員會(huì)決定成立一個(gè)工作小組，專(zhuān)門(mén)研究與機(jī)器人和人工智能發(fā)展相關(guān)的法律問(wèn)題。2016年，該委員會(huì)發(fā)布《就機(jī)器人民事法律規(guī)則向歐盟委員會(huì)提出立法建議的報(bào)告》，2017年2月，歐盟議會(huì)已通過(guò)一份呼吁出臺(tái)機(jī)器人立法的決議。在其中開(kāi)始考慮賦予復(fù)雜的自主機(jī)器人法律地位（電子人）的可能性。03

人工智能面臨的法律問(wèn)題此外，人工智能發(fā)展所帶來(lái)的倫理問(wèn)題等也值得關(guān)注。人工智能因其自主性和學(xué)習(xí)能力而帶來(lái)新的倫理問(wèn)題，包括安全問(wèn)題、歧視問(wèn)題、失業(yè)問(wèn)題、是否能最終被人控制的問(wèn)題等等，對(duì)人類(lèi)社會(huì)各方面將帶來(lái)重大影響。目前IEEE及聯(lián)合國(guó)等已發(fā)布人工智能相關(guān)倫理原則，如保障人類(lèi)利益和基本權(quán)利原則、安全性原則、透明性原則、推動(dòng)人工智能普惠和有益原則等。03

人工智能面臨的法律問(wèn)題今天，人工智能機(jī)器人已經(jīng)逐步具有一定程度的自我意識(shí)和自我表達(dá)能力，可以與人類(lèi)進(jìn)行一定的情感交流。有人