人工智能倫理問(wèn)題初探

1、    人工智能倫理問(wèn)題初探    劉月【摘 要】 人工智能是當(dāng)下人們熱切討論的話題之一。人工智能的出現(xiàn)極大地方便了人們的生活，但近年來(lái)，隨著tesla、uber等公司自動(dòng)駕駛汽車事故的出現(xiàn)，其背后所反映的人工智能倫理問(wèn)題也逐漸躍入大眾視線中。對(duì)人工智能倫理問(wèn)題進(jìn)行探討，有利于人們更加深入了解人工智能所能帶來(lái)的倫理問(wèn)題，也可以為如何規(guī)避人工智能倫理問(wèn)題提供參考和方向?！娟P(guān)鍵詞】 人工智能 倫理 規(guī)避一、人工智能發(fā)展概述人工智能（artificial intelligence，ai）起源于1956年的達(dá)特茅斯會(huì)議。ai一詞一經(jīng)提出，就引起了眾多學(xué)者的關(guān)注與

2、研究，人們致力于讓機(jī)器像人一樣具有智能，能夠與人進(jìn)行自然的人機(jī)交互1。人工智能的發(fā)展經(jīng)歷了三次跨越式發(fā)展階段：第一次發(fā)展是使智能系統(tǒng)基本實(shí)現(xiàn)了問(wèn)題求解，實(shí)現(xiàn)了人工智能簡(jiǎn)單的邏輯推理功能;第二次發(fā)展是實(shí)現(xiàn)了智能系統(tǒng)與機(jī)器及外部環(huán)境進(jìn)行自動(dòng)交互的功能，可以實(shí)現(xiàn)從陌生的環(huán)境中獲取有用信息完成設(shè)定的推理工作;第三次發(fā)展是追求類人的思維和認(rèn)知能力，使得智能系統(tǒng)與機(jī)器能夠發(fā)現(xiàn)、創(chuàng)造和運(yùn)用新知識(shí)，能夠?qū)?shù)據(jù)進(jìn)行分析和挖掘等功能2。人工智能變得越來(lái)越強(qiáng)大，越來(lái)越深入到重要的社會(huì)系統(tǒng)中，為它們編寫一個(gè)內(nèi)置倫理框架的程序就變得越來(lái)越重要。用picard（1997：134）的話來(lái)說(shuō)，“機(jī)器越自由，就越需要道德標(biāo)準(zhǔn)”

3、3。舉一個(gè)例子，自動(dòng)駕駛汽車的發(fā)展將人工智能置于生死攸關(guān)的境地，包括倫理困境，比如當(dāng)碰撞不可避免時(shí)，人工智能司機(jī)必須決定發(fā)生哪種危險(xiǎn)碰撞（lin 2016）4。這種情況的結(jié)果可能取決于ai設(shè)計(jì)決策，這使得ai開發(fā)人員有責(zé)任仔細(xì)選擇內(nèi)置的道德規(guī)范。隨著人工智能系統(tǒng)（如機(jī)器人、聊天機(jī)器人等）從被視為一種工具轉(zhuǎn)變?yōu)楸灰暈樽灾鞔砗完?duì)友，研究和開發(fā)的一個(gè)重點(diǎn)是了解這些系統(tǒng)的倫理影響。人工智能系統(tǒng)做決定意味著什么？他們的行為和決定所帶來(lái)的道德、社會(huì)和法律后果是什么？人工智能系統(tǒng)能對(duì)其行為負(fù)責(zé)嗎？這種商業(yè)系統(tǒng)的自主創(chuàng)新應(yīng)該被允許嗎？應(yīng)該如何規(guī)范使用和開發(fā)？這些和許多其他與人工智能有關(guān)的問(wèn)題是目前備受關(guān)注的

4、焦點(diǎn)。社會(huì)和相關(guān)產(chǎn)品系統(tǒng)處理這些問(wèn)題的方式將在很大程度上決定我們的信任水平，并最終決定人工智能對(duì)社會(huì)的影響，以及人工智能的存在。二、人工智能發(fā)展過(guò)程中的倫理挑戰(zhàn)（一）人工智能會(huì)帶來(lái)道德決策風(fēng)險(xiǎn)。隨著人工智能技術(shù)的發(fā)展，人工智能系統(tǒng)被賦予越來(lái)越多的自主決策權(quán)，導(dǎo)致人工智能會(huì)引發(fā)道德決策風(fēng)險(xiǎn)。例如在自動(dòng)駕駛汽車上可以很好地體現(xiàn)這一倫理問(wèn)題。2016年5月，一輛特斯拉電動(dòng)車在美國(guó)佛羅里達(dá)州以自動(dòng)駕駛模式行駛時(shí)與一輛橫穿公路的貨車相撞，導(dǎo)致電動(dòng)車車主喪生。而自動(dòng)駕駛汽車在這場(chǎng)事故中是否能夠規(guī)避這起事故？是否有更好的決策可以不用付出生命？對(duì)于自動(dòng)駕駛系統(tǒng)所做出決策伴隨的風(fēng)險(xiǎn)應(yīng)該由誰(shuí)承擔(dān)？如何確定自動(dòng)駕駛

5、系統(tǒng)所做出的決策是最佳的？是否存在最佳決策，其判斷依據(jù)是什么？這些問(wèn)題我們尚不可知。（二）人工智能會(huì)引發(fā)責(zé)任歸屬的倫理問(wèn)題。伴隨著人工智能系統(tǒng)被賦予越來(lái)越多的自主決策權(quán)，人工智能在觸發(fā)道德決策風(fēng)險(xiǎn)時(shí)，其應(yīng)該承擔(dān)什么樣的責(zé)任應(yīng)該是我們需要討論的問(wèn)題。例如特斯拉自動(dòng)駕駛汽車導(dǎo)致電動(dòng)車車主喪生的事故在經(jīng)過(guò)長(zhǎng)時(shí)間的調(diào)查后，2017年1月，美國(guó)公路交通安全管理局（nhtsa）公布了調(diào)查報(bào)告，結(jié)果顯示，事故原因與特斯拉的自動(dòng)駕駛系統(tǒng)無(wú)關(guān)，這也意味著特斯拉公司無(wú)需承擔(dān)相應(yīng)法律責(zé)任。但這一結(jié)果引發(fā)了大眾的激烈討論，自動(dòng)駕駛汽車不需承擔(dān)責(zé)任的判斷依據(jù)，以及在這場(chǎng)事故中自動(dòng)駕駛系統(tǒng)的不同決策所要承擔(dān)的責(zé)任是否相同

6、，都值得我們深思。（三）人工智能會(huì)引發(fā)社會(huì)倫理問(wèn)題。在生態(tài)方面，開發(fā)人工智能所產(chǎn)生的廢料對(duì)環(huán)境會(huì)產(chǎn)生污染;在醫(yī)療方面，人工智能如醫(yī)療機(jī)器人會(huì)在一定程度上緩解醫(yī)院的壓力，但其昂貴的價(jià)格并不是所有人都能接受的，且患者的信息也存在被泄露的風(fēng)險(xiǎn);此外人工智能的出現(xiàn)為人們的生活學(xué)習(xí)都提供了更多的便利，但同時(shí)，人工智能技術(shù)的出現(xiàn)也取代了某些崗位員工的工作，使得人們面臨下崗、就業(yè)難的困境。三、結(jié)語(yǔ)人工智能近年來(lái)取得了高速發(fā)展，大眾對(duì)人工智能也是高度關(guān)注，而伴隨人工智能所產(chǎn)生的倫理問(wèn)題也迎來(lái)了業(yè)內(nèi)的激烈討論。人工智能的初衷是為了更好地服務(wù)人類，便捷人們的生活工作，因此其所能產(chǎn)生的倫理問(wèn)題需要我們合理地解決才能

7、更貼近其初衷。不論是從法律層面、技術(shù)層面或是其他層面去制定相關(guān)政策，都要先明確人工智能可能帶來(lái)的倫理問(wèn)題有哪些，才能夠“對(duì)癥下藥”，規(guī)避這些問(wèn)題。【參考文獻(xiàn)】1 劉偉，趙路.對(duì)人工智能若干倫理問(wèn)題的思考j.科學(xué)與社會(huì)，2018，8（01）：40-48.2 閆坤如，馬少卿.人工智能倫理問(wèn)題及其規(guī)約之徑j(luò).東北大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2018，20（04）：331-336.3 picard r （1997） affective computing. mit press， cambridge， ma.4 lin p（2016）why ethics matters for autonomous cars.in maurer m，gerdes jc，l