2023人工智能治理

人工智能治理2023一、背景在過(guò)去五年，人工智能治理取得了迅猛發(fā)展，構(gòu)建人工智能監(jiān)管生態(tài)系統(tǒng)的速度大大提高，但如何以負(fù)責(zé)任的方式推動(dòng)人工智能的應(yīng)用和實(shí)踐依舊是當(dāng)前面臨的迫切挑戰(zhàn)。人工智能有獨(dú)特的風(fēng)險(xiǎn)，簡(jiǎn)單照抄現(xiàn)有政策工具并不能處理好這些問(wèn)題，社會(huì)必須考慮在應(yīng)用人工智能時(shí)完善相關(guān)手段和措施，以此來(lái)化解先進(jìn)決策系統(tǒng)帶來(lái)的潛在風(fēng)險(xiǎn)。這些手段和措施應(yīng)當(dāng)包括國(guó)際合作及跨部門合作，現(xiàn)在比過(guò)（MultistakeholderApproaches）的方式，同時(shí)在人工智能治理設(shè)計(jì)方面也要采取更靈活的方法。要以負(fù)責(zé)任的方式對(duì)人工智能應(yīng)用進(jìn)行治理，確保人工智能技術(shù)能保護(hù)并惠及每位社會(huì)成員。二、人工智能發(fā)展歷程回顧歷次工業(yè)革命既創(chuàng)造機(jī)遇，也帶來(lái)挑戰(zhàn)，迫使社會(huì)重新審視當(dāng)時(shí)的治理結(jié)構(gòu)能否有效維持監(jiān)管與創(chuàng)新之間的平衡。人工智能是推動(dòng)第四次工業(yè)革命的引擎，圍繞人工智能及其安全防護(hù)措施將會(huì)出現(xiàn)諸多挑戰(zhàn)。對(duì)其歷史發(fā)展進(jìn)程進(jìn)行總結(jié)回顧十分重要，只有通過(guò)回顧過(guò)去，才能把握未來(lái)的發(fā)展方向。（一）2010年以前：人工智能的冬天與解凍早在人工智能發(fā)展初期，大家都認(rèn)為人工智能發(fā)展到可以承擔(dān)權(quán)責(zé)的程度時(shí)，就有必要認(rèn)真考慮治理方面的問(wèn)題。即使是處（即人工智能及公眾興趣走低的時(shí)期，人們對(duì)人工智能帶來(lái)的后果和治理效果也抱有擔(dān)憂和恐慌。另外，人工智能的潛在應(yīng)用范圍極廣、社會(huì)影響深遠(yuǎn)，（二）2010年到2016年：人工智能加速發(fā)展帶來(lái)的挑戰(zhàn)2010人工智能的快速發(fā)展及應(yīng)用的確鼓舞人心，但同樣也引發(fā)了公眾對(duì)數(shù)據(jù)使用和侵犯隱私等多方面的擔(dān)憂。在獲取或開發(fā)深度學(xué)習(xí)技術(shù)的熱潮中，亟需防范的主要是涉及決策類的應(yīng)用，如執(zhí)法、人力資源和金融等敏感領(lǐng)域的應(yīng)用。此外，人工智能系統(tǒng)對(duì)特定社會(huì)群體的不公正對(duì)待現(xiàn)象及宏觀層面的關(guān)切也時(shí)有報(bào)道。對(duì)那些希望快速?gòu)娜斯ぶ悄馨l(fā)展中受益的人來(lái)說(shuō)，重點(diǎn)是如何在安全和創(chuàng)新之間保持平衡。人工智能開始加速發(fā)展，治理不（法律法規(guī)無(wú)法跟上技術(shù)進(jìn)步。（三）2016年到2019年：發(fā)布原則與指南到2016年，公眾越發(fā)意識(shí)到如果不對(duì)人工智能進(jìn)行適當(dāng)?shù)谋O(jiān)管和引導(dǎo)，將會(huì)干擾公眾生活，擴(kuò)大社會(huì)不平等，加劇現(xiàn)有偏見，并破壞隱私，而所有這些都會(huì)削弱公眾對(duì)人工智能的信任，從而使人工智能造福社會(huì)的潛力消失殆盡。2017（Asiloar）會(huì)上提出了一套原則來(lái)幫助公眾了解政府和業(yè)界一直大力推動(dòng)201520162017（四）2019年至今：持續(xù)加速與治理創(chuàng)新普及人工智能原則與道德指南有助于揭示人工智能跨國(guó)治2019倡議進(jìn)行問(wèn)責(zé)，但在規(guī)范的實(shí)際制定過(guò)程中仍以“柔性”治理機(jī)制為主。各主體對(duì)這一課題的日益關(guān)注，說(shuō)明公眾普遍認(rèn)為現(xiàn)有制度和規(guī)則已無(wú)法確保人工智能以負(fù)責(zé)任的方式向前發(fā)展。三、從原則到實(shí)踐：在不扼殺創(chuàng)新的前提下管控風(fēng)險(xiǎn)，推動(dòng)人工智能道德實(shí)用化。截至2020年，各國(guó)政府、倡議機(jī)構(gòu)、國(guó)際組織、私營(yíng)企業(yè)100多數(shù)受訪企業(yè)目前正在試圖通過(guò)內(nèi)部治理和正規(guī)的框架來(lái)解決問(wèn)題，爭(zhēng)取在不扼殺創(chuàng)新的前提下管控風(fēng)險(xiǎn)。（一）人工智能治理是實(shí)現(xiàn)負(fù)責(zé)任的人工智能的必經(jīng)之路雖然面臨巨大風(fēng)險(xiǎn)，人工智能帶來(lái)的機(jī)遇仍是許多機(jī)構(gòu)考慮（RespnsibleAI）許多企業(yè)都承認(rèn)在防范措施缺失的情況下，人工智能可能造成傷害，因此都強(qiáng)調(diào)在制定人工智能戰(zhàn)略時(shí)，防護(hù)范圍不應(yīng)僅限于法律和風(fēng)險(xiǎn)管理領(lǐng)域，負(fù)責(zé)任的人工智能治理的目標(biāo)是要通過(guò)行業(yè)規(guī)范來(lái)防止出現(xiàn)危害性的人工智能生態(tài)系統(tǒng)。人們的意識(shí)雖然越來(lái)越強(qiáng)，但要把意圖轉(zhuǎn)化成政策和實(shí)踐對(duì)許多企業(yè)仍是挑戰(zhàn)。對(duì)于該做什么、何時(shí)做和怎么做等問(wèn)題，業(yè)界還需要通過(guò)實(shí)踐進(jìn)行探索。（二）采用風(fēng)險(xiǎn)法來(lái)識(shí)別和消除治理差距私企和公共部門面臨的最大問(wèn)題之一都是缺乏優(yōu)先級(jí)。人工智能會(huì)給不同行業(yè)帶來(lái)巨大沖擊，但由于其技術(shù)仍在持續(xù)發(fā)展中，且人們對(duì)其能力和影響力還處于不斷認(rèn)識(shí)中，其影響的程度和時(shí)間范圍都無(wú)法確定。近期至未來(lái)很長(zhǎng)一段時(shí)間，人工智能的直接和間接影響將被大家逐漸認(rèn)識(shí)，這也會(huì)進(jìn)一步增加系統(tǒng)治理的復(fù)雜性。通過(guò)有效的治理框架找出人工智能的風(fēng)險(xiǎn)并加以管控，有助于各國(guó)制定未來(lái)的行動(dòng)計(jì)劃。最終呈現(xiàn)的治理形式可能是多種多樣的，例如，德國(guó)數(shù)據(jù)倫理委員會(huì)提出一個(gè)五級(jí)風(fēng)險(xiǎn)監(jiān)管系統(tǒng)，這個(gè)系統(tǒng)對(duì)無(wú)害的人工智能應(yīng)用不設(shè)監(jiān)管，而對(duì)最危險(xiǎn)的應(yīng)用則完全禁止。這些框架有助于領(lǐng)導(dǎo)人們更好地了解風(fēng)險(xiǎn)，指引他們邁出關(guān)鍵的第一步。第一步可以是了解人工智能系統(tǒng)的應(yīng)用領(lǐng)域，也可以是加大對(duì)人工智能風(fēng)控團(tuán)隊(duì)的投資。在近期德勤事務(wù)所的一份報(bào)告中對(duì)人工智能風(fēng)險(xiǎn)的分類以及當(dāng)前和未來(lái)的治理差距進(jìn)行間跨度”兩個(gè)維度分別評(píng)估（見圖1。圖1:新出現(xiàn)的治理差距的時(shí)間跨度和風(fēng)險(xiǎn)級(jí)別（三）推動(dòng)公眾了解和信任人工智能在過(guò)去十年中，一些潛在的人工智能治理手段逐漸出現(xiàn)，主要是強(qiáng)化消費(fèi)者對(duì)人工智能產(chǎn)品的消費(fèi)意識(shí)，具體包括認(rèn)證、標(biāo)簽、獎(jiǎng)勵(lì)等手段。通過(guò)這些手段，提高產(chǎn)品透明度來(lái)影響購(gòu)買行為，再通過(guò)市場(chǎng)、聲譽(yù)和品牌的力量以及人工智能產(chǎn)品公司之間的競(jìng)爭(zhēng)，促進(jìn)消費(fèi)者有效參與人工智能道德與責(zé)任決策。發(fā)放標(biāo)簽與認(rèn)證標(biāo)簽可向消費(fèi)者傳達(dá)信息，幫助消費(fèi)者了解哪些企業(yè)處理數(shù)據(jù)和人工智能的方式是值得信任、符合道德規(guī)范且安全可靠的。歐洲委員會(huì)在其《人工智能應(yīng)用白皮書》中建議對(duì)高風(fēng)險(xiǎn)之外的（DatathicsSeal，主要發(fā)放給那些符合虛擬空間要求且以負(fù)責(zé)任的方式處理人工智能數(shù)據(jù)的企業(yè)。獎(jiǎng)勵(lì)通過(guò)獎(jiǎng)勵(lì)機(jī)制可對(duì)合乎道德、以負(fù)責(zé)任方式設(shè)計(jì)的人工智能進(jìn)行表彰，鼓勵(lì)業(yè)界朝積極方向進(jìn)化。具體的例子包括：20214算法審查可通過(guò)第三方對(duì)算法進(jìn)行審查的方式來(lái)化解風(fēng)險(xiǎn)。對(duì)復(fù)雜系統(tǒng)進(jìn)行外部測(cè)試可有效保證市場(chǎng)安全，同時(shí)也會(huì)鼓勵(lì)算法審查這一新興行業(yè)的發(fā)展。對(duì)人工智能實(shí)施客觀的審查可有效約束人工智能，有助于降低錯(cuò)誤算法外流的風(fēng)險(xiǎn)。但上述方案面臨一個(gè)共同挑戰(zhàn)，即可信度的確立，缺乏可信度會(huì)增強(qiáng)追責(zé)的難度和效力。對(duì)此，有人呼吁用專業(yè)化的方式來(lái)解決問(wèn)題，但這需要有適當(dāng)?shù)恼J(rèn)證、實(shí)踐標(biāo)準(zhǔn)和紀(jì)律處分程序。只有在這些嚴(yán)苛標(biāo)準(zhǔn)的支撐下，審查、認(rèn)證和標(biāo)簽發(fā)放等人工智能原則實(shí)用化工具才能充分發(fā)揮作用。（四）政府主導(dǎo)的人工智能治理宏觀層面上，很多政府部門已經(jīng)開始圍繞人工智能采取有效經(jīng)合組織的跟蹤調(diào)查表明：一些政策源于國(guó)家級(jí)人工智能戰(zhàn)略（如立法提案、跨國(guó)合伙關(guān)系、貿(mào)易協(xié)定條款等，另一些則是在較為柔性的規(guī)范定義法基礎(chǔ)上制定的，旨在化解風(fēng)險(xiǎn)，以此推動(dòng)人工智能解決方案的出臺(tái)。監(jiān)管行動(dòng)美國(guó)已開始在多個(gè)層面推動(dòng)立法，要求對(duì)高風(fēng)險(xiǎn)自動(dòng)化決策系統(tǒng)的沖擊進(jìn)行法定評(píng)估；與此同時(shí)，美國(guó)多個(gè)城市禁止在執(zhí)法過(guò)程中使用人臉識(shí)別技術(shù)。歐洲委員會(huì)則完全采納了以風(fēng)險(xiǎn)為依據(jù)的方法論，但同時(shí)也承認(rèn)人工智能系統(tǒng)風(fēng)險(xiǎn)具有語(yǔ)境性特征。要求對(duì)高風(fēng)險(xiǎn)人工智能應(yīng)用采取更嚴(yán)厲的措施，對(duì)無(wú)風(fēng)險(xiǎn)的領(lǐng)域降低監(jiān)管，以此鼓勵(lì)創(chuàng)新活動(dòng)。歐洲委員會(huì)的草案把人工智能應(yīng)用劃分為四大風(fēng)險(xiǎn)級(jí)別：不可接受的風(fēng)險(xiǎn)：此類人工智能應(yīng)用被嚴(yán)厲禁止（如社交評(píng)分）高風(fēng)險(xiǎn)：需要對(duì)其進(jìn)行特定審查的人工智能應(yīng)用，包括需要接受品質(zhì)管理和合規(guī)評(píng)估（如人工智能招聘工具、人臉識(shí)別等）有限風(fēng)險(xiǎn)：要承擔(dān)最起碼的透明性義務(wù)的應(yīng)用（如聊天機(jī)器人）最低風(fēng)險(xiǎn)：對(duì)該類別的應(yīng)用無(wú)需制定額外的限制性規(guī)定（如垃圾郵件過(guò)濾應(yīng)用）國(guó)際合作提速與此同時(shí)，各國(guó)政府意識(shí)到如果各國(guó)各自為戰(zhàn)，全球治理體系將受到影響，進(jìn)而會(huì)削弱人工智能的潛力，因此有必要優(yōu)先開展國(guó)際合作，推動(dòng)道德準(zhǔn)則的跨國(guó)統(tǒng)一。區(qū)域強(qiáng)國(guó)在嘗試創(chuàng)建統(tǒng)一戰(zhàn)線方面尤其活躍，如七國(guó)集團(tuán)(G720172020（GA1837個(gè)成員國(guó)的經(jīng)合組織（OECD）擔(dān)任秘書處。在全球?qū)用?，?lián)合國(guó)在平衡技術(shù)進(jìn)步和社會(huì)進(jìn)步方面發(fā)揮著領(lǐng)導(dǎo)作用，處于最前沿的當(dāng)屬國(guó)際電信聯(lián)盟（ITU）舉辦的“為善的人工智能”全球峰會(huì)。聯(lián)合國(guó)其它機(jī)構(gòu)也通過(guò)推動(dòng)研發(fā)和鼓勵(lì)對(duì)話來(lái)推動(dòng)人工智能治理，如國(guó)際勞動(dòng)組織的工作主要針對(duì)人工智能對(duì)工作和職業(yè)的影響，聯(lián)合國(guó)教科文組織也舉辦了針對(duì)人工智能道德倫理的對(duì)話。近幾年隨著國(guó)際合作范圍的擴(kuò)大，公眾對(duì)人工智能原則的看法也開始逐漸統(tǒng)一。但是，要想從原則轉(zhuǎn)向政策再轉(zhuǎn)向?qū)嵺`，最大的挑戰(zhàn)是如何進(jìn)一步澄清治理方法和操作指引并達(dá)成更廣泛（GDPR）22全自動(dòng)化且會(huì)對(duì)消費(fèi)者產(chǎn)生法律影響的系統(tǒng)（如批貸、招聘等）與此同時(shí)，需要重視如何避免不同管轄區(qū)因責(zé)任沖突而影響跨境研發(fā)和阻礙創(chuàng)新。雖然各國(guó)頒布的具體規(guī)則有差異，但要盡可能保持各國(guó)規(guī)則具有交互操作性，大方向上保持一致。新冠危機(jī)的爆發(fā)迫使企業(yè)必須擁抱人工智能，進(jìn)一步加劇了圖框1：新冠肺炎疫情新冠危機(jī)的爆發(fā)迫使企業(yè)必須擁抱人工智能，進(jìn)一步加劇了人工智能治理的不確定性。人工智能治理的不確定性。一方面，為滿足遠(yuǎn)程和非接觸的應(yīng)用場(chǎng)景需求，人工智能技術(shù)可以為大家提供急需的高效解決方案。新冠期間，各國(guó)都開始使用人工智能追蹤算法向市民發(fā)布個(gè)性化的文字短信，指導(dǎo)他們?cè)诮佑|病人后自行隔離。另一方面，疫情揭示了人工智能發(fā)展的制約因素。盡管危機(jī)中公眾對(duì)新技術(shù)的信任感有所提高，但公眾對(duì)隱私暴露就非常憂慮?；谌斯ぶ悄艿淖粉櫢深A(yù)也可能面臨抵制?？梢姡瑪?shù)據(jù)的匱乏和人們對(duì)隱私的擔(dān)心會(huì)限制人工智能的發(fā)展，同時(shí)也為人工智能治理提供了正當(dāng)理由。四、多利益攸關(guān)方參與的方法論鑒于人工智能系統(tǒng)彼此交融的性質(zhì)，各方如果單打獨(dú)斗，注定將失敗。反之，多利益攸關(guān)方共同參與治理，有助于提升全球范圍內(nèi)開發(fā)“負(fù)責(zé)任的人工智能”的能力。只有多利益攸關(guān)方共同參與才能獲取公眾和社會(huì)的認(rèn)可，最終贏得大眾的信任。許多案例都充分證明：只要通過(guò)與跨區(qū)、跨界、跨業(yè)的利益攸關(guān)方建立建設(shè)性關(guān)系，并以此為基礎(chǔ)創(chuàng)建和維護(hù)負(fù)責(zé)任的人工智能治理機(jī)制，就有可能贏得公眾的信任。而要建立這些關(guān)系，就必須與人工智能的受眾進(jìn)行開誠(chéng)布公的對(duì)話，無(wú)論這些受眾是客戶還是公民。（一）利益攸關(guān)方的參與“多方參與”涉及的一個(gè)關(guān)鍵問(wèn)題是各行為體的貢獻(xiàn)內(nèi)容和貢獻(xiàn)方式。每個(gè)利益攸關(guān)方都有自己獨(dú)特的視角，每個(gè)群體也都會(huì)堅(jiān)持各自的利益。業(yè)界分享全球可信人工智能的最佳實(shí)踐，在此基礎(chǔ)上構(gòu)建和擴(kuò)大人工智能治理的創(chuàng)新模式是當(dāng)前業(yè)界面臨的巨大機(jī)遇。根據(jù)波士90%的機(jī)構(gòu)目前正在制定或完成了相關(guān)戰(zhàn)略以促進(jìn)算法公正、降低決策偏差。其7262%的機(jī)構(gòu)報(bào)告運(yùn)營(yíng)風(fēng)險(xiǎn)有所下降。企業(yè)可采取下列措施來(lái)支持多利益攸關(guān)方參與的機(jī)制：（RegulatoySandbx）隨著對(duì)治理框架需求日增，對(duì)受控環(huán)境下的測(cè)試和實(shí)驗(yàn)也提出了更高要求。通過(guò)這類嘗試，可將真實(shí)世界部分地納入測(cè)試框架，從而為企業(yè)提供治理人工智能的未來(lái)機(jī)會(huì)。提供其它相關(guān)技術(shù)或?qū)I(yè)管理知識(shí)臨時(shí)調(diào)派技術(shù)人員填補(bǔ)技術(shù)短板，開展治理框架設(shè)計(jì)。提供免費(fèi)的技術(shù)工具很多企業(yè)可充當(dāng)人工智能專業(yè)技能的載體，為其它機(jī)構(gòu)提供專業(yè)工具，并協(xié)助評(píng)估人工智能模型。政府在政府利用人工智能提供更好的服務(wù)之前，必須首先征求全社會(huì)的許可。政府可采取下列措施來(lái)支持多利益攸關(guān)方的行動(dòng)：發(fā)展“監(jiān)管沙盒”（RegulatorySandbox）政府需要集中在新治理理念部署、測(cè)試和迭代加速發(fā)展的領(lǐng)域制定政策，發(fā)揮關(guān)鍵作用，確保人工智能在對(duì)外公布前盡可能地在真實(shí)環(huán)境中得到測(cè)試和驗(yàn)證。提供公共政策或行政管理專業(yè)知識(shí)調(diào)派既能填補(bǔ)公共政策知識(shí)短板又懂得政府工作實(shí)際難點(diǎn)的人員支援多利益攸關(guān)方。設(shè)立人工智能卓越中心圍繞人工智能治理設(shè)立國(guó)家級(jí)或次國(guó)家級(jí)的機(jī)構(gòu)，從業(yè)界、政界、學(xué)界和社會(huì)招收人員，采用跨學(xué)科協(xié)作的方式，利用人工智能和算法針對(duì)政府的運(yùn)行方式提出建議。學(xué)術(shù)界學(xué)術(shù)界可利用其處于各行業(yè)交叉點(diǎn)的獨(dú)特地位，借助其中立而客觀的視角吸引各方加入對(duì)話。采取下列措施來(lái)支持多利益攸關(guān)方的行動(dòng)：提供研究的機(jī)會(huì)在政策制定和測(cè)試過(guò)程中，通過(guò)效果評(píng)估來(lái)對(duì)新方法進(jìn)行測(cè)試。推動(dòng)人工智能跨學(xué)科研究把涉及人工智能的道德影響研究的多個(gè)人文學(xué)科納入相關(guān)的討論。協(xié)助推廣、擴(kuò)大有前景的人工智能治理機(jī)制把多利益攸關(guān)方形成的實(shí)踐和行為納入全球教學(xué)課程。公民社會(huì)公民社會(huì)作為第三方代表，可為多方對(duì)話帶來(lái)平衡感和新視縮小參與度差距通過(guò)把全球的弱勢(shì)群體納入到同一個(gè)國(guó)際討論框架，有助于縮小參與度的差距，獲得更多元、更具代表性的數(shù)據(jù)集合的支持。召集各類行為體共同組建共同體公民社會(huì)和學(xué)術(shù)界一樣，可擔(dān)任各類行為共同體的召集者與人工智能卓越中心開展合作在設(shè)有人工智能專門咨詢機(jī)構(gòu)的國(guó)家和地區(qū)，公民社會(huì)可組織和鼓勵(lì)民眾與咨詢機(jī)構(gòu)開展更廣泛的溝通和交流，以確保政策的多元化和包容性。（二）靈活治理多利益攸關(guān)方的思路若與靈活治理的方法相結(jié)合，就會(huì)容納更多人參與決策流程，并可通過(guò)快速迭代來(lái)滿足每個(gè)人的需求。最終，決策將變得更具包容性，也更加以人為本。靈活治理作為一種有效手段可確保治理與技術(shù)進(jìn)步保持靈活治理作為一種有效手段可確保治理與技術(shù)進(jìn)步保持對(duì)靈活治理的方法論進(jìn)行了完整描述。世界經(jīng)濟(jì)論壇與加拿戰(zhàn)。下面的例子展示了多利益攸關(guān)方群體基于現(xiàn)有通用原則對(duì)特定背景和特定用途的框架進(jìn)行設(shè)計(jì)和測(cè)試的方法。圖2：聊天機(jī)器人報(bào)告衛(wèi)生醫(yī)療行業(yè)的聊天機(jī)器人：鑒于新冠疫情期間聊天機(jī)器人的使用率大增，日本三菱化學(xué)和印度信實(shí)工業(yè)等企業(yè)聯(lián)合印度政府、世界經(jīng)濟(jì)論壇和眾多聊天機(jī)器人開發(fā)商、平臺(tái)、衛(wèi)生部門、公民社會(huì)、學(xué)界和衛(wèi)生監(jiān)管機(jī)構(gòu)等共同設(shè)計(jì)了一個(gè)醫(yī)用聊天機(jī)器人監(jiān)管框架，目前已有部分試點(diǎn)項(xiàng)目正在實(shí)施。（三）全球人工智能行動(dòng)聯(lián)盟20205也于201（GAA。該聯(lián)盟以世界經(jīng)濟(jì)論壇的全球多利益攸關(guān)方共同體為基礎(chǔ)，成員包括很多活躍在人工智能領(lǐng)域的頂級(jí)企業(yè)、政府和公民社會(huì)組織，這些機(jī)構(gòu)在過(guò)去三年針對(duì)人工智能技術(shù)的開發(fā)和應(yīng)用成功推出了多動(dòng)（DCPI）密切合作，旨在推進(jìn)全球各行業(yè)實(shí)現(xiàn)交互式操作。五、未來(lái)之路（一）更多工具與最佳實(shí)踐鑒于目前人工智能監(jiān)管的形式多表現(xiàn)為加強(qiáng)干預(yù)，因此嘗試更多工具和實(shí)踐是必要的。很多機(jī)構(gòu)意識(shí)到人工智能風(fēng)險(xiǎn)的分布是廣譜的，但他們?nèi)韵Ｍ谂宄L(fēng)險(xiǎn)的界線和發(fā)生領(lǐng)域。即搞明白哪些情況下可自我調(diào)節(jié)？哪些情況必須參考標(biāo)準(zhǔn)合同條款？哪些情況下非果斷干預(yù)不可？全球人工智能理事會(huì)建議未來(lái)應(yīng)對(duì)下列事項(xiàng)予以額外關(guān)注：用于評(píng)估偏差、公正度和相關(guān)技術(shù)細(xì)節(jié)的測(cè)量標(biāo)準(zhǔn)針對(duì)某些必須通過(guò)公共干預(yù)和協(xié)調(diào)才能解決的道德問(wèn)題（如虛假信息、深層欺詐、大規(guī)模人臉識(shí)別、人工智能監(jiān)控等）的相關(guān)解決方案人工智能治理領(lǐng)域的行業(yè)可操作化案例研究積極借鑒其它高風(fēng)險(xiǎn)技術(shù)的治理經(jīng)驗(yàn)（二）人工智能、就業(yè)與不平等人工智能在就業(yè)和不平等方面也存在很多問(wèn)題。其中一項(xiàng)挑戰(zhàn)是機(jī)器搶占人類工作的問(wèn)題，據(jù)麥肯錫2017203048作和職業(yè)，導(dǎo)致很多人下崗，但另一些人卻可能因?yàn)楣ぷ餍再|(zhì)不同而免于被淘汰。在這種情況下，如不制定更好的政策來(lái)縮小差距并普及技能培訓(xùn)，那失衡勢(shì)必會(huì)加劇。就連最樂(lè)觀的經(jīng)濟(jì)學(xué)家也預(yù)測(cè)：未來(lái)世界里越來(lái)越少的工作會(huì)和現(xiàn)在一樣得到別人的賞識(shí)，很多人會(huì)感到迷茫，從而質(zhì)疑人生的價(jià)