《刑事人工智能規(guī)制路徑探索探析》4000字

刑事人工智能規(guī)制路徑探索分析綜述目錄TOC\o"1-2"\h\u23128刑事人工智能規(guī)制路徑探索分析綜述 123636(一)認(rèn)識(shí)層面：以人為本、認(rèn)識(shí)定位 129635強(qiáng)化法官的主體地位 120544定位人工智能助手地位 28604人機(jī)協(xié)同下的合作實(shí)踐 219329(二)技術(shù)層面：數(shù)據(jù)管控、透明公平 315507實(shí)現(xiàn)數(shù)據(jù)共享 3779加強(qiáng)數(shù)據(jù)管控 428875構(gòu)建算法體系 431111(三)實(shí)踐層面：負(fù)面清單、強(qiáng)化約束 526894構(gòu)建問(wèn)責(zé)機(jī)制 515924建立負(fù)面清單 5認(rèn)識(shí)層面：以人為本、認(rèn)識(shí)定位由于人工智能是近年來(lái)才迅速發(fā)展的技術(shù)領(lǐng)域，所以該方面的權(quán)利保護(hù)問(wèn)題在很長(zhǎng)一段時(shí)間內(nèi)并沒(méi)有引起人們的廣泛關(guān)注。但是隨著新一輪人工智能技術(shù)飛速發(fā)展，其帶來(lái)的技術(shù)侵權(quán)問(wèn)題日趨明顯。對(duì)于該問(wèn)題應(yīng)該以何種理念進(jìn)行解決，當(dāng)今社會(huì)逐漸達(dá)成了一致意見(jiàn)。2019年二十國(guó)集團(tuán)部長(zhǎng)級(jí)會(huì)議上，通過(guò)了《G20人工智能原則》，其中明確指出了人工智能原則中的“以人為本”理念。這說(shuō)明在解決人工問(wèn)題的相關(guān)問(wèn)題上，需要清醒地認(rèn)識(shí)到人才是解決問(wèn)題的核心。強(qiáng)化法官的主體地位司法的親歷性、公正性等特點(diǎn)決定了法官始終是審判的主體。因此針對(duì)司法實(shí)踐中審判權(quán)易位的問(wèn)題，應(yīng)當(dāng)首先要求法官的主體性地位。首先，需要在進(jìn)行初步的證據(jù)審查之后，法官堅(jiān)持對(duì)人工智能結(jié)果進(jìn)行最終審查。為了減輕法官前期的證據(jù)審核的過(guò)重負(fù)擔(dān)，部分人工智能系統(tǒng)會(huì)在初步篩選中自動(dòng)過(guò)濾部分證據(jù)不足的案件，但是這實(shí)際上是對(duì)法官審判權(quán)的一種變相侵蝕。所以要以法官證據(jù)審查制度為基礎(chǔ)，對(duì)人工智能系統(tǒng)進(jìn)行初步審查的證據(jù)，法官也要基于自身的法律推理、職業(yè)經(jīng)驗(yàn)等對(duì)人工智能進(jìn)行初步篩查過(guò)的證據(jù)進(jìn)行進(jìn)一步審查。法官同時(shí)也要將最終審查的結(jié)果反饋給人工智能作為其進(jìn)一步學(xué)習(xí)的數(shù)據(jù)，幫助其更好地修正偏差，提升判斷的準(zhǔn)確性。其次，要尊重法官的獨(dú)立性，確立法官對(duì)案件的終審權(quán)力不可侵犯。雖然量刑輔助與偏離預(yù)警等功能作為輔助法官審判的工具可以提升裁判的效率，但是這些工具實(shí)際上也會(huì)增加法官工作的惰性。不僅如此，部分系統(tǒng)的偏離預(yù)警功能一旦與法官的裁判結(jié)果出現(xiàn)偏差，就會(huì)導(dǎo)致系統(tǒng)停止運(yùn)作。這些都證明需要充分尊重法官在最后裁判過(guò)程中的獨(dú)立性，法官對(duì)上述工具提供的干預(yù)建議只能進(jìn)行參考，對(duì)事實(shí)認(rèn)定與法律適用這類涉及案件審判核心的干預(yù)建議一定要充分考慮，最后自行決定。定位人工智能助手地位出于對(duì)人工智能替代論的憂慮，應(yīng)當(dāng)堅(jiān)持“有限智能化”的原則對(duì)人工智能的學(xué)習(xí)與提升進(jìn)行限制。雖然隨著人工智能技術(shù)的進(jìn)步，我們有理由相信人工智能系統(tǒng)在不遠(yuǎn)的未來(lái)可以通過(guò)深度學(xué)習(xí)實(shí)現(xiàn)與優(yōu)秀的法律工作一樣的裁判能力。但是對(duì)人工智能的功能，一定要嚴(yán)格定位其限度，不能將其應(yīng)用于全部的法律程序，而應(yīng)當(dāng)在利用其數(shù)據(jù)采集分析等優(yōu)勢(shì)的可行性上，合理限制其功能于輔助地位。在司法實(shí)踐中，應(yīng)當(dāng)對(duì)人工智能的應(yīng)用做到多元化、差別化，規(guī)范其適用范圍。比如人工智能在檢索、收集等方面具有天然的優(yōu)勢(shì)，所以針對(duì)部分事實(shí)簡(jiǎn)單清晰的案件與非審判事務(wù)，如果利用得當(dāng)，其發(fā)揮出的作用會(huì)比現(xiàn)今更加巨大。而針對(duì)事實(shí)認(rèn)定與價(jià)值判斷這一復(fù)雜的問(wèn)題，則是需要嚴(yán)格限制其適用，慎選其相關(guān)建議與功能。一是將其更多運(yùn)用于案例分析、證據(jù)收集等非裁判性事務(wù)；二是將人工智能進(jìn)行案件類型分類適用。而出于刑事司法案件的特殊性，由于涉及到公民的財(cái)產(chǎn)、生命、自由等問(wèn)題，所以將人工智能的適用限定在形式性審核方面更為妥當(dāng)。人機(jī)協(xié)同下的合作實(shí)踐在確定了上述以人為本的定位后，可以清晰地看出未來(lái)人機(jī)協(xié)同下的合作圖景。在偵查階段，由于處于案件的初始階段，所以對(duì)證據(jù)的審查應(yīng)當(dāng)要求全面與及時(shí)。偵查階段對(duì)人工智能的要求在于需要充分倚重其在數(shù)據(jù)整理、分析方面的絕對(duì)性優(yōu)勢(shì)，在指定的證據(jù)標(biāo)準(zhǔn)和規(guī)則的引導(dǎo)下，完整清晰地保存與固定證據(jù)鏈條。偵查階段對(duì)司法工作者的要求在于在人工智能系統(tǒng)的幫助下，主要對(duì)證據(jù)的合法性與規(guī)范性進(jìn)行審查，這類涉及價(jià)值判斷的內(nèi)容需要人工進(jìn)行最后的決定。在捕訴階段，主要以檢察機(jī)關(guān)的審查工作為主，其對(duì)前一階段證據(jù)的合法性承擔(dān)監(jiān)督的職責(zé)。在此階段的人機(jī)協(xié)同主要在于以下兩點(diǎn)：檢察機(jī)關(guān)需要對(duì)單個(gè)證據(jù)的證明力基于自由心證進(jìn)行裁量，而人工智能可以利用自身的精確與廣泛性特點(diǎn)，為辦案人員排除明顯的矛盾之處提供必要的幫助；其次，檢察機(jī)關(guān)仍然需要對(duì)證據(jù)的合法性進(jìn)行審查，而人工智能可以調(diào)取其取證的程序、流程等為辦案人員提供相應(yīng)幫助，完善證據(jù)鏈條。在審判階段，主要以法官的證明裁判為主?！芭懦侠響岩伞钡臉?biāo)準(zhǔn)突出了法官在審判中的主觀因素的重要性，也決定了人工智能無(wú)法實(shí)質(zhì)性參與到此事實(shí)認(rèn)定的過(guò)程中來(lái)，而應(yīng)當(dāng)主要進(jìn)行證據(jù)的規(guī)格形式、全案的證據(jù)對(duì)比等功能的輔助，為法官排除合理懷疑提供相應(yīng)的輔助。技術(shù)層面：數(shù)據(jù)管控、透明公平實(shí)現(xiàn)數(shù)據(jù)共享大數(shù)據(jù)是人工智能系統(tǒng)的源泉，所以實(shí)現(xiàn)數(shù)據(jù)共享才能使得人工智能系統(tǒng)沿著正確的方向進(jìn)一步發(fā)展。而現(xiàn)階段我國(guó)司法領(lǐng)域的數(shù)據(jù)存在質(zhì)量較低、規(guī)模較小的問(wèn)題，且存在嚴(yán)重的數(shù)據(jù)壁壘，所以人工智能系統(tǒng)的發(fā)展得到了很大的限制。實(shí)現(xiàn)數(shù)據(jù)共享，首先應(yīng)當(dāng)以法院系統(tǒng)為主體，實(shí)現(xiàn)縱向各級(jí)法院的數(shù)據(jù)共享平臺(tái)。尤其是裁判文書網(wǎng)這類數(shù)據(jù)庫(kù)，應(yīng)當(dāng)由全國(guó)范圍內(nèi)法院進(jìn)行數(shù)據(jù)化整合，使其成為能夠被人工智能深度學(xué)習(xí)的數(shù)據(jù)資源。最好由最高院牽頭進(jìn)行統(tǒng)一的平臺(tái)建設(shè)規(guī)劃，利用現(xiàn)有的數(shù)據(jù)平臺(tái)，打通各平臺(tái)之間的數(shù)據(jù)壁壘，實(shí)現(xiàn)海量司法數(shù)據(jù)的整合。其次，應(yīng)當(dāng)實(shí)現(xiàn)司法機(jī)關(guān)之間的橫向共享。審判是一個(gè)涉及全流程，各機(jī)關(guān)的司法活動(dòng)，所以建立一個(gè)跨部門與地域的橫向平臺(tái)，制定統(tǒng)一的司法數(shù)據(jù)標(biāo)準(zhǔn)是重中之重。因?yàn)闄C(jī)關(guān)之間本身數(shù)據(jù)的統(tǒng)計(jì)標(biāo)準(zhǔn)各異，所以規(guī)范司法機(jī)關(guān)各部門之間的數(shù)據(jù)標(biāo)準(zhǔn)，才能更好地推動(dòng)司法信息的橫向共享。最后，應(yīng)當(dāng)重視與社會(huì)機(jī)構(gòu)之間的聯(lián)系。在司法實(shí)踐的過(guò)程中，相關(guān)數(shù)據(jù)不應(yīng)當(dāng)只存在于司法機(jī)關(guān)中被相應(yīng)部門所壟斷，而應(yīng)當(dāng)做出相應(yīng)的披露。比如可以與高校與科研機(jī)構(gòu)之間進(jìn)行基于保密法律法規(guī)的合作，充分利用國(guó)家現(xiàn)有的人才優(yōu)勢(shì)，實(shí)現(xiàn)數(shù)據(jù)共享的合作共贏。加強(qiáng)數(shù)據(jù)管控在上述司法信息實(shí)現(xiàn)數(shù)據(jù)共享的情況下，也應(yīng)當(dāng)建立有效的數(shù)據(jù)管控體系，來(lái)更好地提升司法數(shù)據(jù)庫(kù)的供給質(zhì)量。首先是對(duì)司法數(shù)據(jù)的來(lái)源真實(shí)性進(jìn)行監(jiān)督管理。司法數(shù)據(jù)作為電子數(shù)據(jù)的一種，也具備其相應(yīng)可以識(shí)別的來(lái)源信息與關(guān)聯(lián)痕跡。而確保來(lái)源的真實(shí)性，則是有利于我國(guó)從源頭上對(duì)司法數(shù)據(jù)的質(zhì)量實(shí)現(xiàn)提升，所以可以通過(guò)比如附屬信息驗(yàn)證、網(wǎng)絡(luò)節(jié)點(diǎn)驗(yàn)證等技術(shù)方法來(lái)對(duì)其來(lái)源的真實(shí)性進(jìn)行驗(yàn)證。其次是對(duì)使用的真實(shí)性進(jìn)行規(guī)范管理。由于數(shù)據(jù)的流通主要通過(guò)各種設(shè)備與網(wǎng)絡(luò)，所以會(huì)在不同節(jié)點(diǎn)中留下傳輸過(guò)程的痕跡。這一點(diǎn)可以作為使用真實(shí)性的印證之一，由司法數(shù)據(jù)管控體系進(jìn)行保存與備份，避免在數(shù)據(jù)使用的過(guò)程中出現(xiàn)不必要的、惡意的人為篡改，確保其數(shù)據(jù)使用的真實(shí)與安全。構(gòu)建算法體系人工智能的核心其實(shí)在于算法，而算法黑箱也是影響人工智能在司法實(shí)踐過(guò)程中的公正性的一個(gè)重大問(wèn)題。所以我們應(yīng)當(dāng)注重構(gòu)建透明公平的算法體系，主要通過(guò)程序設(shè)計(jì)的透明公平來(lái)確定司法算法的可審查性，并能夠在出現(xiàn)問(wèn)題的時(shí)候提供良好的可解釋性。第一，可以成立專門的司法算法監(jiān)管委員會(huì)。我國(guó)可以借鑒紐約市的實(shí)踐經(jīng)驗(yàn)，成立一個(gè)由人工智能專家、法律從業(yè)人員、倫理學(xué)者等組成的工作小組，專門對(duì)算法是否包括歧視性進(jìn)行審查，比如設(shè)計(jì)者是否將歧視性規(guī)則嵌入算法，從而盡可能地保障自動(dòng)決策算法的公平與透明。第二，需要推動(dòng)算法設(shè)計(jì)決策透明公正。算法黑箱的存在容易使得社會(huì)公眾對(duì)司法機(jī)關(guān)的公信力產(chǎn)生懷疑，所以只有提升算法的透明度，才能更好地提升算法的說(shuō)服力。一是算法的準(zhǔn)確性，二是算法的透明性，應(yīng)當(dāng)將每一個(gè)參數(shù)與數(shù)據(jù)在必要范圍內(nèi)對(duì)相關(guān)人員進(jìn)行公開(kāi)，并讓他們理解每個(gè)特征量可能造成的影響決策與審判的結(jié)果——這樣法官在審判過(guò)程中對(duì)人工智能的輔助才能更加游刃有余。不僅如此，應(yīng)當(dāng)以兼具法律與人工智能技術(shù)的復(fù)合型人才對(duì)算法進(jìn)行有效監(jiān)督，才能更好地實(shí)現(xiàn)算法的公正透明。實(shí)踐層面：負(fù)面清單、強(qiáng)化約束構(gòu)建問(wèn)責(zé)機(jī)制盡管透明度對(duì)刑事司法領(lǐng)域人工智能的實(shí)踐至關(guān)重要，但是這只是一個(gè)開(kāi)始，還需要建立相應(yīng)的問(wèn)責(zé)機(jī)制對(duì)結(jié)果進(jìn)行保障。在運(yùn)用刑事司法人工智能的場(chǎng)景中，相關(guān)訴訟主體難以對(duì)刑事司法人工智能應(yīng)用進(jìn)行有效監(jiān)督。基于此，技術(shù)正當(dāng)程序特別強(qiáng)調(diào)刑事司法人工智能的可問(wèn)責(zé)性[[]DanielleKeatsCitron,“TechnologicalDueProcess”,[]DanielleKeatsCitron,“TechnologicalDueProcess”,p.1249.[]MarcinGarbowsk,“ACriticalAnalysisoftheAsilomarAIPrinciples”,ZeszytyNaukowePolitechnkiSlaskiej,vol.115,2018,p.15.通過(guò)推進(jìn)人工智能的研發(fā)主體承擔(dān)解釋責(zé)任來(lái)構(gòu)建問(wèn)責(zé)機(jī)制，具有諸多積極意義：首先，有利于研發(fā)主體在設(shè)計(jì)時(shí)更好地基于審慎義務(wù)防范可能出現(xiàn)的設(shè)計(jì)缺陷；其次，有利于具體的應(yīng)用主體更好地進(jìn)行理解與接納有關(guān)的刑事司法人工智能；再次，有利于增強(qiáng)刑事司法的公信力，提升民眾對(duì)相應(yīng)的算法解釋展現(xiàn)出來(lái)的自信與透明的信任；最后，有利于外界對(duì)相關(guān)的人工智能系統(tǒng)進(jìn)行監(jiān)督與檢驗(yàn)。因此，當(dāng)研發(fā)主體無(wú)法盡到釋明義務(wù)的時(shí)候，就應(yīng)當(dāng)承擔(dān)相應(yīng)的法律責(zé)任。在考慮事先的約束機(jī)制的同時(shí)，也應(yīng)當(dāng)同步構(gòu)事后的追責(zé)機(jī)制，以實(shí)現(xiàn)整體的協(xié)調(diào)與統(tǒng)一。但是法律責(zé)任的設(shè)定，也應(yīng)當(dāng)追求適度與恰當(dāng)，不能因此對(duì)研發(fā)人員的創(chuàng)新精神產(chǎn)生不合理的抑制?；诖?，該領(lǐng)域的責(zé)任設(shè)定，應(yīng)當(dāng)以當(dāng)事人的實(shí)質(zhì)權(quán)益受到損害為基礎(chǔ)條件，并且差異化對(duì)待研發(fā)、審核、應(yīng)用的多個(gè)主體。建立負(fù)面清單人工智能帶給司法行業(yè)最大的變化主要是刑事司法人工智能可以代替諸多重復(fù)性與可替代性強(qiáng)的工作。不僅如此，由人工智能對(duì)此類工作進(jìn)行取代，不僅會(huì)大幅降低辦案人員的工作量，還