人臉識別產(chǎn)業(yè)法律治理研究報告-中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟

中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟安全治理委員會編寫單位對外經(jīng)濟貿(mào)易大學數(shù)字經(jīng)濟與法律創(chuàng)新研究中心中國信息通信研究院人工智能研究所百度公司人臉識別技術(shù)是對靜態(tài)或視頻中的人臉圖像進行特征提取與分類，從而用于個人身份鑒別、驗證與分析的當代信息技術(shù)。作為最廣泛使用的生物識別技術(shù)之一，人臉識別技術(shù)以數(shù)據(jù)為體、以人工智能算法為用、以人類自身為對象，具有不可復制性、非接觸性、可擴展性、快速性、多維性等優(yōu)勢，目前已與安防、金融、醫(yī)療、支付、教育、文娛等行業(yè)深度融合，不但推動鏈接大數(shù)據(jù)與人工智能的新型產(chǎn)業(yè)悄然成型，而且為我國數(shù)字經(jīng)濟與社會發(fā)展帶來了新機遇。在人臉識別產(chǎn)業(yè)突飛猛進的同時，人臉識別技術(shù)濫用的風險也在不斷加劇，給個人、組織的合法權(quán)益保護以及國家安全帶來巨大挑戰(zhàn)。隨著生成式人工智能時代的來臨，人臉信息被廣泛采集、分析，進而合成、生成人臉信息的嶄新業(yè)態(tài)開始涌現(xiàn)。如何保護個人人臉信息、防范虛假信息、維護公共利益，成為人臉識別產(chǎn)業(yè)必須面對的重大議題。面對種種挑戰(zhàn)，我國《個人信息保護法》將人臉識別信息作為敏感個人信息予以嚴格保護，并在第62條進一步強調(diào)了人臉識別信息的特殊性，要求有關(guān)部門針對人臉識別制定專門的個人信息保護規(guī)則、標準。《最高人民法院關(guān)于審理使用人臉識別技術(shù)處理個人信息相關(guān)民事案件適用法律若干問題的規(guī)定》重點規(guī)定了濫用人臉識別的侵權(quán)責任、合室（以下簡稱為“國家網(wǎng)信辦”）公布《人臉識別安全管理規(guī)定（試行）》（征求意見稿）從更宏觀的維度規(guī)定應(yīng)用人臉識別技術(shù)的安全管理要求，采取了不同參與者、多種場景和細化技術(shù)標準相呼應(yīng)的生態(tài)治理方法。本研究報告立基于產(chǎn)業(yè)生態(tài)治理的思路，強調(diào)綜合“人—技術(shù)—社會”三維視角，對人臉識別技術(shù)進行整全性治理。以產(chǎn)業(yè)生態(tài)參與各方的角色分工為切入，將主體類型化為：作為源頭活水的技術(shù)提供者、作為中心樞紐的人臉產(chǎn)品/服務(wù)提供者、作為最后關(guān)卡的人臉識別產(chǎn)品/服務(wù)使用者；從數(shù)據(jù)安全、個人信息保護、算法治理、產(chǎn)品質(zhì)量等各維度，細化不同主體的系統(tǒng)性義務(wù)與責任。此外，生成合成場景是人臉識別信息的重要應(yīng)用場景之一，鑒于我國對深度合成算法、生成式人工智能等采取專門立法規(guī)制，研究報告特別關(guān)注了該場景下的人臉識別治理問題。人臉識別產(chǎn)業(yè)的治理需要監(jiān)管機構(gòu)、司法機關(guān)、市場主體、行業(yè)組織、專家社群、社會公眾的共同參與，本研究報告匯聚各方智慧，探索技術(shù)、法律、最佳實踐、產(chǎn)業(yè)倡議多維一體的治理架構(gòu)，希冀有裨于未來的立法、司法與執(zhí)法，并為我國人臉識別產(chǎn)業(yè)的行穩(wěn)致遠貢獻綿薄之力。一、人臉識別技術(shù)生態(tài)2（一）技術(shù)提供者2（二）產(chǎn)業(yè)實踐3（三）人臉識別技術(shù)價值4二、人臉識別產(chǎn)品/服務(wù)生態(tài)5（一）產(chǎn)品/服務(wù)提供者5（二）產(chǎn)業(yè)實踐5（三）人臉識別產(chǎn)品價值7三、人臉識別服務(wù)使用生態(tài)8（一）服務(wù)使用者8（二）產(chǎn)業(yè)實踐9（三）人臉識別服務(wù)使用價值9三、人臉生成合成生態(tài)10第二章人臉識別產(chǎn)業(yè)的治理經(jīng)驗一、美國人臉識別的治理經(jīng)驗12（一）美國人臉識別治理的立法12（二）美國人臉識別治理的典型案例17二、歐盟人臉識別的治理經(jīng)驗21（一）歐盟人臉識別治理的立法21（二）歐盟人臉識別治理的典型案例31三、中國人臉識別的治理經(jīng)驗34（一）中國人臉識別治理的立法34（二）中國人臉識別治理的典型案例38第三章人臉識別產(chǎn)業(yè)法律治理圖景一、人臉識別產(chǎn)業(yè)生態(tài)治理的基本原理44二、人臉識別技術(shù)生態(tài)治理44（一）技術(shù)提供者的數(shù)據(jù)安全義務(wù)44（二）技術(shù)提供者的算法可信義務(wù)47三、人臉識別產(chǎn)品/服務(wù)生態(tài)治理48（一）產(chǎn)品/服務(wù)提供者的質(zhì)量管理義務(wù)48（二）產(chǎn)品/服務(wù)提供者的人工監(jiān)督義務(wù)49（三）產(chǎn)品/服務(wù)提供者的算法日志記錄義務(wù)49（四）產(chǎn)品/服務(wù)提供者的起草技術(shù)文件的義務(wù)50四、人臉識別服務(wù)使用生態(tài)治理50（一）服務(wù)使用者的個人信息保護義務(wù)50（二）服務(wù)使用者的算法解釋義務(wù)51（三）服務(wù)使用者的算法備案義務(wù)54（四）服務(wù)使用者的守門人義務(wù)55五、人臉生成合成生態(tài)治理55（一）技術(shù)提供者的訓練數(shù)據(jù)來源合法義務(wù)555（二）技術(shù)提供者的訓練數(shù)據(jù)質(zhì)量保障義務(wù)57（三）技術(shù)提供者的數(shù)據(jù)安全義務(wù)58（四）技術(shù)提供者的算法義務(wù)58（五）產(chǎn)品/服務(wù)提供者的內(nèi)容安全義務(wù)59（六）產(chǎn)品/服務(wù)提供者的內(nèi)容標識義務(wù)61（七）產(chǎn)品/服務(wù)提供者的用戶管理義務(wù)62（八）服務(wù)應(yīng)用者的正當使用義務(wù)63第四章人臉識別產(chǎn)業(yè)最佳實踐案例一：以權(quán)威數(shù)據(jù)源為基礎(chǔ)進行人臉識別64案例二：以最小必要原則為基礎(chǔ)進行人臉識別65案例三：回應(yīng)反詐需求進行人臉識別68案例四：以算法治理為基礎(chǔ)進行人臉識別68案例五：以個人信息保護為基礎(chǔ)進行人臉識別70案例六：以網(wǎng)絡(luò)安全為基礎(chǔ)進行人臉識別71案例七：以本地部署為基礎(chǔ)進行人臉識別73附：人臉識別產(chǎn)業(yè)治理倡議1第一章人臉識別產(chǎn)業(yè)的生態(tài)圖譜人臉識別（FaceRecognitionTechnology,FRT）是一種基于個體臉部特征信息的生物識別技術(shù)，其將靜態(tài)圖像或視頻圖像中檢測出來的人臉圖像，同已知人臉圖像進行比較，找到匹配的人臉，從而用于身份驗證、識別和分析。人臉識別技術(shù)所具有的不可復制性、非接觸性、可擴展性、快速性，使之成為多種生物識別技術(shù)中的明珠。2014年以來，人臉識別技術(shù)在安防、金融、醫(yī)療、支付、教育、文娛等諸多領(lǐng)域中實現(xiàn)應(yīng)用落地，廣泛應(yīng)用于設(shè)備解鎖、身份驗證、上班打卡、社區(qū)、考勤、乘車、購物等諸多場景，為數(shù)字經(jīng)濟社會發(fā)展和人們?nèi)粘Ｉ顜砹诵聶C遇。數(shù)據(jù)顯示，2021年中國人臉識別市場規(guī)模為56億元，預計到2024年突破100億元；年均保持23%增速。其中，人臉識別應(yīng)用最多的是安防占54%，其次是金融占16%，此2作為數(shù)字經(jīng)濟的集合，人臉識別產(chǎn)業(yè)是一個復雜的生態(tài)系統(tǒng)?；诓煌膮⑴c主體，其包括了人臉識別技術(shù)生態(tài)、人臉識別產(chǎn)品/服務(wù)生態(tài)和人臉識別服務(wù)應(yīng)用生態(tài)。一、人臉識別技術(shù)生態(tài)人臉識別產(chǎn)業(yè)的技術(shù)提供者是提供包含視頻人臉識別、圖片人臉識別和數(shù)據(jù)庫對比檢驗等技術(shù)的提供方。人臉識別活體檢驗五大步驟，是推進服務(wù)應(yīng)用的前提與關(guān)鍵1。目前人臉識別技術(shù)提供廠商主要包括大型互聯(lián)網(wǎng)企業(yè)，如騰訊、阿1參見智慧芽&羅思咨詢：《人臉識別行業(yè)研究3里巴巴、百度、微軟等，電子設(shè)備廠商，如華為、三星、蘋果等，以及其他科技公司，如火山引擎、商湯科技、依圖科技、曠視科技、格靈深瞳等。人臉識別技術(shù)的五大步驟：人臉檢測作為人臉識別算法的第一步，目標是找出圖像中所有人臉對應(yīng)的位置。人臉預處理模塊主要完成人臉圖像質(zhì)量的改善，包括提高圖像對比度、消除噪音等。特征提取模塊完成人臉特征的提取，同時如何提取穩(wěn)定和有效的特征是識別系統(tǒng)成敗的關(guān)鍵2。對比識別模塊根據(jù)特征提取模塊輸出的特征向量與數(shù)據(jù)庫中存儲的人臉特征向量進行距離度量，閾值內(nèi)最小距離即識別為同一人3?；铙w檢測主要是驗證用戶是否為真實活體本人操作，通過眨眼、張嘴、搖頭或點頭等動作進行判別4。百度智能云依托領(lǐng)先的深度學習人工智能前沿技術(shù)框4架和強大的端云計算能力，準確識別圖片和視頻流中的信息，提供高效、穩(wěn)定的服務(wù)支持，助力各行業(yè)實現(xiàn)智能化升級和創(chuàng)新發(fā)展，同時采用多項安全技術(shù)，包括AI領(lǐng)域的算法技術(shù)保障、工程安全保障等，全方位守護數(shù)據(jù)安全。商湯科技依托于原創(chuàng)的計算機視覺技術(shù)以及深度學習底層算法平臺，賦能于智能安防及其他領(lǐng)域，在多個垂直領(lǐng)域市場賦能多行業(yè)，為不同領(lǐng)域提供產(chǎn)品與解決方案，包括SenseID，等。阿里巴巴利用三大核心技術(shù)，即生物特征自主感知和學習系統(tǒng)，結(jié)算意圖識別和交易系統(tǒng)，以及目標檢測與追蹤系統(tǒng)，采用計算機視覺和傳感器感應(yīng)，并疊加了一些非配合生物識別技術(shù)，以降低誤判率，廣泛應(yīng)用于政務(wù)、金融、直播、游戲、數(shù)字藏品、共享出行、教育、招聘、房地產(chǎn)等眾多行業(yè)領(lǐng)域5。（三）人臉識別技術(shù)價值作為一項研究已有半世紀之久的技術(shù)，人臉識別技術(shù)是人臉識別技術(shù)應(yīng)用不斷發(fā)展的源頭活水，也是保護人臉信息的技術(shù)核心。一方面，人臉識別技術(shù)以光學成像技術(shù)為基礎(chǔ)，集合人工智能、機器識別、機器學習、模型理論、專家系統(tǒng)、視頻圖像處理等多種專業(yè)技術(shù)，其關(guān)鍵在于是否擁有尖端的核心算法，并使識別結(jié)果具有實用化的識別率和識別速度，5因此其不但是人工智能應(yīng)用的主要領(lǐng)域之一，也是弱人工智能向強人工智能轉(zhuǎn)化的環(huán)節(jié)。另一方面，在“基于設(shè)計的隱私保護”的架構(gòu)下，人臉識別技術(shù)要求技術(shù)提供者從開發(fā)前期就應(yīng)保障合規(guī)團隊與開發(fā)、設(shè)計團隊相互合作，在設(shè)計伊始即考量個人信息保護和隱私問題，將較能保護個人信息的動”保護。二、人臉識別產(chǎn)品/服務(wù)生態(tài)產(chǎn)品/服務(wù)提供者根據(jù)具體應(yīng)用場景的需要，提供相應(yīng)的軟件服務(wù)、軟硬件一體終端產(chǎn)品及服務(wù)等，常見的人臉識別產(chǎn)品及服務(wù)包括離線SDK、在線API、人臉識別一體機等。例如，在安防領(lǐng)域，服務(wù)提供者按照需求研發(fā)提供樓宇、園區(qū)、地鐵等場景下的門禁閘機；在零售領(lǐng)域，服務(wù)提供者提供支付場景下的1對1的人臉識別移動終端；在金融領(lǐng)域，服務(wù)提供者提供API調(diào)用接口，使用云端對比識別，在服務(wù)商完成數(shù)據(jù)處理。目前產(chǎn)品提供廠商與技術(shù)提供廠商重合度較高，它們包括阿里巴巴、百度、騰訊、火山引擎、商湯科技、?？低暋⒃茝目萍?、華為、滴滴等。人臉識別產(chǎn)品提供者主要為研發(fā)人工智能產(chǎn)品的科技公司，其提供的服務(wù)與產(chǎn)品形態(tài)也更加多樣化，以滿足各個6場景下的不同需求。以百度為例，人臉識別技術(shù)靈活應(yīng)用于金融、泛安防、安全生產(chǎn)等行業(yè)場景，滿足身份驗證和反欺詐、通行考勤、企業(yè)智能化治理等業(yè)務(wù)需求。傳統(tǒng)制造企業(yè)廠區(qū)規(guī)模大、作業(yè)環(huán)境復雜、設(shè)備操作安全等級要求高，需對作業(yè)人員日常操作、穿戴安全進行及時監(jiān)控及預警。同時，由于現(xiàn)場從業(yè)人員較多，員工管理面臨排班復雜、流動性大。百度度目智能應(yīng)用平臺綜合AI+物聯(lián)網(wǎng)+大數(shù)據(jù)分析能力，提供智能園區(qū)管理、能源生產(chǎn)安全管理、企業(yè)運營管理等服務(wù)，可廣泛應(yīng)用于企業(yè)園區(qū)及大型廠區(qū)，預警安全風險6。在安防領(lǐng)域，科技公司提供人臉識別產(chǎn)品形態(tài)包括設(shè)備終端與系統(tǒng)性解決方案。例如，?？低曁峁┌ㄔ朴嬎?、門禁、攝像機、軟件平臺、一體機等人臉識別終端設(shè)備以及系統(tǒng)性解決方案，致力于打造平安城市、平安鄉(xiāng)鎮(zhèn)、平安社區(qū)。格靈深瞳圍繞視覺計算系統(tǒng)打造了囊括云到端到邊緣側(cè)的多形態(tài)產(chǎn)品，具體包括：高密度的視覺計算服務(wù)器、靈活部署的邊緣服務(wù)器、嵌入式的智能前端視覺計算引擎以及云服務(wù)。依圖科技主要研發(fā)智能安防產(chǎn)品，建立了十億級的全球最大的人臉識別系統(tǒng)7。在銷售領(lǐng)域，科技公司提供人臉識別產(chǎn)品形態(tài)主要為智7該方案整合了先進的圖像識別技術(shù)、微重力感應(yīng)技術(shù)、RFID技術(shù)，可靈活自定義掃描策略，做到用戶隨意取貨也能精準判斷商品，在保障用戶體驗的同時有效控制貨損率8。在金融領(lǐng)域，科技公司提供人臉識別產(chǎn)品形態(tài)主要為人臉認證系統(tǒng)。例如，依圖自主研發(fā)雙目活體檢測認證系統(tǒng)，為無卡取款業(yè)務(wù)用戶提供身份核驗功能，實現(xiàn)刷臉取款功能，現(xiàn)已應(yīng)用于多家銀行的ATM機9。在直播等新興產(chǎn)業(yè)，科技公司提供人臉識別產(chǎn)品形態(tài)主要為響應(yīng)系統(tǒng)，輔助產(chǎn)業(yè)可靠發(fā)展。例如，火山引擎自主研發(fā)的實名認證系統(tǒng)，通過對用戶的個人信息（姓名、身份證號、人臉）進行校驗，增加用戶身份可信度。目前已在抖音、頭條等APP的直播、支付等涉及用戶實名認證的場景完成落（三）人臉識別產(chǎn)品價值作為人臉識別系統(tǒng)與其他系統(tǒng)、設(shè)備的集成者，產(chǎn)品/服務(wù)提供者需按照產(chǎn)品應(yīng)用者的要求進行集成開發(fā)，并且產(chǎn)品最后將直接面向用戶，因此與產(chǎn)品應(yīng)用者和用戶也具有更加緊密的聯(lián)系。人臉識別產(chǎn)品有著積極的社會價值。在公共安全領(lǐng)域，人臉識別技術(shù)配合人體特征、行為分析和事件分析，可將被動安防推向主動安防，在刑偵追逃、罪犯識別以及邊防安全等領(lǐng)域具有重要的實戰(zhàn)價值，比如，在視頻監(jiān)控9參見依圖官網(wǎng)：https://www.yitut8系統(tǒng)中嵌入交通事件檢測、人臉識別、違停抓拍及行人闖紅燈抓拍等模塊，并結(jié)合安防云和交通云，可大力提升社會治安防控體系建設(shè)的科技含量。從技術(shù)的發(fā)展角度來看，技術(shù)產(chǎn)品化是實現(xiàn)技術(shù)價值、探索技術(shù)邊界的必經(jīng)之路，良好的產(chǎn)品設(shè)計需要充分考慮應(yīng)用場景的差異和最終用戶的需求。從法律關(guān)系角度來看，產(chǎn)品提供者不僅應(yīng)當按照合同向產(chǎn)品接收者履行義務(wù)，在產(chǎn)品面向自然人提供涉及用戶個人信息等具有敏感性的服務(wù)時，還應(yīng)當向用戶作出真實的說明和明確的警示，防止危害后果的發(fā)生。三、人臉識別服務(wù)使用生態(tài)服務(wù)使用者是指將人臉識別技術(shù)實際應(yīng)用于生活場景中的使用方，按照應(yīng)用場景可以劃分為智慧安防、手機娛樂、出行交通等多個領(lǐng)域的使用者。在安防領(lǐng)域，房地產(chǎn)商通過人臉識別一體機降低“飛單率”，公安機關(guān)通過公安平臺進行刑偵打擊犯罪；在金融領(lǐng)域，銀行自主研發(fā)人臉識別系統(tǒng)，為用戶提供高安全性的人臉識別服務(wù)；在銷售領(lǐng)域，零售企業(yè)人臉識別與無人零售結(jié)合，開拓銷售新場景新模式；在交通領(lǐng)域，車企利用人臉識別技術(shù)提升人機交互的體驗感；在家具領(lǐng)域，家具企業(yè)通過人臉識別技術(shù)研發(fā)智能開鎖產(chǎn)品，提高產(chǎn)品的智能性。9人臉識別服務(wù)使用者主要按照場景需求開展產(chǎn)業(yè)實踐，主要以金融領(lǐng)域為代表。度小滿采用動作配合式活體，在客戶端做質(zhì)量和活體檢測，業(yè)務(wù)自動審核率超過90%。工商銀行以前瞻性、系統(tǒng)性、安全性為指導，進行頂層架構(gòu)設(shè)計，采用分層架構(gòu)設(shè)計，建設(shè)多元化特征并行發(fā)展，云邊端縱向分層解耦，提供生物特征客戶統(tǒng)一視圖的企業(yè)級生物識別服務(wù)，以兼顧不同場景和部署環(huán)境需求10。微眾銀行自主研發(fā)的人臉識別系統(tǒng)，集成于微眾銀行APP，為用戶提供高安全性的人臉識別服務(wù)。在用戶使用微眾銀行APP進行開戶、添加銀行卡、重置交易密碼、注銷賬戶等重大操作時，微眾銀行人臉識別系統(tǒng)會作為前置安全保障的步驟進行服務(wù)調(diào)用和識別驗證，搭配密碼輸入、短信驗證等組合驗證，確認操作用戶身份的真實性。（三）人臉識別服務(wù)使用價值人臉識別技術(shù)使用是產(chǎn)業(yè)成果落地實踐的關(guān)鍵，也是與用戶交互的紐帶，在促進科技成果有效轉(zhuǎn)移轉(zhuǎn)化落地、加快產(chǎn)業(yè)化進程等方面發(fā)揮了不可或缺的作用。服務(wù)應(yīng)用方是具體部署產(chǎn)品使用和處理的關(guān)鍵，重點應(yīng)當聚焦人臉信息保護的實踐需求，按照業(yè)務(wù)進行流程化的管理設(shè)計，貼合實際需要。10參見中國工商銀行金融科技研究院：《商業(yè)銀行生物識別技術(shù)應(yīng)四、人臉生成合成生態(tài)生成式AI在人臉生成合成領(lǐng)域的應(yīng)用可以分為兩大類四小類：一是人臉生成，生成現(xiàn)實中不存在的人臉。二是人臉合成，針對已有人臉進行修改，包括：1.人臉身份合成，更改圖像或視頻中人物的身份；2.人臉動作合成，改變?nèi)宋镌械拿娌縿幼鳎?.人臉屬性合成，對原始人臉的某些屬性進行編輯。人臉生成合成技術(shù)被廣泛應(yīng)用于影視、娛樂、教育、醫(yī)療、社交、電商、內(nèi)容營銷、藝術(shù)創(chuàng)作、科研等領(lǐng)域。在影視領(lǐng)域，人臉生成合成技術(shù)用于影視作品的后期制作的翻拍、補拍、數(shù)字復活已故演員等；在電商領(lǐng)域，人臉生成合成技術(shù)可以構(gòu)建虛擬主播、讓用戶實現(xiàn)在購買前“數(shù)字試穿”等；在廣告營銷領(lǐng)域，合成不存在但具有吸引力的人臉作為代言人或廣告角色，可以降低廣告成本和侵犯肖像權(quán)的風險等；在醫(yī)療領(lǐng)域，生成與真實影像無異的醫(yī)學圖像來訓練AI系統(tǒng)，可以解決數(shù)據(jù)不足、病人隱私保護等問題；在游戲領(lǐng)域，人臉生成合成技術(shù)主要用于NPC外形生成、模擬對手對戰(zhàn)訓練等。人臉生成合成生態(tài)包括三類主體：技術(shù)提供者、產(chǎn)品/服務(wù)提供者、服務(wù)應(yīng)用者。其中技術(shù)提供者包括兩類：一是大模型技術(shù)提供者。它們通過受控API、開源等方式輸出大的技術(shù)提供者。它們在預訓練模型基礎(chǔ)上，通過專門的調(diào)試和訓練，快速抽取形成垂直化、場景化、定制化的小模型和應(yīng)用工具層。如科大訊飛、商湯、曠視、依圖、格靈神瞳等。產(chǎn)品/服務(wù)提供者即提供生成式AI應(yīng)用的服務(wù)商，如百度大腦人臉融合、瑞萊智慧公司人臉安全防火墻RealOasis、無界AI、計算美學、萬興科技、影譜科技、啟元世界、Deepfake、FaceSwap、ZAO、Midjouney、DALL-E等。第二章人臉識別產(chǎn)業(yè)的治理經(jīng)驗一、美國人臉識別的治理經(jīng)驗（一）美國人臉識別治理的立法美國在人臉信息保護上采用的是通過專項立法進行保護的模式，側(cè)重隱私權(quán)保護。在聯(lián)邦層面，盡管已有若干法律提案，但目前還無統(tǒng)一法律規(guī)范人臉信息的收集和使用。相形之下，各州對人臉識別產(chǎn)業(yè)的規(guī)制走在聯(lián)邦的前列，呈現(xiàn)“拼湊式”的立法特點，其中較為突出的是伊利諾伊州和BiometricInformationPrivacyAct，以下簡稱“BIPA”）是美國境內(nèi)第一部規(guī)范生物識別信息的法律，并且由此催生Facebook生物識別信息隱私權(quán)訴訟等集體訴訟案件；加利福尼亞州接連頒布的《加利福尼亞州消費者隱私法》(TheCaliforniaConsumerPrivacyAct,以下簡稱“CCPA”與《加州隱私權(quán)利法案》（CaliforniaPrivacyRightsAct，以下簡稱“CPRA”）同樣也影響深遠?？傮w而言，各法案內(nèi)容主要涉及以下三方面：第一，以限制處理人臉信息為核心，給予數(shù)據(jù)生命周期的強化保護。當私人實體在采集、存儲、使用與銷毀生物信息過程中，應(yīng)嚴格遵守合法權(quán)源等義務(wù)、處理必要性等原則。第二，注重信息披露、外部問責和監(jiān)督機制。11第三，在治理人臉識別技術(shù)時避免將算法偏見、自動化決策負面影響納入考量。12層級文件名稱內(nèi)容簡介聯(lián)邦層面《道德使用人臉識別法案》（EthicalUseofFacialRecognitionAct）（2020.2.12）本法案第四節(jié)規(guī)定禁止政府機構(gòu)使用人臉識別技術(shù)。美國政府機構(gòu)不得安裝任何與人臉識別技術(shù)相連接的攝像機，不得在未經(jīng)授權(quán)的情況下獲取或使用通過人臉識別技術(shù)獲得的個人信息，不得在沒有逮捕令的情況下使用人臉識別技術(shù)來識別特定個人。第五節(jié)提供了人臉識別技術(shù)侵害權(quán)利的司法救濟。任何人如果認為美國政府機構(gòu)違反規(guī)定使用人臉識別技術(shù)使自己遭受侵害的，均可向相應(yīng)的美國地方法院提起民事訴訟，以獲取禁止令或者宣告性救濟。第六節(jié)提及制定人臉識別技術(shù)使用規(guī)則1）在未經(jīng)許可的情況下，人臉識別技術(shù)是否可以在私人或公共場所適當使用2）商業(yè)化使用人臉識別技術(shù)的情形和限制是什么，個人對于其數(shù)據(jù)所享有的權(quán)利是什么3）在何種情形下，政府官員可以未經(jīng)許可使用人臉識別技術(shù)4）考慮個人對于保護隱私或匿名的合理期望，應(yīng)采用何種規(guī)則來控制通過人臉識別技術(shù)對于人臉圖像的獲取5）在何種情形下，個人能夠選擇退出或選擇使用人臉識別技術(shù)6）需要采取什么保障措施以防止人臉識別技術(shù)的濫用7）當人臉識別技術(shù)被濫用時有哪些適當?shù)木葷胧?）個人應(yīng)享有哪些與人臉識別技術(shù)所產(chǎn)生的數(shù)據(jù)及他們肖像的使用相關(guān)的權(quán)利?！秶疑镒R別信息隱私法案》(NationalBiometricInformationPrivacyActof2020)(2020.08.03)以BIPA為藍本，規(guī)范生物識別信息的收集、保留、披露和銷毀。主要包括私人實體a）不能通過貿(mào)易獲取個人或客戶的生物識別信息，除非實體提供服務(wù)或其他有效商業(yè)用途，以書面形式告知并獲得書面許可（不得與其他同意，包括就業(yè)協(xié)議相結(jié)合）；（b）應(yīng)以合理的謹慎標準和保護其他機密和敏感信息的方式存儲、傳輸和保護生物識別信息等。《商業(yè)人臉識別隱私法案》(CommercialFacialRecognitionPrivacyActof2019)法案主要規(guī)范商業(yè)使用人臉識別技術(shù)，要求在使用前獲得個人的同意，在未經(jīng)同意情況下禁止將人臉識別數(shù)據(jù)共享給非關(guān)聯(lián)第三方。具體內(nèi)容包括：一是要求收集人臉識別數(shù)據(jù)獲得明確同意；二是對人臉識別數(shù)據(jù)的處理提出限制性要求a）原則上禁止使11例如，加州法案規(guī)定企業(yè)應(yīng)保存內(nèi)外部審計機構(gòu)就生物識別系統(tǒng)的安全性、隱私性作出的審計記錄，審計測試與測試數(shù)據(jù)庫須經(jīng)政府部門批準，定期將審計結(jié)果向社會公示。同時，亦注重外部問責．針對企業(yè)采用的生物識別系統(tǒng)進行年度外部審計，就收集數(shù)據(jù)的期限是否合理、精確度是否達標、是否對個人產(chǎn)生12例如，《商用人臉識別隱私法草案》中規(guī)定禁止使用人臉識別技術(shù)對用戶進行歧視化對待。(2019.03.14)用該技術(shù)收集人臉識別數(shù)據(jù)，除非獲得明確同意并提供通知；禁止歧視、更改使用目的及未經(jīng)明確同意與非附屬第三方（anunaffiliatedthirdparty）共享人臉識別數(shù)據(jù)b）若對某一服務(wù)而言該技術(shù)的使用非必需的，不可因終端用戶同意放棄隱私權(quán)服務(wù)或沒有提出明確同意而終止或拒絕提供服務(wù)；三是明確可使用人臉識別技術(shù)的例外情形；四是要求對人臉識別技術(shù)的準確性進行獨立第三方測試。《人臉識別技術(shù)授權(quán)法案》（FacialRecognitionTechnologyWarrantAct）法案旨在限制聯(lián)邦調(diào)查局、移民與海關(guān)執(zhí)法局等機構(gòu)通過人臉識別技術(shù)開展持續(xù)監(jiān)視，持續(xù)監(jiān)視是指利用人臉識別技術(shù)在公共場所跟蹤被識別個人的身體運動超過72小時，無論是實時的還是使用該技術(shù)進行歷史記錄，明確只有在支持執(zhí)法機構(gòu)的活動中，取得法院命令等情況下才能將人臉識別技術(shù)用于持續(xù)監(jiān)視。此外，持續(xù)監(jiān)視獲取的證據(jù)的使用具有限制，若信息是非法獲得的、授權(quán)獲取信息的法院發(fā)出命令的理由不充分、與法院命令授權(quán)使用的目的不相符等情況下不得在訴訟中申請使用。最后，政府機構(gòu)要對使用人臉識別技術(shù)得出的結(jié)論進行人工審查，并與美國技術(shù)和標準研究院（NIST）協(xié)商建立人臉識別系統(tǒng)測試程序，定期對系統(tǒng)性能進行獨立測試?！?018年外國投資風險審查現(xiàn)代化法案》《關(guān)于外國人在美國進行特定投資的規(guī)定》《出口管制條例》通過外商投資安全審查、出口管制等手段對人工智能關(guān)鍵技術(shù)、敏感個人數(shù)據(jù)等采取相關(guān)跨境限制措施。1.直接或間接收集或持有美國居民敏感個人數(shù)據(jù)的美國企業(yè)屬于敏感行業(yè)美國企業(yè)（TIDU.S.Business）。2.外國投資者針對敏感行業(yè)美國企業(yè)的非控制權(quán)投資交易可能落入CFIUS的審查范圍，并屬于強制申報的情形?！?022年面部識別法案》（提案）美國馬里蘭州眾議員TedLieu提出了《2022年面部識別法案》。該法案包含規(guī)范面部識別技術(shù)在公共和私營部門的必要使用的條款。它還規(guī)定了透明度要求、年度評估和圍繞執(zhí)法部門使用情況的報告。（一）對政府執(zhí)法部門使用FRT進行嚴格限制和禁止：1.將執(zhí)法部門使用人臉識別技術(shù)的情況限制在獲得搜查令的情況下，搜查令應(yīng)說明某人可能犯下嚴重暴力重罪的可能原因。2.禁止執(zhí)法部門使用FRT來記錄個人如何表達憲法所保障的權(quán)利，如合法抗議。3.禁止將FRT匹配作為確定搜查、逮捕或其他執(zhí)法行動的合理理由的唯一依據(jù)。4.禁止執(zhí)法部門使用FRT來執(zhí)行移民法。5.禁止將FRT與包含非法獲得的信息的數(shù)據(jù)庫以及人體攝像頭、儀表盤攝像頭和飛機攝像頭一起使用。6.禁止使用FRT追蹤具有實時或存儲視頻片段的個人。7.確保該法案中的任何內(nèi)容都不妨礙州或地方政府禁止或暫停使用FRT。（二）為個人提供透明度并提供救濟路徑：1.為因使用FRT而受到傷害的個人建立了私人訴訟權(quán)等救濟途徑。2.要求執(zhí)法部門向作為FRT搜查對象的個人提供通知，并提供法院命令的副本和/或其他關(guān)鍵數(shù)據(jù)點。3.要求執(zhí)法部門每六個月從FRT逮捕照片數(shù)據(jù)庫中清除18歲以下、無罪釋放、被撤銷指控或被宣告無罪的個人照片。（三）確保對執(zhí)法部門使用FRT的情況進行年度評估和報告：1.要求對執(zhí)法機構(gòu)使用的FRT系統(tǒng)進行定期審計，對審計不合格的機構(gòu)進行停職處理。對審計不合格的機構(gòu)進行暫停。2.要求每年對執(zhí)法部門采用的任何FRT系統(tǒng)進行獨立測試。3.要求詳細的FRT司法和檢察報告，以及數(shù)據(jù)收伊利諾伊州《生物信息隱私法案》(IllinoisBiometricInformationPrivacyAct,BIPA)(2008)1.知情同意，收集個人生物識別信息需獲得知情的書面同意；2.保留準則，企業(yè)須制定書面政策設(shè)定生物識別數(shù)據(jù)的保留時間表，且當收集數(shù)據(jù)的目的已達到或距信息主體與企業(yè)最后一次聯(lián)絡(luò)已滿三年時（以先發(fā)生者為準），應(yīng)當摧毀該數(shù)據(jù)；3.禁止獲利，生物識別數(shù)據(jù)不得出售；4.有限披露，且除非獲得相關(guān)自然人的同意或法律規(guī)定的特定例外情況不得對他人披露；5.BIPA要求私人實體行業(yè)內(nèi)的合理的注意標準（不同行業(yè)的注意標準不盡相同）；6.對生物信息的保護至少等同于“機密和敏感信息”的保護；7.允許公民對違反其規(guī)定的行為提起私人司法訴訟。德克州《捕獲或使用生物識別符法案》(TexasCaptureorUseofBiometricIdentifierAct,CUBI)(2009)1.除非事前通知并收到同意外，任何人不得出于商業(yè)目的獲取生物特征識別信息；2.規(guī)定除完成個人要求或授權(quán)金融交易等四種特殊情形外，不得向他人出售、出租或以其他方式透露已獲取的生物特征識別信息；3.應(yīng)該以合理謹慎的態(tài)度存儲、傳輸、保護生物識別標識符。華盛頓州《生物識別隱私法》(WashingtonBiometricPrivacyLaw,WBPL)(2017.07)從問責、人工審查、測試等機制來規(guī)范人臉識別服務(wù)使用。1.控制者必須獲得消費者的同意，才能部署面部識別服務(wù)；2.在可能會對消費者產(chǎn)生法律或類似的重大影響的情況下，必須包括有意義的人類審查；3.禁止使用面部識別技術(shù)進行歧視；4.必須向消費者提供描述技術(shù)能力和局限性的文件；5.開發(fā)人員可在線使用的面部識別技術(shù)必須為第三方提供獨立測試的技術(shù)能力。加利福尼亞州《人臉識別技術(shù)法》(AssemblyBill2261:Facialrecognitiontechnology)(2020.02.14)該法在加州民法典隱私保護部分增加人臉識別章節(jié)，內(nèi)容上主要涉及人臉識別信息的收集和處理、政府機構(gòu)使用人臉識別服務(wù)的限制性要求。一是收集人臉識別信息應(yīng)當征得個人同意；二是建立人臉識別服務(wù)的人工審查和測試機制；三是建立政府機構(gòu)使用人臉識別服務(wù)的問責機制；四是限制政府機構(gòu)對人臉識別服務(wù)的使用。《加利福尼亞州消費者隱私法》(TheCaliforniaConsumerPrivacyAct,CCPA)CCPA雖被稱為全美最嚴厲的隱私保護立法，但其對收集個人生物信息的規(guī)制比較寬松，沒有專門針對生物特征識別信息收集與使用的規(guī)定條款，與對一般個人信息的規(guī)制基本無異。13《加州隱私權(quán)利法案》(CaliforniaPrivacyRightsAct,CPRA)在CCPA的基礎(chǔ)上，進一步賦予個人一些新的權(quán)利。CPRA在CCPA的內(nèi)容上進行了多處修改，但許多細節(jié)需要通過法規(guī)加以澄清和定義。例如，建立針對全面選擇退出偏好標志及其他選擇退出機制的技術(shù)要求、定期提交個人信息處理風險評估報告（報告內(nèi)容應(yīng)當包括該處理行為是否涉及處理個人敏感信息）等。1.CPRA區(qū)分敏感個人信息和一般個人信息。消費者可以限制對于除必要服務(wù)和必需產(chǎn)品外敏感個人信息的商業(yè)使用。值得注意的是，對于敏感個人信息的規(guī)定不適用于公開信息14或者非用于分析消費者特點15而收集或處理的敏感個人信息。2.CPRA主要規(guī)制三類主體收集、處理消費者個人信息的行為，包括企業(yè)16、承包商17、服務(wù)提供方18。140第(v)款第(2)項的規(guī)定，公開獲取的敏感個人信人信息。1798.140第(v)款第(2)項中個業(yè)有合理理由認為是由消費者合法地向公眾公布的，或從廣泛傳播的媒體獲取的；或者業(yè)在消費者不知情的情況下收集的關(guān)于消費者121條(d)項規(guī)定不以推斷消費者特征為目超過2500萬美元；或(2)單獨或與他人合并，每年購買、出售、共享消費者CPRA要求承包商和服務(wù)提供方與企業(yè)簽訂的書面合同需要以下條件：禁止出售、共享該個人信息；禁止超范圍、超限度使用、處理該個人信息；原則上禁止將從企業(yè)處獲取的消費者個人信息與從其他企業(yè)處獲得的個人信息相結(jié)合用于個性化營銷目的。此外，合同中須包含的合規(guī)承諾，以及授權(quán)企業(yè)對其個人信息處理活動的監(jiān)督、審計等權(quán)利。涉及敏感個人信息的情況，如果消費者要求企業(yè)限制使用其敏感個人信息，企業(yè)應(yīng)告知相關(guān)服務(wù)提供商或承包商。服務(wù)提供商或承包商在收到企業(yè)指示后，應(yīng)停止使用相關(guān)消費者的敏感個人信息。即服務(wù)提供商和承包商對于企業(yè)的限制性使用指示有響應(yīng)、配合義務(wù)。3.Opt-out機制的實現(xiàn)企業(yè)可以通過多種方式向消費者提供“Opt-out”功能，但根據(jù)CPRA的要求，企業(yè)應(yīng)在其網(wǎng)站主頁、線上隱私政策中都提供清晰、明顯且分開的“不得出售或共享我的個人信息”鏈接和“限制使用我的個人敏感信息”鏈接，供消費者點擊選擇。一旦消費者作出Opt-out選擇，企業(yè)在此之后12個月內(nèi)不得再次要求該消費者授權(quán)企業(yè)出于其他目的使用、披露消費者的敏感個人信息。（二）美國人臉識別治理的典型案例1.谷歌用戶起訴谷歌違反BIPA2016年3月，用戶向谷歌提起集體訴訟，認為谷歌對用戶在“谷歌照片”中上傳的照片進行分析并建立面部模型，既沒有公布收集用戶生物識別信息的政策，也未獲得用戶的書面同意，違反了BIPA的規(guī)定。2019年1月，法官以原告無法證明因谷歌公司的行為造成“具體損害”而駁回了原告起訴。2.Rosenbachv.SixFlagsEntertainmentCorp.2017年12月，伊利諾伊州一位市民因其兒子辦理六旗主題公園（SixFlags）的季卡時被要求提供指紋信息而向法院提起訴訟，認為六旗主題公園既沒有公布收集用戶生物識別信息的政策，也未獲得用戶的書面同意，違反了BIPA的規(guī)定。伊利諾伊州上訴法院判決認為，原告未能證明合法權(quán)利受到損害，未支持原告的訴訟請求。伊利諾伊州最高法院在2019年1月推翻了原審法院的判決，認為生物特征隱私是一項基本的民事權(quán)利，個人無需證明受到實際損害就可起訴自身權(quán)利受到侵害。193.多名用戶針對Facebook的圖片標簽功能提起集體訴訟2016年5月，多名用戶針對Facebook的圖片標簽功能提起集體訴訟，認為Facebook未經(jīng)用戶同意收集用戶生物識別信息，并存儲在Facebook面部識別數(shù)據(jù)庫中。只要用戶上傳照片，F(xiàn)acebook的系統(tǒng)就會自動分辨出鏡頭中的面孔與之前上傳照片中的人臉匹配，最后鑒別出個人身份。2019年8月，美國第九巡回上訴法院駁回了Facebook要求撤銷集體訴訟的請求，將該案退還給舊金山地方法院進行審理。案件最終達成和解協(xié)議，F(xiàn)acebook將向符合條件的伊利諾伊州用戶支付5.5億美元，并支付原告的訴訟費。4.SnapInc.公司違規(guī)收集個人生物特征信息2022年9月，在伊利諾伊州，針對視頻通訊應(yīng)用軟件19Rosenbachv.SixFlagsEntertainmentCorSnapchat違規(guī)收集用戶生物特征信息的集體訴訟案（Boone, etal.v.SnapInc.案）初步達成了庭外和解（最高可達3500 萬美金賠償、波及超35萬人的和解動議）。在這起集體訴 訟中，SnapInc.被指控違反了BIPA。原告稱，SnapInc.的 隱私政策（PrivacyPolicy）中沒有說明用戶的面部信息會被 收集，而且公司在沒有得到用戶書面授權(quán)的情況下，通過用 戶使用濾鏡和特效鏡頭掃描了用戶人臉。作為被告的Snap Inc.雖然選擇庭外和解，并同意支付最高3500萬美元的和解 費用，但不接受以上任何一項指控。SnapInc.表示：“軟件 在使用鏡頭時不會收集可用于識別特定人員或進行面部識 別的生物特征數(shù)據(jù)，例如，鏡頭可將眼睛或鼻子識別為面部 的一部分，但不能將眼睛或鼻子識別為屬于任何特定的人?！蓖瑫r還表示，鏡頭功能使用的數(shù)據(jù)不會發(fā)送到他們的服務(wù)器，而是保留在用戶的設(shè)備上，因此公司不應(yīng)在BIPA管轄之列。5.Instagram違法收集處理人臉信息2015年4月，多位美國伊利諾伊州用戶針對Instagram提起集體訴訟，指控該軟件使用的生物識別技術(shù)違反了BIPA。該法律嚴格限制企業(yè)收集、使用和共享生物信息，禁止企業(yè)在未經(jīng)用戶同意的情況下收集生物信息。同時，該法要求企業(yè)需要以書面形式告知用戶收集生物信息的目的、用途以及存儲和銷毀的時間。訴訟稱Instagram通過面部標記工具采集用戶面部數(shù)據(jù)，并將創(chuàng)建的“面部數(shù)據(jù)”儲存在數(shù)據(jù)庫中。Instagram會在未經(jīng)用戶同意的情況下，自動使用面部標記工作用僅為通過建立個人面部模板來查找用戶在Facebook等軟件上的照片和視頻，從而實現(xiàn)打標簽、記錄發(fā)布內(nèi)容和特征的目的。然而，伊利諾伊州用戶認為，Instagram及其母公司Meta此舉實際上在未獲得用戶知情同意的情況下，收集和使用其生物特征信息。該案被訴至美國庫克縣巡回法院，后被移交至芝加哥聯(lián)邦法院和加利福尼亞州聯(lián)邦法院。此案審理期間，2021年11月，由于用戶對生物識別技術(shù)的安全性愈發(fā)擔憂，Meta宣布關(guān)閉其面部識別功能，同時刪除存儲的超過十億個面部識別模板。2023年3月，Instagram與多位原告達成和解，軟件的伊利諾伊州用戶支付共計6850萬美元的和解金，用戶需在9月27日之前提交索賠申請，不想接受和解條款的人需在8月16日之前提交信函請求排除；想要留在和解集體中但反對和解或與和解相關(guān)的支出的人，需在8月16日前向法院提出異議。和解協(xié)議的最終批準聽證會定于10月11日舉行，每位索賠用戶能獲得多少賠償將取決于提交索賠申請的總?cè)藬?shù)以及用戶在規(guī)定期限內(nèi)使用Instagram的時長。在向該案代理律師、稅務(wù)、和解事務(wù)處理小組以及訴訟代表支付費用后，賠款將按一定比例發(fā)給受此事件影響的用戶，不論是成年人還是未成年人。但和解協(xié)議的最終批準聽證會如果和解協(xié)議獲得批準且所有上訴被解決后，索賠人預計將在90天內(nèi)（即2024年2月）開始獲得自額，但具體付款時間還需法院確定，仍具有不確定性?？傊摪革@示了BIPA作為一個真正強大的機制和執(zhí)法工具的重要性，凸顯了私人訴權(quán)在確保隱私制度執(zhí)行方面的工具價值，體現(xiàn)了BIPA在人臉識別技術(shù)的使用和部署過程中所發(fā)揮的重要作用。二、歐盟人臉識別的治理經(jīng)驗（一）歐盟人臉識別治理的立法歐盟對于人臉信息保護采取綜合立法保護模式，初期以《一般數(shù)據(jù)保護條例》（以下簡稱“GDPR”）中生物信息保護為核心，近期則延伸到人臉識別應(yīng)用人工智能算法上。與美國不同，歐盟嘗試著在區(qū)分人臉識別產(chǎn)業(yè)中不同主體的基礎(chǔ)上，采取差異化的義務(wù)與責任規(guī)制。例如，《關(guān)于人臉識別的指南》分別對開發(fā)和銷售人臉識別技術(shù)、私營實體使用人臉識別技術(shù)兩種情形進行指引；作為全世界第一部通過議會程序、專門針對人工智能的綜合性立法，《人工智能法案》分別規(guī)定高風險AI系統(tǒng)提供商、高風險AI系統(tǒng)用戶的義務(wù)；《歐盟人工智能責任指令》區(qū)分高風險AI系統(tǒng)提供者和用戶的證據(jù)、因果關(guān)系推定的規(guī)則?？傮w而言，歐盟對人臉識別產(chǎn)業(yè)保持非常謹慎的態(tài)度，對其設(shè)置了多重限制，包括但不限于（1）使用目的和使用場景的限制：人臉識別技術(shù)的使用只能在受控環(huán)境中進行驗證、認證或分類；（2）數(shù)據(jù)處理的限制：數(shù)據(jù)處理的合法性，要求獲得同意、透明、公平、數(shù)據(jù)最小化、存儲時間有限3）數(shù)據(jù)準確性的限制4）數(shù)據(jù)安全的限制5）組織流程的限制：企業(yè)應(yīng)設(shè)立內(nèi)部審查委員會和數(shù)據(jù)安全保護官（DPO），定期開展數(shù)據(jù)影響評估，以評估、批準涉人臉識別數(shù)據(jù)的處理活動。此外，雖然沒有直接針對人臉識別技術(shù)開發(fā)的規(guī)定，但人臉識別技術(shù)被《人工智能法案》確定為高風險AI系統(tǒng)，《人工智能法案》從高風險AI系統(tǒng)應(yīng)符合的標準和系統(tǒng)提供商的義務(wù)兩個維度，提出對高風險AI系統(tǒng)技術(shù)要求和組織措施：強制性的風險管理系統(tǒng)、高質(zhì)量數(shù)據(jù)訓練集、技術(shù)文件和記錄保存、明確的透明度、確保能對系統(tǒng)進行人為監(jiān)督、確保AI系統(tǒng)能夠達到適當?shù)臏蚀_性、魯棒性和網(wǎng)絡(luò)安全、售后監(jiān)控。根據(jù)目前公布的最終版法案，AI工具將依照本身技術(shù)特 性，按照風險等級匹配監(jiān)管規(guī)則，其中值得一提的是《人工 智能法案》將嚴格禁止對人類安全具有不可接受風險的人工智能系統(tǒng)（UnacceptableriskAI），例如公共場合的“實時”或“事后”的遠程生物識別系統(tǒng)、使用敏感特征（如性別、種族、民族等）的生物識別分類系統(tǒng)、從互聯(lián)網(wǎng)或閉路電視錄像中無目標地抓取面部圖像以創(chuàng)建或擴展面部識別數(shù)據(jù)庫的人工智能系統(tǒng)、通過分析先前犯罪行為，試圖預測未來非法活動的預測性警務(wù)系統(tǒng)，以及在執(zhí)法、邊防、工作場所和教育機構(gòu)等領(lǐng)域中用于推斷自然人的情緒識別系統(tǒng)等。上述明令禁止的內(nèi)容中，禁止使用生物識別系統(tǒng)這一條文備受爭議。擁有人臉與生物辨識技術(shù)的AI公司可以通過社交媒體或電視影像對民眾的外觀信息進行大規(guī)模搜集與分析，嚴重威脅了個人隱私；面部識別技術(shù)甚至可以作出種族定性，可能危及有色人種或弱勢少數(shù)民族公民的個人自由。最終版《人工智能法案》禁止出于執(zhí)法目的在公共場所使用“實時”遠程生物識別系統(tǒng)，除非使用該系統(tǒng)對于以下目的之一必須的1）尋找綁架、販賣或性剝削的受害者，以及失蹤人員；（2）防止對于生命或身體安全的特定的、重大的和緊迫的威脅或恐襲3）出于調(diào)查、檢控或執(zhí)行懲罰的目的定位或識別嚴重犯罪的嫌疑人。和49票棄權(quán)的壓倒性票數(shù)通過了《人工智能法案》。該法案是世界上“第一部”針對人工智能的全面且具有約束力的法規(guī)，這一里程碑式法案的通過，有助于歐盟在監(jiān)管人工智能方面走在世界的前列，即使《人工智能法案》的管轄范圍只能覆蓋歐盟成員國，但其針對人工智能監(jiān)管的規(guī)范卻可以成為其他國家的參考。由是觀之，如歐盟《人工智能法案》通過，該法案或許將同歐盟《一般數(shù)據(jù)保護條例》（GDPR）一樣，影響世界各國家或地區(qū)的立法和實踐。文件名稱《一般數(shù)據(jù)保護條例》（GeneralDataProtectionRules）人臉識別信息屬于GDPR規(guī)定的個人敏感數(shù)據(jù)。除了數(shù)據(jù)控制者對一般信息的保護義務(wù)，如遵守合法、合理和透明原則、目的限制原則、最小化原則、準確性原則、限期儲存原則、完整保密原則和權(quán)責一致原則等，GDPR對敏感數(shù)據(jù)的保護提出更嚴格的要求，原則上禁止處理。對于人臉識別技術(shù)的商業(yè)應(yīng)用而言，可適用的唯一例外情形是“數(shù)據(jù)主體已明確表示同意”，且同意須“自由、明確、具體”。GDPR還對敏感數(shù)據(jù)控制者或處理者單獨規(guī)定了必須設(shè)立DPO（第37條）和必須進行數(shù)據(jù)保護影響評估的義務(wù)（第35根據(jù)GDPR的規(guī)定，照片不當然構(gòu)成個人敏感數(shù)據(jù)，但在通過特定技術(shù)方法對照片進行處理，使其能夠識別或認證特定自然人時，也屬于處理個人敏感數(shù)據(jù)（第51條）。ArtificialIntelligenceAct）（2020.2.19）《歐盟人工智能法案（草案）》（以下簡稱“《草案》”）明確將人臉識別列為高風險AI系1.針對高風險AI系統(tǒng)提供商（技術(shù)研發(fā)者）而言，需要重點關(guān)注《草案》第三編第2章對高風險AI系統(tǒng)本身的要求、第3章中關(guān)于高風險AI系統(tǒng)提供商的義務(wù)，以及第八編第61條提供商的入市后監(jiān)測義務(wù)。第三編第2章第9條—第15條規(guī)定了強制性的風險管理系統(tǒng)、高質(zhì)量數(shù)據(jù)訓練集、技術(shù)文件和記錄保存、明確的透明度、確保能對系統(tǒng)進行人為監(jiān)督、確保AI系統(tǒng)能夠達到適當?shù)臏蚀_性、魯棒性和網(wǎng)絡(luò)安全。第三編第3章第16條羅列了高風險AI系統(tǒng)提供商義務(wù)，第17條—23條詳細闡述前述義務(wù)的具體要求，其中包括：保證并證明其AI系統(tǒng)符合對高風險AI系統(tǒng)的要求（具體見該草案第2章）、建立質(zhì)量管理體系、編制技術(shù)文檔、保留AI系統(tǒng)自動生成的日志、確保系統(tǒng)投放前經(jīng)過合格評定程序、采取糾正措施等義務(wù)。第八編第61條規(guī)定了提供者負有建立售后監(jiān)控系統(tǒng)的義務(wù)，需通過該系統(tǒng)評估AI系統(tǒng)的持續(xù)合規(guī)性。2.針對技術(shù)應(yīng)用者，《草案》第3章第29條規(guī)定了高風險AI系統(tǒng)用戶的義務(wù)，包括：按照系統(tǒng)附帶的使用說明使用系統(tǒng)；監(jiān)督系統(tǒng)運行；在自己控制范圍內(nèi)確保輸入數(shù)據(jù)是與高風險AI系統(tǒng)的預期目的相關(guān)的；保留該高風險AI系統(tǒng)自動生成的日志；進行數(shù)據(jù)保護影響評估。除此之外，技術(shù)應(yīng)用者也可能被認定為構(gòu)成技術(shù)供應(yīng)商，從而承擔技術(shù)研發(fā)者相同的責任?！恫莅浮返?章第28條規(guī)定了經(jīng)銷商、進口商、用戶或任何其他第三方應(yīng)被視為提供者的情形：（a）以自己名稱或商標將高風險AI系統(tǒng)投放市場或投入使用b）修改已經(jīng)投放市場或投入使用的高風險AI系統(tǒng)的預期目的c）對高風險的AI系統(tǒng)進行了實質(zhì)性的修改。3.針對產(chǎn)品制造商，《草案》規(guī)定以產(chǎn)品制造商的名義與根據(jù)該法律行為生產(chǎn)的產(chǎn)品一起投放市場或投入使用時，產(chǎn)品制造商應(yīng)對AI系統(tǒng)符合本條例的規(guī)定承擔責任，并就AI系統(tǒng)而言，負與本條例下供應(yīng)商所負義務(wù)相同的義務(wù)。4.《草案》規(guī)定了人臉識別技術(shù)進口商和經(jīng)銷商的義務(wù)，系統(tǒng)服務(wù)者如果有進口或經(jīng)銷人臉識別技術(shù)的業(yè)務(wù)，需要履行《草案》規(guī)定的相應(yīng)義務(wù)?！稓W盟人工智能法案》（EUArtificialIntelligenceAct）（2024.3.13）本法案將公共場合的“實時”或“事后”的遠程生物識別系統(tǒng)歸為具有不可接受風險的人工智能系統(tǒng)，對于人臉識別采取嚴格謹慎的態(tài)度，這也與《歐盟人權(quán)公約》中規(guī)定的隱私權(quán)、思想自由、禁止歧視等內(nèi)容相符。具體涉及人臉識別的相關(guān)條文如下：Recital8：本條例中使用的“遠程生物識別系統(tǒng)”的概念應(yīng)從功能上加以定義，這是一種人工智能系統(tǒng)，用于在自然人沒有主動參與的情況下，通常是在一定距離之外，通過將一個人的生物數(shù)據(jù)與參考數(shù)據(jù)庫中的生物數(shù)據(jù)進行比較，從而識別其身份，而不論所使用的生物數(shù)據(jù)的特定技術(shù)、程序或類型如何。這種遠程生物識別系統(tǒng)通常用于同時感知多個人或其行為，以便在沒有自然人主動參與的情況下極大地便利對自然人的識別。這不包括用于生物驗證，包括用于鑒別的人工智能系統(tǒng)，相應(yīng)系統(tǒng)，單純出于獲得服務(wù)、解鎖設(shè)備或安全進入場所的目的，其唯一目的是確認特定自然人就是他或她聲稱的那個人，以及確認自然人的身份。這種排除的理由是，與遠程生物識別系統(tǒng)相比，這類系統(tǒng)對自然人基本權(quán)利的影響可能較小，因為遠程生物識別系統(tǒng)可用于處理許多人的生物數(shù)據(jù)，而無需這些人的積極參與。在“實時”系統(tǒng)中，生物數(shù)據(jù)的采集、比對和識別都是在瞬間或接近瞬間進行的，或在任何情況下都沒有明顯的延遲。在這方面，不應(yīng)存在通過設(shè)定輕微的延遲來規(guī)避本條例關(guān)于“實時”使用有關(guān)人工智能系統(tǒng)的規(guī)則的空間。“實時”系統(tǒng)涉及使用“現(xiàn)場直播”或者“近乎現(xiàn)場直播”的材料，如攝像機或其他具有類似功能的設(shè)備生成的錄像片段。相比之下，“事后”系統(tǒng)則是生物數(shù)據(jù)已經(jīng)得到采集，只有在延遲之后才進行比對和識別。這涉及在對有關(guān)自然人使用該系統(tǒng)之前已經(jīng)生成的材料，如閉路電視攝像機或私人設(shè)備生成的圖片或錄像Recital18：在公共場所為執(zhí)法目的使用“實時”遠程生物識別系統(tǒng)，每次使用都應(yīng)得到司法機關(guān)或其決定對成員國具有約束力的獨立行政機關(guān)的明確和具體授權(quán)。這種授權(quán)原則上應(yīng)在使用該系統(tǒng)識別特定的個人或多人之前獲得。在有正當理由的緊急情況下，即在需要使用有關(guān)系統(tǒng)，因而實際上和客觀上不可能在開始使用之前獲得授權(quán)的情況下，這一規(guī)則應(yīng)允許例外。在這種緊急情況下，使用應(yīng)限制在嚴格必要的最低限度，并受制于適當?shù)谋Ｕ洗胧┖蜅l件，這些措施和條件由國家法律確定，并由執(zhí)法機關(guān)本身在每個緊急使用的個案中具體規(guī)定。此外，在這種情況下，執(zhí)法機關(guān)應(yīng)在提出申請的同時，說明未能及早提出申請的原因，不得無故拖延，最遲應(yīng)在24小時內(nèi)提出申請。如果這種授權(quán)被拒絕，則應(yīng)立即停止使用與該授權(quán)有關(guān)的實時生物鑒別系統(tǒng)，并應(yīng)棄置和刪除與這種使用有關(guān)的所有數(shù)據(jù)。這些數(shù)據(jù)包括人工智能系統(tǒng)在使用過程中直接獲得的輸入數(shù)據(jù)，以及與該授權(quán)相關(guān)的使用結(jié)果和輸出。這不應(yīng)包括根據(jù)其他國家或歐盟法律合法獲取的輸入數(shù)據(jù)。在任何情況下，不得僅根據(jù)遠程生物識別系統(tǒng)的輸出結(jié)果做出對個人產(chǎn)生不利法律影響的決定。Recital24：在使用人工智能系統(tǒng)進行生物識別時涉及的生物數(shù)據(jù)和其他個人數(shù)據(jù)的任何處理，除與本條例規(guī)定的為執(zhí)法目的在公共場所使用“實時”遠程生物識別系統(tǒng)有關(guān)外，應(yīng)繼續(xù)遵守2016/680號指令第10條規(guī)定的所有要求。對于執(zhí)法以外的目的，2016/679號條例第9條第1款和2018/1725號條例第10條第1款禁止處理生物數(shù)據(jù)，但這些條款規(guī)定的有限的例外情況除外。在適用2016/679號條例第9條第1款時，遠程生物特征識別用于執(zhí)法以外的目的的已經(jīng)落入國家數(shù)據(jù)保護機關(guān)的禁止決定之下。Recital26b：應(yīng)禁止將人工智能系統(tǒng)投放市場、為這一特定目的提供服務(wù)或加以使用，這些系統(tǒng)通過從互聯(lián)網(wǎng)或閉路電視錄像中無針對性地獲取面部圖像來創(chuàng)建或擴大面部識別數(shù)據(jù)庫，因為這種實踐會增加大規(guī)模監(jiān)控的感覺，并可能導致嚴重侵犯基本權(quán)利，包括隱私權(quán)。Article3–paragraph1–point36：“遠程生物識別系統(tǒng)”系指一種人工智能系統(tǒng)，其目的是在沒有自然人主動參與的情況下，通常通過將一個人的生物數(shù)據(jù)與參考數(shù)據(jù)庫中的生物識別數(shù)據(jù)進行比較，遠距離識別自然人的身份；Article3–paragraph1–point37：“‘實時’遠程生物識別系統(tǒng)”是指一種遠程生物鑒別系統(tǒng)，在該系統(tǒng)中，生物數(shù)據(jù)的采集、比較和識別都是在沒有明顯延遲的情況下進行的。這不僅包括即時識別，還包括有限的短暫延遲，以避免規(guī)避本條例。Article5–paragraph1：(da)投放市場、提供服務(wù)或加以使用人工智能系統(tǒng)，對自然人進行風險評估，以評估或預測自然人實施刑事犯罪的風險，而這完全是基于對自然人的畫像或?qū)ζ鋫€性特征和特點的評估；這一禁令不適用于這樣的人工智能系統(tǒng)，其根據(jù)與犯罪活動直接相關(guān)的客觀且可核實的事實，支持人類對特定個人是否參與犯罪活動的評估。(db)投放市場、為此特定目的提供服務(wù)或加以使用人工智能系統(tǒng)，通過從互聯(lián)網(wǎng)或閉路電視錄像中無區(qū)別地爬取面部圖像來創(chuàng)建或擴展面部識別數(shù)據(jù)庫；(dc)投放市場、為此特定目的提供服務(wù)或加以使用人工智能系統(tǒng)，在工作場所和教育機構(gòu)領(lǐng)域推斷自然人的情緒，但出于醫(yī)療或安全原因，有意將人工智能系統(tǒng)提供服務(wù)或投放市場的情況除外；(de)投放市場、為此特定目的提供服務(wù)或加以使用生物分類系統(tǒng)，根據(jù)生物數(shù)據(jù)對自然人進行個體層面的分類，以推導或推斷其種族、政治觀點、工會成員身份、宗教或哲學信仰、性生活或性取向。這項禁令不包括根據(jù)生物數(shù)據(jù)對合法獲取的生物數(shù)據(jù)集，如圖像，進行標注或過濾，也不包括在執(zhí)法領(lǐng)域?qū)ι飻?shù)據(jù)進行分類。Article5–paragraph2:在公共場所為執(zhí)法目的使用“實時”遠程生物識別系統(tǒng)，除非這種使用相應(yīng)是為下列目標之一所嚴格必要的：(i)有針對性地搜尋特定的綁架、販賣人口和性剝削受害者，以及搜尋失蹤人員；(ii)防止對自然人的生命或人身安全構(gòu)成確切、重大切緊迫的威脅，或防止真實存在或真實可預見的恐怖襲擊威脅；《歐盟人工智能責任指令》（AILiabilityDirective）（2022.9.28）《指令》的目的是通過協(xié)調(diào)成員國的過失責任規(guī)則，以確保因人工智能系統(tǒng)對其造成的損害而要求賠償?shù)娜?，享有等同于在沒有人工智能系統(tǒng)參與的情況下而要求損害賠償?shù)谋Ｗo水平。在涉及人工智能的侵權(quán)案件中，由于人工智能系統(tǒng)不透明、自動化決策和復雜性等特征，可能會使受害者難以證明過錯、因果關(guān)系。其中跟高風險人工智能提供者有關(guān)的規(guī)則主要包括：披露相關(guān)證據(jù)的規(guī)則20、風險管理系統(tǒng)在確認技術(shù)開發(fā)者過錯方面的重要性21、針對高風險人工智能系統(tǒng)提供者提起的訴訟規(guī)定了可推定因果關(guān)系的情形22?！蛾P(guān)于通過視頻設(shè)備處理個人數(shù)據(jù)的3/2019指引》（Guidelines3/2019onprocessingofpersonaldatathroughvideodevices）（2020.1.29）GDPR區(qū)分了人臉識別數(shù)據(jù)和照片，未提及視頻監(jiān)控。但實際中視頻監(jiān)控通?？梢允占罅康母叨葌€人化甚至特殊類型的個人數(shù)據(jù)?！吨敢分荚诰腿绾瓮ㄟ^視頻設(shè)備根據(jù)GDPR處理個人數(shù)據(jù)提供指導。1.細化并補充GDPR第9條當視頻監(jiān)控系統(tǒng)用于處理特殊類型數(shù)據(jù)時，數(shù)據(jù)控制者應(yīng)該確認該行為是否符合GDPR第9條規(guī)定的豁免情形及第6條規(guī)定的合法基礎(chǔ)；但數(shù)據(jù)控制者不能依據(jù)第9(2)（e）條規(guī)定的豁免情形——涉及數(shù)據(jù)主體明示公開的個人數(shù)據(jù)，處理視頻監(jiān)控系統(tǒng)得到的20對于高風險人工智能系統(tǒng)，《人工智能法案》規(guī)定了具體的文件、信息和記錄要求，但沒有規(guī)定受傷害者有權(quán)獲得這些信息。而獲得涉嫌造成損害的特定高風險人工智能系統(tǒng)的信息，是實賠償要求的一個重要因素，因此，為確定賠償責任，應(yīng)當規(guī)定有關(guān)人員披露相關(guān)為遵守《人工智能法案》中規(guī)定的相關(guān)要求提供額外的激勵，以21在確定提供者是否遵守了本指令中提到的《人工智能法案》的相關(guān)要求時，應(yīng)考慮提供者在風險管理系統(tǒng)中采取的步驟和風險管理系統(tǒng)的結(jié)果，即決定采取或不采取某些風險管理措施。提供法案》建立的風險管理系統(tǒng)是一個持續(xù)迭代的過程，貫穿于高風險人工智能系統(tǒng)的整個據(jù)此確保遵守旨在減少風險的強制性要求，因此可以作為評估其合發(fā)的；不符合透明度的要求；不允許自然人對該系統(tǒng)有效監(jiān)督；未達到適當?shù)臏蕯?shù)據(jù)，進入攝像范圍的事實行為并不意味著數(shù)據(jù)主體有意公開與其相關(guān)的特殊類型數(shù)據(jù)。2.提出了一些降低處理生物識別信息所面臨風險的措施，包括：一是遵照數(shù)據(jù)最小化原則，確保不過多提取用于構(gòu)建生物模板的數(shù)據(jù)，并采取措施防止模板在不同生物識別系統(tǒng)之間轉(zhuǎn)移；二是必須存儲生物特征數(shù)據(jù)時，數(shù)據(jù)控制者必須考慮數(shù)據(jù)存儲的最佳位置，應(yīng)存儲在用戶單獨控制的設(shè)備上（例如智能手機或身份證）或以加密形式存儲在只有database）；三是應(yīng)采取一切必要的預防措施保持所處理數(shù)據(jù)的可用性、完整性和機密性，在傳輸和存儲過程中進行數(shù)據(jù)隔離，明確加密和密鑰管理策略，整合欺詐檢測的組織性和技術(shù)性措施，將完整性代碼與數(shù)據(jù)關(guān)聯(lián)（例如簽名或哈希并禁止任何外部訪問生物特征數(shù)據(jù)；四是對人臉識別數(shù)據(jù)等原始數(shù)據(jù)進行刪除，并確保刪除的有效性。如果數(shù)據(jù)控制者需要保存原始數(shù)據(jù)，必須探索如水印等“加性噪聲（noise-additive）”的保護方法?！度斯ぶ悄苎芯繄蟾妗ㄍ吭胶托湃蔚臍W洲路徑》(OnArtificialIntelligence-AEuropeanapproachtoexcellenceandtrust)（2022.2.19）針對使用人臉識別等高風險人工智能系統(tǒng)提出了嚴格的限制，如訓練人工智能的數(shù)據(jù)應(yīng)符合要求、保留部分記錄和數(shù)據(jù)、告知使用者相關(guān)信息、確保技術(shù)魯棒性、接受人工監(jiān)控、投入使用前應(yīng)接受事前合規(guī)審查?！蛾P(guān)于人臉識別的指南》（GuidelinesonFacialRecognition）（2021.1.28）1.《指南》對人臉識別技術(shù)的開發(fā)商、制造商和服務(wù)提供商的指引主要包括確保人臉識別技術(shù)準確性和數(shù)據(jù)保護兩個方面：(1)技術(shù)要求，以減少偏差、確保人臉識別技術(shù)的準確性。確保所用數(shù)據(jù)的代表性、定期更新數(shù)據(jù)以訓練改進所使用的算法、確保算法的有效性，具體操作措施如算法必須使用合成數(shù)據(jù)集來開發(fā)、記錄、檢測可靠性百分比記錄等。(2)數(shù)據(jù)保護方面的義務(wù)。在內(nèi)部：在人臉識別產(chǎn)品的設(shè)計和架構(gòu)要納入數(shù)據(jù)保護相關(guān)的原則、規(guī)則，也要把數(shù)據(jù)保護方法納入組織工作中，如指定專門的工作人員，為員工提供隱私培訓，以及進行數(shù)據(jù)保護影響評估。在外部：幫助使用技術(shù)的實體提升透明度并尊重隱私如為他們的隱私政策提供示例語言，或推薦清晰、易懂的標記表明人臉識別技術(shù)已部署在特定空間中。2.《指南》主要圍繞數(shù)據(jù)保護對人臉識別應(yīng)用者（使用人臉識別技術(shù)的實體）提出要求。(1)正面明確指出人臉識別技術(shù)的使用只能在受控環(huán)境中進行驗證、認證或分類目的，還列舉情緒識別等禁止性目的；(2)《指南》還要求實體確保人臉識別技術(shù)使用的公平性、透明性和準確性，以及遵守目的限制、數(shù)據(jù)最小化以及存儲時間的原則；23(3)細化了數(shù)據(jù)保護影響評估的規(guī)定；24(4)在組織措施方面，《指南》也給了實體指引，如發(fā)布關(guān)于特定使用人臉識別技術(shù)的透明性報告、成立內(nèi)部審查委員會，以評估和批準任何涉及人臉識別數(shù)據(jù)的處理等。3.《指南》還指出如果使用人臉識別技術(shù)時，完全根據(jù)人臉識別技術(shù)的結(jié)果做決定，則可被視為自動化決策，也需遵守法律對自動化決策的要場的面部識別：有哪些挑戰(zhàn)和需要遵循的主要原則》報告（2019.11）CNIL并沒有對人臉識別技術(shù)持否定態(tài)度，而是認為在適用該技術(shù)時不僅要考慮到保護公民的隱私權(quán)以及個人數(shù)據(jù)權(quán)，還要激發(fā)公民對已經(jīng)實施技術(shù)的信任。報告指出有關(guān)機場面部識別必須遵守的主要原則：1.說明擬采取的面部識別系統(tǒng)的必要性和相稱性、征得乘客事前同意以及保障同意有效的技術(shù)和組織措施；2.必須將生物識別數(shù)據(jù)完全置于有關(guān)乘客的控制之下；3.必須進行數(shù)據(jù)保護影響評估（DPA）?！秷?zhí)法領(lǐng)域面部識別技術(shù)指南》（Guidelines05/2022ontheuseoffacialrecognitiontechnologyintheareaoflawenforcement）（2023.4）通過了其在執(zhí)法領(lǐng)域的面部識別技術(shù)準則的最終版本。該準則為歐盟和國家立法機關(guān)以及執(zhí)法部門提供了實施和使用面部識別技術(shù)的系統(tǒng)指導。該準則強調(diào)，面部識別工具的使用應(yīng)嚴格遵守執(zhí)法指令（LED）。此外，正如《基本權(quán)利憲章》所規(guī)定的那樣，只有在必要和相稱的情況下才能使用這種工具。在指導方針中，EDPB再次呼吁禁止在某些情況下使用面部識別技術(shù)，這是它在EDPB-EDPS關(guān)于人工智能法提案的聯(lián)合意23《指南》明確對使用目的和使用環(huán)境做出限制，即人臉識別技術(shù)的使用只能在受控環(huán)境中進行驗證、人步延伸提出處理者提供使用人臉識別技術(shù)的替代方案、不能當然處理詳細給出告知數(shù)據(jù)主體的內(nèi)容；數(shù)據(jù)存儲方面，《指南》要求處理者確保不同的存儲24包括內(nèi)容（使用人臉識別技術(shù)，評估）、評估主體、評估出風險的處理規(guī)則、見中提出的要求。在公開征求意見后，對準則進行了更新，并增加了進一步的澄清意見。對于執(zhí)法背景下的個人數(shù)據(jù)保護，必須滿足LED的要求。關(guān)于FRT的使用，LED規(guī)定了一定的框架，特別是LED第3(13)條（術(shù)語生物識別數(shù)據(jù)第4條（與個人數(shù)據(jù)處理有關(guān)的原則）第8條（處理的合法性），第10條（特殊類別個人數(shù)據(jù)的處理）和LED第11條（自動個人決策）。1.對特殊類別數(shù)據(jù)的處理，如生物識別數(shù)據(jù)，只能被視為“絕對必要”（第10條LED）。2.在使用FRT之前進行數(shù)據(jù)保護影響評估(DPIA)是一項強制性要求，參見LED第27條。3.部署FRT的當局應(yīng)在部署該系統(tǒng)之前咨詢主管監(jiān)督機構(gòu)。4.鑒于生物識別數(shù)據(jù)的獨特性質(zhì)，實施和/或使用FRT的當局應(yīng)根據(jù)LED第29條，特別注意處理的安全性。5.記錄（參見LED第25條）是核實處理的合法性的重要保障，包括內(nèi)部（即相關(guān)控制人/處理人的自我監(jiān)督）和外部監(jiān)督機構(gòu)。在面部識別系統(tǒng)方面，建議對參考數(shù)據(jù)庫的變化和識別或驗證嘗試進行記錄，包括用戶、結(jié)果和信心分數(shù)。6.呼吁禁止某些類型的處理1）在公共場所對個人進行遠程生物識別2）人工智能支持的面部識別系統(tǒng)，根據(jù)個人的生物特征，按照種族、性別、政治或性取向或其他歧視理由，將其歸類；(3)使用面部識別或類似技術(shù)來推斷自然人的情緒，以及（4）在執(zhí)法背景下處理個人數(shù)據(jù)，這將依賴于通過大規(guī)模和不加區(qū)分地收集個人數(shù)據(jù)而填充的數(shù)據(jù)庫，例如通過搜刮的方式。例如，通過刮取網(wǎng)上可獲得的照片和面部圖片。ISO/IECWD9868《遠程生物識別系統(tǒng)——設(shè)計、開發(fā)和審核》（標準）該標準為遠程生物特征識別系統(tǒng)提供了建議中的相關(guān)規(guī)定，如系統(tǒng)部署后測試的要求等。（二）歐盟人臉識別治理的典型案例1.案例一：收集人臉信息應(yīng)符合最小必要性原則2019年8月瑞典數(shù)據(jù)保護機構(gòu)對Anderstorps中學做出20萬瑞典克朗的罰款25，因其在學校教室里面安裝人臉識別設(shè)備進行學生考勤。在該案中，瑞典數(shù)據(jù)保護機構(gòu)認為，學校采用人臉識別技術(shù)收集、處理學生面部特征信息的行為違反了GDPR第五條規(guī)定的“數(shù)據(jù)處理最小必要性原則”和第六條規(guī)定的“數(shù)據(jù)處理合法依據(jù)”，具體體現(xiàn)在兩個方面：一是該中學收集、處理學生面部特征信息所取得的同意并非學生及其家長自由作出的。因為學生要在學校接受教育，學校與學生及其監(jiān)護人處于明顯不平等的地位，在此情況下學校征得的同意違背了GDPR第七條規(guī)定的“同意須為自由作出（freelygiven）”這一要求。二是該中學收集的信息類別不符合最小必要性原則。為實現(xiàn)考勤這一目的，學校本可以采取其他更為保護學生個人信息的方式進行，且學校所收集的學生面部特征信息并不是GDPR第五條第一款要求的“為了實現(xiàn)數(shù)據(jù)處理目的而適當?shù)?、相關(guān)的和必要的”，因而該學校違反了GDPR所要求的最小必要性原則。2.案例二：處理公開的人臉信息應(yīng)獲得同意法國的數(shù)據(jù)保護機構(gòu)——國家信息與自由委員會（CNIL）ClearviewAI從許多網(wǎng)站包括社交媒體上收集照片。它25參見瑞典數(shù)據(jù)監(jiān)管機構(gòu)于2019年8月20日對涉事高中作出的處罰決定書，“TillsynenligtEU:sdataskyddsf?rordning2016/679ansiktsigenk?nningf?rn?rvarokontrollavelever”https://www.datainspekt