歐盟《人工智能法案》

11.本條例旨在改善歐盟內(nèi)部市場的運作，促進(jìn)以人為中心、值得信賴的人工智能的應(yīng)用，同時確保對《歐盟基本權(quán)利憲章》規(guī)定的包括民主、法治和環(huán)境保護(hù)在內(nèi)的健康、安全、基本權(quán)利的高水平保護(hù)，使其免受歐盟內(nèi)的人工智能系統(tǒng)的有害影響，并支持創(chuàng)新。2.本條例規(guī)定了：(a)在歐盟市場上投放、投入服務(wù)和使用人工智能系統(tǒng)的統(tǒng)一規(guī)則；(b)對特定人工智能實踐的禁止；(c)對高風(fēng)險人工智能系統(tǒng)的具體要求以及此類系統(tǒng)運營者的義務(wù)；(d)特定人工智能系統(tǒng)的統(tǒng)一透明度規(guī)則；(e)通用人工智能模型投放市場的統(tǒng)一規(guī)則；(f)市場監(jiān)測、市場監(jiān)督、治理和執(zhí)法的規(guī)則；(g)支持創(chuàng)新的措施，特別是中小型企業(yè)（包括初創(chuàng)企業(yè)）。21.本條例適用于：(a)在歐盟境內(nèi)將投人工智能系統(tǒng)投放市場或投入服務(wù)，或?qū)⑼ㄓ萌斯ぶ悄苣Ｐ屯斗攀袌龅奶峁┱?，無論這些提供者是設(shè)立于，還是位于歐盟境內(nèi)或者第三國；(b)在歐盟境內(nèi)設(shè)立經(jīng)營場所或位于歐盟境內(nèi)的人工智能系統(tǒng)部署者；(c)在第三國設(shè)立經(jīng)營場所或位于第三國的人工智能系統(tǒng)提供者和部署者，但其人工智能系統(tǒng)產(chǎn)生的輸出在歐盟使用；(d)人工智能系統(tǒng)的進(jìn)口商和分銷商；(e)以自己的名稱或商標(biāo)將人工智能系統(tǒng)與其產(chǎn)品一起投放市場或投入服務(wù)的產(chǎn)品制造商；(f)在歐盟境外設(shè)立的提供者的授權(quán)代表；(g)位于歐盟境內(nèi)的受影響者。2.對于根據(jù)第6條第1段被列為高風(fēng)險人工智能系統(tǒng)且涉及附錄一中B節(jié)所列歐盟統(tǒng)一立法涵蓋的產(chǎn)品有關(guān)的人工智能系統(tǒng)，僅適用本條例第6條第1段、第102至109條和第112條。第57條僅在本條例對高風(fēng)險人工智能系統(tǒng)的要求已納入歐盟統(tǒng)一立法的情況下適用。3.本條例不適用于歐盟法律范圍之外的領(lǐng)域，并且在任何情況下均不得影響成員國在國家安全方面的權(quán)限，無論成員國委托何種實體執(zhí)行與這些權(quán)限相關(guān)的任務(wù)。本條例不適用于專門為軍事、國防或國家安全目的而投放市場、投入服務(wù)或使用的人工智能系統(tǒng)，無論是否經(jīng)過修改，無論從事這些活動的實體屬于何種類型。本條例不適用于未在歐盟市場上投放或投入服務(wù)的人工智能系統(tǒng)，如果其輸出在歐盟內(nèi)僅用于軍事、防御或國家安全目的，無論從事這些活動的實體屬于何種類型。4.本條例不適用于第三國公共機構(gòu)，也不適用于根據(jù)第1段屬于本條例范圍內(nèi)的國際組織，如果這些機構(gòu)或組織在與歐盟或一個或多個成員國進(jìn)行執(zhí)法和司法合作的國際合作或協(xié)議框架內(nèi)使用人工智能系統(tǒng)，但前提是該第三國或國際組織在保護(hù)基本權(quán)利和個人自由方面提供了充分的保障。5.本條例不影響(EU)2022/2065條例（《數(shù)字服務(wù)法》）第二章中關(guān)于中介服務(wù)提供者責(zé)任的條款的適用。6.本條例不適用于專為科學(xué)研究和發(fā)展目的而開發(fā)和投入服務(wù)的人工智能系統(tǒng)或人工智能模型，包括其輸出。7.關(guān)于個人數(shù)據(jù)保護(hù)、隱私和通信保密的歐盟法律適用于與本條例規(guī)定的權(quán)利和義務(wù)相關(guān)的被處理的個人數(shù)據(jù)。在不影響本條例第10條第5段和第59條適用的前提下，本條例不得影響2016/679條例（GDPR）或2018/1725條例或2002/58/EC指令或2016/680/EU指令的適用。8.本條例不適用于在市場上投放或投用之前對人工智能系統(tǒng)或人工智能模型進(jìn)行的任何研究、測試或開發(fā)活動。這類活動的開展應(yīng)遵守適用的歐盟法律。在真實世界條件下進(jìn)行的測試不在此豁免范圍內(nèi)。39.本條例不妨礙與消費者保護(hù)和產(chǎn)品安全相關(guān)的其他歐盟法案的規(guī)定。10.本條例不適用于在純粹個人非職業(yè)活動中使用人工智能系統(tǒng)的自然人部署者的義務(wù)。11.本條例不妨礙歐盟或成員國保留或引入在涉及到雇主使用人工智能系統(tǒng)的保護(hù)工人權(quán)利方面對工人更有利的法律、法規(guī)或行政規(guī)定，或鼓勵或允許適用更有利于工人的集體協(xié)議。12.本條例不適用于根據(jù)免費且開源許可發(fā)布的人工智能系統(tǒng)，除非這些系統(tǒng)作為高風(fēng)險人工智能系統(tǒng)或?qū)儆诘?條或第50條的人工智能系統(tǒng)投放市場或投入服務(wù)。從本條例目的出發(fā)，適用以下定義：（1）“人工智能系統(tǒng)”是指設(shè)計用于以不同程度的自主性運行，并可能在部署后表現(xiàn)出適應(yīng)性的機器系統(tǒng)，且為了明確或隱含的目標(biāo)，根據(jù)其接收的輸入中推斷如何生成可以影響物理或虛擬環(huán)境的輸出，如預(yù)測、內(nèi)容、建議或決策；（2）“風(fēng)險”是指損害發(fā)生的可能性和損害的嚴(yán)重程度的結(jié)合；（3）“提供者”是指開發(fā)人工智能系統(tǒng)或通用人工智能模型，或擁有已開發(fā)人工智能系統(tǒng)或通用人工智能模型，并將其投放市場或以自己的名義或商標(biāo)投入服務(wù)的自然人或法人、公共機關(guān)、機構(gòu)或其他組織，無論是收費還是免費；（4）“部署者”是指在其權(quán)限下使用人工智能系統(tǒng)的自然人或法人、公共機關(guān)、機構(gòu)或其他組織，但將人工智能系統(tǒng)用于個人非職業(yè)活動的除外；（5）“授權(quán)代表”是指位于或設(shè)立在歐盟的自然人或法人，已接收并接受來自人工智能系統(tǒng)或通用人工智能模型提供者的書面授權(quán)書，分別代表其履行和執(zhí)行本條例規(guī)定的義務(wù)和程序；（6）“進(jìn)口商”是指位于歐盟或在歐盟境內(nèi)設(shè)立或位于歐盟的自然人或法人，在市場上投放帶有第三國自然人或法人的名稱或商標(biāo)的人工智能系統(tǒng)；（7）“分銷商”是指供應(yīng)鏈中除提供者或進(jìn)口商外，在歐盟市場中提供人工智能系統(tǒng)的自然人或法人；（8）“運營者”是指提供者、產(chǎn)品制造商、部署者、授權(quán)代表、進(jìn)口商或分銷商；（9）“投放市場”是指在歐盟市場上首次提供人工智能系統(tǒng)或通用人工智能模型；（10）“在市場上提供”是指在商業(yè)活動中提供人工智能系統(tǒng)或通用人工智能模型，供在歐盟市場上銷售或使用，無論是付費的還是收費的；（11）“投入服務(wù)”是指將人工智能系統(tǒng)直接提供給部署者首次使用，或供其在歐盟內(nèi)按照預(yù)期目的自用；（12）“預(yù)期目的”是指提供者擬用于人工智能系統(tǒng)的用途，包括提供者在使用說明、宣傳或銷售材料和聲明以及技術(shù)文檔中提供的信息中規(guī)定的特定場景和使用條件；（13）“合理可預(yù)見的誤用”是指不符合其預(yù)期用途的人工智能系統(tǒng)的使用，但可能由合理可預(yù)見的人類行為或與其他系統(tǒng)（包括其他人工智能系統(tǒng)）的互動引起；（14）“安全組件”是指產(chǎn)品或人工智能系統(tǒng)的組成部分，履行產(chǎn)品或人工智能系統(tǒng)的安全功能，或其故障或失靈會危及健康和人身或財產(chǎn)安全；（15）“使用說明”是指提供者特別為告知部署者人工智能系統(tǒng)的預(yù)期目的和正確使用而提供4的信息；（16）“人工智能系統(tǒng)的召回”是指任何旨在把提供給部署者的人工智能系統(tǒng)返還給提供者，或使其停止服務(wù)，或禁止其使用的措施。（17）“人工智能系統(tǒng)的撤回”是指任何旨在防止在供應(yīng)鏈系統(tǒng)中在市場上提供人工智能系統(tǒng)的措施；（18）“人工智能系統(tǒng)的性能”是指人工智能系統(tǒng)實現(xiàn)其預(yù)期用途的能力；（19）“通知機關(guān)”是指負(fù)責(zé)設(shè)立和執(zhí)行必要程序以評估、指定和通知合格評估機構(gòu)并進(jìn)行監(jiān)督的各成員國的國家機關(guān)；（20）“合格性評估”是指證明高風(fēng)險人工智能系統(tǒng)符合本條例第三章第二節(jié)規(guī)定的要求的過程；（21）“合格性評估機構(gòu)”是指執(zhí)行第三方合格評估活動的機構(gòu)，包括測試、認(rèn)證和檢驗；（22）“被通知機構(gòu)”是指根據(jù)本條例和其他相關(guān)歐盟統(tǒng)一立法被通知的合格性評估機構(gòu)；（23）“實質(zhì)性修改”是指人工智能系統(tǒng)在投放市場或投入服務(wù)后發(fā)生的修改，這種修改在提供者最初的合格性評估中沒有預(yù)見到或沒有計劃，并因此影響人工智能系統(tǒng)對本條例第三章第二節(jié)規(guī)定要求的合規(guī)性，或?qū)е氯斯ぶ悄芟到y(tǒng)被評估的預(yù)期目的發(fā)生修改；（24）“CE合格性標(biāo)志”是指提供者表明人工智能系統(tǒng)符合第三章第二節(jié)中規(guī)定的要求以及其他適用的歐盟統(tǒng)一立法規(guī)定的要求的標(biāo)志；（25）“后市場監(jiān)測系統(tǒng)”是指提供者為收集和審查其投放市場或投入服務(wù)的人工智能系統(tǒng)使用經(jīng)驗以確定是否需要立即采取必要的糾正或預(yù)防措施而進(jìn)行的所有活動；（26）“市場監(jiān)督管理機關(guān)”是指根據(jù)(EU)2019/1020條例開展活動和采取措施的國家機關(guān)；（27）“統(tǒng)一標(biāo)準(zhǔn)”是指根據(jù)歐盟1025/2012號條例第2條第1段(c)項定義的統(tǒng)一標(biāo)準(zhǔn)；（28）“共同規(guī)格”是指1025/2012號條例第2條第4段定義的一套技術(shù)規(guī)格，該規(guī)格提供了遵守本條例規(guī)定的特定要求的方法；（29）“訓(xùn)練數(shù)據(jù)”指的是用于通過擬合可學(xué)習(xí)參數(shù)來訓(xùn)練人工智能系統(tǒng)的數(shù)據(jù)。；（30）“驗證數(shù)據(jù)”是指用于評估訓(xùn)練后的人工智能系統(tǒng),并調(diào)整其不可學(xué)習(xí)參數(shù)和學(xué)習(xí)過程,以防止欠擬合或過擬合的數(shù)據(jù)；（31）“驗證數(shù)據(jù)集”是指單獨的數(shù)據(jù)集或訓(xùn)練數(shù)據(jù)集的一部分，無論是以固定還是可變方式劃分；（32）“測試數(shù)據(jù)”是指用于在人工智能系統(tǒng)投放市場或投入服務(wù)前進(jìn)行獨立評估以確認(rèn)其預(yù)期性能的數(shù)據(jù)；（33）“輸入數(shù)據(jù)”是指提供給人工智能系統(tǒng)或由其直接獲取的、基于這些數(shù)據(jù)系統(tǒng)產(chǎn)生輸出的數(shù)據(jù)；（34）“生物識別數(shù)據(jù)”是指經(jīng)過特定技術(shù)處理的個人數(shù)據(jù)，涉及自然人的物理、生理或行為特征，例如面部圖像或指紋數(shù)據(jù)；（35）“生物識別”是指為了確定自然人身份，將個人的生物識別數(shù)據(jù)與存儲在數(shù)據(jù)庫中的個人的生物識別數(shù)據(jù)進(jìn)行比較，而自動識別人類的生理、生理、行為或心理特征；（36）“生物識別驗證”是指通過將自然人提供的生物識別數(shù)據(jù)與之前提供的生物識別數(shù)據(jù)進(jìn)行對比的自動化一對一驗證過程,包括身份驗證；（37）“特殊類別的個人數(shù)據(jù)”是指(EU)2016/679條例第9條第1段、(EU)2016/680指令第10條和(EU)2018/1725號條例第10條第1段中提到的個人數(shù)據(jù)類別；（38）“敏感業(yè)務(wù)數(shù)據(jù)”是指涉及預(yù)防、偵查、調(diào)查或起訴刑事犯罪活動有關(guān)的業(yè)務(wù)數(shù)據(jù)，其披露可能危及刑事訴訟程序的完整性；（39）“情感識別系統(tǒng)”是指旨在基于自然人的生物識別數(shù)據(jù)識別或推斷其情緒或意圖的人工智能系統(tǒng)；5（40）“生物識別分類系統(tǒng)”是指為了基于自然人的生物識別數(shù)據(jù)將其分配到特定類別的人工智能系統(tǒng)，除非其作為其他商業(yè)服務(wù)的輔助，而且完全出于客觀技術(shù)原因具有必要性；（41）“遠(yuǎn)程生物識別系統(tǒng)”是指通過將個人的生物識別數(shù)據(jù)與參考數(shù)據(jù)庫中的生物識別數(shù)據(jù)進(jìn)行比對，通常在遠(yuǎn)距離自動識別自然人、且不需要其主動參與的人工智能系統(tǒng)；（42）“實時遠(yuǎn)程生物識別系統(tǒng)”是指生物識別數(shù)據(jù)的采集、比較和識別均沒有明顯延遲的遠(yuǎn)程生物識別系統(tǒng)，不僅包括即時識別，還包括為了規(guī)避的有限短暫延遲；（43）“后遠(yuǎn)程生物識別系統(tǒng)”是指非實時遠(yuǎn)程生物識別系統(tǒng)的遠(yuǎn)程生物識別系統(tǒng)；（44）“公眾可進(jìn)入的場所”是指無論是否附加某些訪問條件，無論潛在容量限制，均可供不特定人數(shù)的自然人訪問的任何公開或私人擁有的物理場所；（45）“執(zhí)法機關(guān)”是指：(a)有權(quán)預(yù)防、調(diào)查、偵查或起訴刑事犯罪或執(zhí)行刑罰的任何公共機關(guān)，包括防范和預(yù)防對公共安全的威脅；或(b)根據(jù)成員國法律賦予公共權(quán)威和公共權(quán)力的任何其他機構(gòu)或?qū)嶓w，旨在預(yù)防、調(diào)查、偵查或起訴刑事犯罪或執(zhí)行刑罰，包括防范和預(yù)防對公共安全的威脅；（46）“執(zhí)法”是指由執(zhí)法機關(guān)或代表其進(jìn)行的預(yù)防、調(diào)查、偵查或起訴刑事犯罪或執(zhí)行刑罰的活動，包括防范和預(yù)防對公共安全的威脅；（47）“人工智能辦公室”是指歐盟委員會負(fù)責(zé)實施、監(jiān)測和監(jiān)督人工智能系統(tǒng)和通用人工智能模型及人工智能治理的職能，依據(jù)2024年1月24日的歐盟委員會決定建立的職能；本條例中提到的人工智能辦公室應(yīng)解釋為指歐盟委員會；（48）“成員國主管機關(guān)”是指通知機關(guān)或市場監(jiān)督管理機關(guān)；對于歐盟機關(guān)、機構(gòu)、辦事處和其他實體投入服務(wù)或使用的人工智能系統(tǒng)，本條例所指的成員國主管機關(guān)或市場監(jiān)督管理機關(guān)應(yīng)解釋為指歐洲數(shù)據(jù)保護(hù)監(jiān)管機構(gòu)；（49）“嚴(yán)重事故”是指人工智能系統(tǒng)的事故或故障，直接或間接導(dǎo)致以下任何后果：(a)致人死亡或?qū)€人健康的嚴(yán)重傷害；(b)對關(guān)鍵基礎(chǔ)設(shè)施管理或操作造成的嚴(yán)重和不可逆轉(zhuǎn)的破壞；(c)違反旨在保護(hù)基本權(quán)利的歐盟法律規(guī)定的義務(wù)；(d)對財產(chǎn)或環(huán)境的嚴(yán)重?fù)p害；（50）“個人數(shù)據(jù)”是指2016/679條例第4條第1段定義的個人數(shù)據(jù)；（51）“非個人數(shù)據(jù)”是指2016/679條例第4條第1段定義的個人數(shù)據(jù)以外的數(shù)據(jù)；（52）“用戶畫像”是指(EU)2016/679條例第4條第4段定義的用戶畫像；（53）“真實世界測試計劃”是指描述在真實世界條件下進(jìn)行測試的目標(biāo)、方法、地理范圍、人口和時間范圍、監(jiān)測、組織和實施的文件；（54）“沙盒計劃”是指參與提供者與主管機關(guān)之間達(dá)成的協(xié)議，描述在沙盒內(nèi)進(jìn)行活動的目標(biāo)、條件、時間框架、方法和要求；（55）“人工智能監(jiān)管沙盒”是指由主管機關(guān)設(shè)立的受控框架，該框架為人工智能系統(tǒng)的提供者或潛在提供者提供了合適現(xiàn)實條件下根據(jù)沙盒計劃的規(guī)定，在有限時間內(nèi)在監(jiān)管監(jiān)督下，開發(fā)、訓(xùn)練、驗證和測試創(chuàng)新人工智能系統(tǒng)的可能性；（56）“人工智能素養(yǎng)”是指提供者、部署者和受影響人員具備的技能、知識和理解，使他們能夠在本條例的背景下根據(jù)其各自的權(quán)利和義務(wù)，做出知情的人工智能系統(tǒng)部署決策，并了解人工智能的機會、風(fēng)險以及可能造成的危害；（57）“真實世界條件下的測試”是指在實驗室或其他模擬環(huán)境之外，臨時測試人工智能系統(tǒng)在真實世界條件下的預(yù)期用途，以收集可靠和穩(wěn)健的數(shù)據(jù)，并評估和驗證人工智能系統(tǒng)是否符合本條例的要求，并且在滿足本條例第57條或第60條規(guī)定的所有條件的前提下，不視為在市場上投放或投入使用人工智能系統(tǒng)；6（58）“測試主體”在真實世界測試中是指參與真實世界條件下測試的自然人；（59）“知情同意”是指受試者在了解所有與其參與決策相關(guān)的測試方面信息后，自由作出地、特地、清晰和自愿地表示愿意參與特定真實世界條件下測試的表達(dá)；（60）“深度偽造”是指人工智能生成或操縱的圖像、音頻或視頻內(nèi)容，類似于現(xiàn)有的人物、物體、地點、實體或事件，并且會使人錯誤地認(rèn)為其是真的或真實的；（61）“廣泛侵權(quán)”是指違反保護(hù)個人利益的歐盟法律的任何行為或不作為，包括：(a)造成或可能造成至少兩個成員國居民的集體利益受損，除了以下情況：(i)該行為或不作為源自成員國或發(fā)生在成員國；(ii)涉及的提供者或其授權(quán)代表處于或設(shè)立于成員國；或(iii)當(dāng)侵權(quán)行為由部署者實施時，部署者是在成員國設(shè)立；(b)已經(jīng)造成、正在造成或可能造成個人集體利益受損，并且具有共同特征，包括相同的違法行為或相同的受侵害利益，并且由同一運營者實施，至少在三個成員國同時發(fā)生；（62）“關(guān)鍵基礎(chǔ)設(shè)施”是指(EU)2022/2557指令第2條第4段定義的關(guān)鍵基礎(chǔ)設(shè)施；（63）“通用人工智能模型”是指包括使用大量數(shù)據(jù)進(jìn)行大規(guī)模自我監(jiān)督訓(xùn)練的人工智能模型，無論該模型如何投放市場，都具有顯著的普遍性和能夠勝任各種不同的任務(wù)，并且可以集成到各種下游系統(tǒng)或應(yīng)用中；除了在投放市場前用于研究、開發(fā)和原型設(shè)計活動的人工智能模型;（64）“高影響能力”是指匹配或超過最先進(jìn)的通用人工智能模型中所記錄能力的能力；（65）“系統(tǒng)性風(fēng)險”是指通用人工智能模型的高影響能力所特有的風(fēng)險，這類風(fēng)險由于其覆蓋范圍對歐盟市場產(chǎn)生重大影響，或者由于對公共健康、安全、公共安全、基本權(quán)利或整個社會產(chǎn)生實際或合理可預(yù)見的負(fù)面影響，可以在整個價值鏈中大規(guī)模傳播;（66）“通用人工智能系統(tǒng)”是指基于通用人工智能模型的人工智能系統(tǒng)，該系統(tǒng)可以服務(wù)于多種目的，即可以直接使用，也可以集成到其他人工智能系統(tǒng)中；（67）“浮點運算”是指涉及浮點數(shù)的任何數(shù)學(xué)運算或賦值，浮點數(shù)是計算機上表示的實數(shù)子集，通常由固定精度的整數(shù)與固定基數(shù)的整數(shù)指數(shù)表示；（68）“下游提供者”是指人工智能系統(tǒng)的提供者，包括集成人工智能模型的通用人工智能系統(tǒng)，無論該人工智能模型是由自身提供并進(jìn)行垂直整合，還是基于合同關(guān)系由其他實體提供。人工智能系統(tǒng)的提供者和部署者應(yīng)采取措施，考慮其技術(shù)知識、經(jīng)驗、教育和培訓(xùn)以及人工智能系統(tǒng)的使用環(huán)境，并考慮人工智能系統(tǒng)將用于哪些人或群體，盡其最大努力確保其工作人員和代表其處理人工智能系統(tǒng)操作和使用的其他人員具有足夠的人工智能素養(yǎng)。71.下列人工智能實踐應(yīng)被禁止：(a)投放市場、投入服務(wù)或加以使用此類人工智能系統(tǒng)，即采用超出個人意識的潛意識技術(shù)或有目的的操縱或欺騙技術(shù)，其目的或效果是通過明顯損害一個人或一群人做出知情決定的能力，實質(zhì)性地扭曲該人或一群人的行為，從而導(dǎo)致該人做出其本來不會做出的決定，造成或可能造成對該人、另一人或一群人的重大傷害；(b)投放市場、投入服務(wù)或加以使用此類人工智能系統(tǒng)，即利用自然人或特定群體因其年齡、殘障或特定社會或經(jīng)濟狀況而具有的任何弱點，以實質(zhì)性扭曲該人或?qū)儆谠撊后w的人的行為，造成或有合理可能造成該人或他人重大傷害為目的或效果；(c)將此類人工智能系統(tǒng)投放市場、投入服務(wù)或加以使用，即根據(jù)自然人或群體的社會行為或已知、推斷或預(yù)測的個人或個性特征，在一定時期內(nèi)對其進(jìn)行評估或分類產(chǎn)生社會評分，導(dǎo)致以下任何一種或兩種情況：(i)對特定自然人或群體產(chǎn)生有害或不利待遇，而這種待遇的社會場景與最初生成或收集數(shù)據(jù)的場景無關(guān)；(ii)對特定自然人或群體產(chǎn)生有害或不利待遇，而這種待遇是不合理的，或與其社會行為或其嚴(yán)重性不成比例的；(d)投放市場、為了此類特定目的投入服務(wù)，或者使用此類人工智能系統(tǒng)，即對自然人進(jìn)行風(fēng)險評估，以評估或預(yù)測自然人實施刑事犯罪的風(fēng)險，而這完全是基于對自然人的用戶畫像或?qū)ζ鋫€性特征和特點的評估；這一禁令不適用于用于支持人類評估某人參與犯罪活動的人工智能系統(tǒng)，如果某人已經(jīng)具備與犯罪活動直接相關(guān)的客觀和可驗證的事實;(e)投放市場、為了此類特定目的投入服務(wù)，或者使用此類人工智能系統(tǒng)，即通過從互聯(lián)網(wǎng)或閉路電視錄像中無區(qū)別地爬取面部圖像來創(chuàng)建或擴展面部識別數(shù)據(jù)庫；(f)投放市場、為了此類特定目的投入服務(wù)，或者使用此類人工智能系統(tǒng)，即在工作場所和教育機構(gòu)領(lǐng)域推斷自然人的情緒，但出于醫(yī)療或安全原因?qū)⑷斯ぶ悄芟到y(tǒng)投入服務(wù)或投放市場的情況除外；(g)投放市場、為了此類特定目的投入服務(wù)，或者加以使用生物分類系統(tǒng)，根據(jù)生物識別數(shù)據(jù)對自然人進(jìn)行個體層面的分類，以推導(dǎo)或推斷其種族、政治觀點、工會成員身份、宗教或哲學(xué)信仰、性生活或性取向。這項禁令不包括根據(jù)生物識別數(shù)據(jù)或在執(zhí)法領(lǐng)域?qū)ι锷当茢?shù)據(jù)分類而對合法獲取的生物識別數(shù)據(jù)集，如圖像，進(jìn)行標(biāo)注或過濾。(h)在公眾可進(jìn)入的場所為執(zhí)法目的使用“實時”遠(yuǎn)程生物識別系統(tǒng)，除非這種使用相應(yīng)是為下列目標(biāo)之一所嚴(yán)格必要的：(i)有針對性地搜尋特定的綁架、販賣人口和性剝削受害者，以及搜尋失蹤人員；(ii)防止對自然人的生命或人身安全構(gòu)成確切、重大切緊迫的威脅，或防止真實存在或真實可預(yù)見的恐怖襲擊威脅；(iii)為了對附件二所述罪行進(jìn)行刑事調(diào)查、起訴或執(zhí)行刑事處罰，對涉嫌犯有刑事罪行的人進(jìn)行定位或身份識別，而這些罪行在相關(guān)成員國可被判處最長刑期最長不少于四年的8監(jiān)禁或拘留令。本段第(h)項不影響(EU)2016/679條例第9條關(guān)于非執(zhí)法目的生物識別數(shù)據(jù)處理的規(guī)定。2.根據(jù)第1段第1分段第(h)項的任何目標(biāo)，而在公眾可進(jìn)入的場所為執(zhí)法目的使用“實時”遠(yuǎn)程生物識別系統(tǒng)，只能用于該項所述的目的，以確認(rèn)具體目標(biāo)個人的身份，并應(yīng)考慮以下因素：(a)導(dǎo)致可能使用該系統(tǒng)的情況的性質(zhì)，特別是在不使用該系統(tǒng)的情況下所造成的損害的嚴(yán)重性、可能性和規(guī)模；(b)使用該系統(tǒng)對所有有關(guān)的人的權(quán)利和自由造成的后果，特別是這些后果的嚴(yán)重性、可能性和規(guī)模。此外，為實現(xiàn)本條第1段第1分段第(h)項所述的任何目標(biāo)而在公眾可進(jìn)入的場所使用“實時”遠(yuǎn)程生物識別系統(tǒng)進(jìn)行執(zhí)法時，應(yīng)根據(jù)授權(quán)使用該系統(tǒng)的國家法律，遵守與使用有關(guān)的必要且成比例的保障措施和條件，特別是在時間、地理和個人限制方面。只有在執(zhí)法機關(guān)完成了第27條規(guī)定的基本權(quán)利影響評估，并根據(jù)第49條的規(guī)定在歐盟數(shù)據(jù)庫中登記了該系統(tǒng)后，才可授權(quán)在公眾可進(jìn)入的場所使用“實時”遠(yuǎn)程生物識別系統(tǒng)。不過，在有正當(dāng)理由的緊急情況下，可以不經(jīng)登記就開始使用該系統(tǒng)，但登記工作必須在沒有無故拖延的情況下完成。3.根據(jù)第1段第1分段第(h)項和第2段，每次在公眾可進(jìn)入的場所為執(zhí)法目的使用“實時”遠(yuǎn)程生物識別系統(tǒng)時，應(yīng)當(dāng)事先得到使用該系統(tǒng)的成員國司法機關(guān)或獨立行政機關(guān)的授權(quán)，該機關(guān)的決定對使用該系統(tǒng)的成員國具有約束力，并根據(jù)第5段的國家法律提出理由請求。然而，在緊急情況下，可以在沒有授權(quán)的情況下開始使用此類系統(tǒng)，但應(yīng)在不超過24小時內(nèi)請求授權(quán)。如果授權(quán)被拒絕，應(yīng)立即停止使用，并立即丟棄和刪除所有數(shù)據(jù)、結(jié)果和輸出。司法機關(guān)或具有約束力的獨立行政機關(guān)應(yīng)在基于提供的客觀證據(jù)或明確指示滿足第1段第(h)項所述目標(biāo)的必要性和適當(dāng)性，并特別確保時間、地理和人員范圍的限制僅限于嚴(yán)格必要時才授予授權(quán)。該機關(guān)在決定請求時應(yīng)考慮第2段所述的因素。不得僅基于“實時”遠(yuǎn)程生物識別系統(tǒng)的輸出做出對個人產(chǎn)生不利法律效果的決定。4.在不影響第3段的情況下，每次為執(zhí)法目的在公共場所使用“實時”遠(yuǎn)程生物識別系統(tǒng)，均應(yīng)按照第5段提及的國家規(guī)則通知有關(guān)市場監(jiān)督管理機關(guān)和國家數(shù)據(jù)保護(hù)機關(guān)。通知至少應(yīng)包含第6段規(guī)定的信息，不得包括敏感業(yè)務(wù)數(shù)據(jù)。5.成員國可在第1段第1分段第(h)項、第2段和第3段所列的限制和條件下，為執(zhí)法目的，決定提供全部或部分授權(quán)在公眾可進(jìn)入的場所使用“實時”遠(yuǎn)程生物識別系統(tǒng)的可能性。有關(guān)成員國應(yīng)在其國內(nèi)法中就第3段所述授權(quán)的申請、簽發(fā)、行使、監(jiān)督和報告制定必要的詳細(xì)規(guī)則。這些規(guī)則還應(yīng)具體說明，在第1段第1分段第(h)項所列的目標(biāo)中，包括第(h)項第3目所指的刑事犯罪，主管機關(guān)可授權(quán)為執(zhí)法目的使用這些系統(tǒng)。成員國最遲應(yīng)在這些規(guī)則通過后30天內(nèi)將其通知歐盟委員會。成員國可根據(jù)歐盟法律，就遠(yuǎn)程生物識別系統(tǒng)的使用制定限制性更強的法律。6.成員國的國家市場監(jiān)督管理機關(guān)和國家數(shù)據(jù)保護(hù)機關(guān)在收到第4段規(guī)定的在公眾可以進(jìn)入的場所中為執(zhí)法目的使用“實時”遠(yuǎn)程生物識別系統(tǒng)的通知后，應(yīng)向歐盟委員會提交關(guān)于此使用的年度報告。為此，歐盟委員會應(yīng)向成員國和國家市場監(jiān)督管理和數(shù)據(jù)保護(hù)機關(guān)提供模板，包括有關(guān)主管司法機關(guān)或其決定對根據(jù)第3款提出的授權(quán)請求具有約束力的獨立行政機關(guān)9所作決定數(shù)目將其結(jié)果的信息。7.歐盟委員會應(yīng)根據(jù)成員國基于第6段所述年度報告的匯總數(shù)據(jù)，發(fā)布關(guān)于為執(zhí)法目的在公眾可以進(jìn)入的場所使用“實時”遠(yuǎn)程生物識別系統(tǒng)的年度報告。這些年度報告不應(yīng)包括相關(guān)執(zhí)法活動的敏感業(yè)務(wù)數(shù)據(jù)。8.本條款不影響其他歐盟法律規(guī)定的禁止人工智能實踐的相關(guān)規(guī)定。1.無論人工智能系統(tǒng)是否獨立于第(a)和(b)項所述產(chǎn)品被投放市場或投入服務(wù)，當(dāng)以下條件被同時滿足，該人工智能系統(tǒng)就應(yīng)被視為高風(fēng)險系統(tǒng)：（a）人工智能系統(tǒng)被期望用作產(chǎn)品的安全部件，或者人工智能系統(tǒng)本身就是附件一所列歐盟統(tǒng)一立法所涵蓋的產(chǎn)品；（b）根據(jù)第(a)項其安全部件為人工智能系統(tǒng)的產(chǎn)品，或人工智能系統(tǒng)本身屬于產(chǎn)品，則必須接受第三方合格性評估，以便根據(jù)附件一所列的歐盟統(tǒng)一立法將該產(chǎn)品投放市場或投入服務(wù)。2.除第1段所指的高風(fēng)險人工智能系統(tǒng)外，附件三所指的人工智能系統(tǒng)也應(yīng)被視為高風(fēng)險。3.根據(jù)對第2段的克減，附件三所指的人工智能系統(tǒng)如果不會對自然人的健康、安全或基本權(quán)利造成顯著損害風(fēng)險，包括不會對決策結(jié)果產(chǎn)生實質(zhì)影響，則不應(yīng)被視為高風(fēng)險。第1分段適用于符合以下任何條件的情況：（a）人工智能系統(tǒng)旨在執(zhí)行范圍狹窄的程序性任務(wù)；（b）人工智能系統(tǒng)旨在改進(jìn)先前完成的人類活動的結(jié)果；（c）人工智能系統(tǒng)的目的是檢測決策模式或偏離先前決策模式的情況，而不是在未經(jīng)適當(dāng)人工審查的情況下取代或影響先前完成的人工評估；或（d）人工智能系統(tǒng)旨在執(zhí)行與附件三所列用例有關(guān)的評估的準(zhǔn)備任務(wù)。盡管存在本段第一分段的規(guī)定，但如果附件三提及的人工智能系統(tǒng)對自然人進(jìn)行用戶畫像，則該系統(tǒng)應(yīng)始終被視為高風(fēng)險系統(tǒng)。4.提供者認(rèn)為附件三所述人工智能系統(tǒng)不是高風(fēng)險系統(tǒng)，應(yīng)在該系統(tǒng)投放市場或投入使用之前將其評估結(jié)果記錄在案。該提供者應(yīng)履行第49條第（2）段規(guī)定的登記義務(wù)。應(yīng)成員國主管機關(guān)的要求，提供者應(yīng)提供評估文件。5.歐盟委員會應(yīng)在咨詢歐盟人工智能委員會（以下簡稱"委員會"）后，在2026年2月2日之前，根據(jù)第96條的規(guī)定，提供具體實施本條的指南，以及一份人工智能系統(tǒng)高風(fēng)險和非高風(fēng)險用例的綜合實例清單。6.歐盟委員會有權(quán)根據(jù)第97條通過授權(quán)法案，對本條第3段第2分段進(jìn)行修訂，在其中規(guī)定的條件之外增加新的條件，或?qū)ζ溥M(jìn)行修改，只要有具體和可靠的證據(jù)表明存在屬于附件三范圍的人工智能系統(tǒng)，但不會對自然人的健康、安全或基本權(quán)利造成顯著損害風(fēng)險。7.歐盟委員會應(yīng)根據(jù)第97條通過授權(quán)法案，通過刪除其中規(guī)定的任何條件以修改本條第3段第2分段，如果有具體可靠的證據(jù)表明，這對保持本條例規(guī)定的健康、安全和基本權(quán)利的保護(hù)水平有必要。8.根據(jù)本條第6段和第7分段對第3段第2分段規(guī)定的條件所做的任何修改，不得降低本條例對健康、安全和基本權(quán)利的總體保護(hù)水平，并應(yīng)確保與根據(jù)第7(1)條通過的授權(quán)法案保持一致，同時考慮到市場和技術(shù)的發(fā)展。1.歐盟委員會有權(quán)根據(jù)第97條通過授權(quán)法案，通過增加或修改符合以下兩個條件的高風(fēng)險人工智能系統(tǒng)的用例，對附件三進(jìn)行修正：（a）擬在附件三所列的任何領(lǐng)域使用的人工智能系統(tǒng)；（b）人工智能系統(tǒng)有可能對健康和安全造成危害，或?qū)緳?quán)利造成不利影響，而且這種風(fēng)險等同于或大于附件三已提及的高風(fēng)險人工智能系統(tǒng)所造成的危害或不利影響。2.在評估第1段第（b）項規(guī)定的條件時，歐盟委員會應(yīng)考慮以下標(biāo)準(zhǔn)：（a）人工智能系統(tǒng)的預(yù)期目的；（b）人工智能系統(tǒng)被使用或可能被使用的程度；（c）人工智能系統(tǒng)處理和使用的數(shù)據(jù)的性質(zhì)和數(shù)量，特別是是否處理特殊類別的個人數(shù)據(jù)；（d）人工智能系統(tǒng)自主行事的程度，以及人類推翻可能導(dǎo)致潛在傷害的決定或建議的可能性；（e）人工智能系統(tǒng)的使用在多大程度上已經(jīng)對健康和安全造成了損害，對基本權(quán)利產(chǎn)生了不利影響，或在多大程度上引起了對這種損害或不利影響的可能性的顯著關(guān)切，例如，通過提交給成員國主管機關(guān)的報告或被記錄的指控，或酌情提交的其他報告所證明的；（f）這種損害或不利影響的潛在程度，特別是其嚴(yán)重性及其影響多人或?qū)δ骋惶囟ㄈ后w造成不成比例影響的能力；（g）可能受到傷害或不利影響的人在多大程度上依賴于人工智能系統(tǒng)產(chǎn)生的結(jié)果，特別是因為出于實際或法律原因，對該結(jié)果不太可能合理地選擇退出；（h）權(quán)力不平衡的程度，或可能受到傷害或不利影響的人相對于人工智能系統(tǒng)的部署者而言處于弱勢地位的程度，特別是由于地位、權(quán)力、知識、經(jīng)濟或社會環(huán)境或年齡等原因；（i）慮到現(xiàn)有的糾正或逆轉(zhuǎn)的技術(shù)解決方案，人工智能系統(tǒng)產(chǎn)生的結(jié)果在多大程度上是容易糾正或逆轉(zhuǎn)的；對健康、安全或基本權(quán)利有不利影響的結(jié)果不應(yīng)被視為容易糾正或逆轉(zhuǎn)的；（j）部署人工智能系統(tǒng)對個人、群體或整個社會的好處的程度和可能性，包括對產(chǎn)品安全的可能改進(jìn)；（k）現(xiàn)有歐盟法律在多大程度上規(guī)定了(i)與人工智能系統(tǒng)帶來的風(fēng)險有關(guān)的有效補救措施，但不包括損害賠償主張；(ii)預(yù)防或?qū)嵸|(zhì)減少這些風(fēng)險的有效措施。3.當(dāng)同時滿足如下兩個條件時，歐盟委員會有權(quán)根據(jù)第97條的規(guī)定通過授權(quán)法案，對附件三的清單進(jìn)行修改：（a）考慮到第2段所列的標(biāo)準(zhǔn)，有關(guān)的高風(fēng)險人工智能系統(tǒng)不再對基本權(quán)利、健康或安全構(gòu)成任何重大風(fēng)險；（b）此種刪除不會降低歐盟法律對健康、安全和基本權(quán)利的總體保護(hù)水平。合規(guī)要求1.高風(fēng)險人工智能系統(tǒng)應(yīng)符合本節(jié)規(guī)定的要求，同時考慮到其預(yù)期目的以及人工智能和人工智能相關(guān)技術(shù)的公認(rèn)技術(shù)水平。在確保遵守這些要求時，應(yīng)考慮到第9條所述的風(fēng)險管理系統(tǒng)。2.如果產(chǎn)品包含一個人工智能系統(tǒng)，而本條例的要求以及附件一A節(jié)所列歐盟統(tǒng)一立法的要求適用于該系統(tǒng)，則提供者應(yīng)負(fù)責(zé)確保其產(chǎn)品完全符合適用的歐盟統(tǒng)一立法的所有適用要求。在確保第1段中提及的高風(fēng)險人工智能系統(tǒng)符合本節(jié)規(guī)定的要求時，為了確保一致性、避免重復(fù)和最小化額外負(fù)擔(dān)，提供者可選擇酌情將其提供的有關(guān)其產(chǎn)品的必要測試和報告流程、信息和文件整合到附件一A節(jié)所列歐盟統(tǒng)一立法要求的已有文件和程序中。1.應(yīng)建立、實施、記錄和維護(hù)與高風(fēng)險人工智能系統(tǒng)有關(guān)的風(fēng)險管理系統(tǒng)。2.風(fēng)險管理系統(tǒng)應(yīng)被理解為在高風(fēng)險人工智能系統(tǒng)的整個生命周期內(nèi)規(guī)劃和運行的一個持續(xù)迭代過程，需要定期進(jìn)行系統(tǒng)審查和更新。它應(yīng)包括以下步驟：（a）識別和分析高風(fēng)險人工智能系統(tǒng)在按照其預(yù)期目的使用時可能對健康、安全或基本權(quán)利造成的已知和可合理預(yù)見的風(fēng)險；（b）估計和評估高風(fēng)險人工智能系統(tǒng)在按照其預(yù)期目的使用時，以及在可合理預(yù)見的濫用條件下可能出現(xiàn)的風(fēng)險；（c）根據(jù)對從第72條提及的后市場監(jiān)測系統(tǒng)中收集的數(shù)據(jù)的分析，評估可能出現(xiàn)的其他風(fēng)險；（d）采取適當(dāng)?shù)?、有針對性的風(fēng)險管理措施，以應(yīng)對根據(jù)第(a)項確定的風(fēng)險。3.本條所指的風(fēng)險只涉及那些通過高風(fēng)險人工智能系統(tǒng)的開發(fā)或設(shè)計，或提供充分的技術(shù)信息可以合理減輕或消除的風(fēng)險。4.第2段第(d)項所述的風(fēng)險管理措施應(yīng)適當(dāng)考慮本節(jié)所列各項要求的綜合應(yīng)用所產(chǎn)生的影響和可能的相互作用，以便更有效地把風(fēng)險減少到最低限度，同時在實施滿足這些要求的措施時取得適當(dāng)?shù)钠胶狻?.第2段第(d)項所指的風(fēng)險管理措施，應(yīng)使與每一危險相關(guān)的剩余風(fēng)險以及高風(fēng)險人工智能系統(tǒng)的總體剩余風(fēng)險被判定為可以接受。在確定最適當(dāng)?shù)娘L(fēng)險管理措施時，應(yīng)確保以下幾點；（a）在技術(shù)可行的情況下，通過充分設(shè)計和開發(fā)高風(fēng)險人工智能系統(tǒng)，消除或減少根據(jù)第2段確定和評估的風(fēng)險；（b）針對無法消除的風(fēng)險，酌情采取適當(dāng)?shù)木徑夂涂刂拼胧唬╟）提供第13條所要求的信息，并酌情對部署者進(jìn)行培訓(xùn)。為了消除或減少與使用高風(fēng)險人工智能系統(tǒng)有關(guān)的風(fēng)險，應(yīng)適當(dāng)考慮部署者的技術(shù)知識、經(jīng)驗、教育、預(yù)期的培訓(xùn)以及打算使用該系統(tǒng)的假定場景。6.對高風(fēng)險人工智能系統(tǒng)應(yīng)進(jìn)行測試，以確定最合適和最有針對性的風(fēng)險管理措施。測試應(yīng)確保高風(fēng)險人工智能系統(tǒng)的運行符合其預(yù)期目的，并符合本節(jié)規(guī)定的要求。7.測試程序可包括根據(jù)第60條在真實世界條件下進(jìn)行的測試。8.對高風(fēng)險人工智能系統(tǒng)的測試應(yīng)酌情在整個開發(fā)過程的任何時候進(jìn)行，并在任何情況下在其投放市場或投入服務(wù)之前進(jìn)行。測試應(yīng)根據(jù)事先確定的指標(biāo)和概率閾值進(jìn)行，這些指標(biāo)和閾值應(yīng)與高風(fēng)險人工智能系統(tǒng)的預(yù)期目的相適應(yīng)。9.在實施第1至第7段規(guī)定的風(fēng)險管理系統(tǒng)時，提供者應(yīng)考慮到高風(fēng)險人工智能系統(tǒng)的預(yù)期目的是否可能對18歲以下的人產(chǎn)生不利影響并且，并酌情考慮對其他弱勢群體產(chǎn)生不利影響。10.對于根據(jù)歐盟法律其他相關(guān)規(guī)定須遵守內(nèi)部風(fēng)險管理流程要求的高風(fēng)險人工智能系統(tǒng)提供者而言，第1至9段規(guī)定的方面可作為根據(jù)其他規(guī)定的風(fēng)險管理程序的一部分或與之相結(jié)合。1．使用涉及用數(shù)據(jù)訓(xùn)練人工智能模型的技術(shù)的高風(fēng)險人工智能系統(tǒng)，應(yīng)在使用符合第2至第5段所述質(zhì)量標(biāo)準(zhǔn)的訓(xùn)練、驗證和測試數(shù)據(jù)集的基礎(chǔ)上開發(fā)。2．訓(xùn)練、驗證和測試數(shù)據(jù)集應(yīng)遵守與高風(fēng)險人工智能系統(tǒng)預(yù)期目的相適應(yīng)的數(shù)據(jù)治理和管理做法。這些做法應(yīng)特別注意：（a）相關(guān)的設(shè)計選擇；（b）數(shù)據(jù)收集過程和數(shù)據(jù)來源，如果是個人數(shù)據(jù)，收集數(shù)據(jù)的最初目的；（c）相關(guān)的數(shù)據(jù)準(zhǔn)備處理工作，如注釋、標(biāo)注、清洗、更新、充實和聚合；（d）假設(shè)的表達(dá)，特別是有關(guān)數(shù)據(jù)應(yīng)衡量和代表的信息；（e）評估所需數(shù)據(jù)集的可得性、數(shù)量和適宜性；（f）檢驗可能會影響人員的健康和安全，對基本權(quán)利產(chǎn)生負(fù)面影響，或?qū)е職W盟法律禁止的歧視的可能偏見，特別是在數(shù)據(jù)輸出影響未來操作輸入的情況下；（g）采取適當(dāng)措施，發(fā)現(xiàn)、預(yù)防和減少根據(jù)第(f)項發(fā)現(xiàn)的可能的偏見；（h）識別妨礙遵守本條例的相關(guān)數(shù)據(jù)缺失或缺陷，以及如何解決這些缺失和缺陷。3．訓(xùn)練、驗證和測試數(shù)據(jù)集應(yīng)具有相關(guān)性、充分的代表性，并在最大程度的可能性上，從預(yù)期目的來看是無誤且完整的。數(shù)據(jù)集應(yīng)具有適當(dāng)?shù)慕y(tǒng)計特性，包括在適用的情況下，具有與打算使用高風(fēng)險人工智能系統(tǒng)的個人或群體有關(guān)的統(tǒng)計特性。數(shù)據(jù)集的這些特性可以在單個數(shù)據(jù)集或數(shù)據(jù)集組合的層面上符合要求。4．?dāng)?shù)據(jù)集應(yīng)在預(yù)期目的要求的范圍內(nèi)，考慮到高風(fēng)險人工智能系統(tǒng)打算使用的具體地理、場景、行為或功能環(huán)境所特有的特征或要素。5．在根據(jù)本條第2段第(f)和(g)項確保與高風(fēng)險人工智能系統(tǒng)有關(guān)的偏見檢測和糾正的嚴(yán)格必要范圍內(nèi)，此類系統(tǒng)的提供者可例外處理特殊類別的個人數(shù)據(jù)，但須對自然人的基本權(quán)利和自由采取適當(dāng)?shù)谋Ｕ洗胧?。?EU)第2016/679號和(EU)第2018/1725號條例以及(EU)第2016/680號指令中的規(guī)定外，必須滿足以下所有條件才能進(jìn)行此類處理：（a）通過處理其他數(shù)據(jù)，包括合成數(shù)據(jù)或匿名數(shù)據(jù)，無法有效實現(xiàn)偏見檢測和糾正；（b）對特殊類別個人數(shù)據(jù)的再使用進(jìn)行技術(shù)限制，并采取最先進(jìn)的安全和隱私保護(hù)措施，包括假名化；（c）對特殊類別的個人數(shù)據(jù)采取措施，確保所處理的個人數(shù)據(jù)安全、受保護(hù)、有適當(dāng)?shù)谋Ｕ洗胧▽υL問的嚴(yán)格控制和記錄，以避免濫用，并確保只有經(jīng)授權(quán)的人員才能訪問這些個人數(shù)據(jù)并承擔(dān)適當(dāng)?shù)谋Ｃ芰x務(wù)；（d）特殊類別的個人數(shù)據(jù)不得傳輸、轉(zhuǎn)移或以其他方式被其他方獲?。唬╡）一旦偏見得到糾正或個人數(shù)據(jù)的保存期結(jié)束，二者中的一個條件滿足，特殊類別的個人數(shù)據(jù)即被刪除；（f）根據(jù)(EU)2016/679和(EU)2018/1725條例以及(EU)2016/680指令進(jìn)行的處理活動記錄，包括處理特殊類別個人數(shù)據(jù)對于發(fā)現(xiàn)和糾正偏見是絕對必要的原因，以及處理其他數(shù)據(jù)無法實現(xiàn)該目標(biāo)的原因。6．對于不使用涉及人工智能模型訓(xùn)練技術(shù)的高風(fēng)險人工智能系統(tǒng)的開發(fā)，第2至5段僅適用于測試數(shù)據(jù)集。1.高風(fēng)險人工智能系統(tǒng)的技術(shù)文件應(yīng)在該系統(tǒng)投放市場或投入使用之前編制，并應(yīng)不斷更新。技術(shù)文件的編制應(yīng)能證明高風(fēng)險人工智能系統(tǒng)符合本節(jié)規(guī)定的要求，并能以清晰和全面的形式向成員國主管機關(guān)和被通知機構(gòu)提供必要的信息，以評估人工智能系統(tǒng)是否符合這些要求。它至少應(yīng)包括附件四所列的內(nèi)容。中小企業(yè)，包括初創(chuàng)企業(yè)，可以簡化方式提供附件四中規(guī)定的技術(shù)文件要素。為此，歐盟委員會將針對小型和微型企業(yè)的需要制定簡化的技術(shù)文件格式。如果中小型企業(yè)，包括初創(chuàng)企業(yè)，選擇以簡化方式提供附件四所要求的信息，則應(yīng)使用本段中提到的表格。被通知機構(gòu)在進(jìn)行合格性評估時應(yīng)接受該表格。2.當(dāng)與附件一A節(jié)所列歐盟統(tǒng)一立法所涵蓋的產(chǎn)品有關(guān)的高風(fēng)險人工智能系統(tǒng)投放市場或投入服務(wù)時，應(yīng)制定一套單一的技術(shù)文件，其中包含第1段規(guī)定的所有信息，以及這些法案所要求的信息。3.歐盟委員會有權(quán)根據(jù)第97條通過授權(quán)法案，以便在必要時修改附件四，確保技術(shù)文件根據(jù)技術(shù)發(fā)展提供所有必要信息，以評估系統(tǒng)是否符合本節(jié)規(guī)定的要求。1.高風(fēng)險人工智能系統(tǒng)應(yīng)在技術(shù)上允許自動記錄系統(tǒng)整個生命周期發(fā)生的事件（日志）。2.為了確保高風(fēng)險人工智能系統(tǒng)的運行具有與系統(tǒng)預(yù)期目的相適應(yīng)的可追溯性，日志記錄功能應(yīng)能記錄與以下方面相關(guān)的事件：（a）確定可能導(dǎo)致高風(fēng)險人工智能系統(tǒng)產(chǎn)生第79條第1段意義上的風(fēng)險或?qū)е聦嵸|(zhì)性修改的情況；（b）促進(jìn)第72條所指的投放市場后的監(jiān)測；以及（c）監(jiān)測第26條第5段所指的高風(fēng)險人工智能系統(tǒng)的運行。3.對于附件三第1(a)項所指的高風(fēng)險人工智能系統(tǒng)，記錄功能至少應(yīng)包括：（a）記錄每次使用系統(tǒng)的時間（每次使用的開始日期和時間以及結(jié)束日期和時間（b）系統(tǒng)對輸入數(shù)據(jù)進(jìn)行核對的參考數(shù)據(jù)庫；（c）與搜索結(jié)果匹配的輸入數(shù)據(jù)；（d）如第14條第5段所述，參與核查結(jié)果的自然人的身份信息。1.高風(fēng)險人工智能系統(tǒng)的設(shè)計和開發(fā)應(yīng)確保其操作具有足夠的透明度，使部署者能夠解釋系統(tǒng)的輸出并加以適當(dāng)使用。應(yīng)確保適當(dāng)類型和程度的透明度，以遵守第3節(jié)中規(guī)定的提供者和部署者的相關(guān)義務(wù)。2.高風(fēng)險人工智能系統(tǒng)應(yīng)附有適當(dāng)數(shù)字格式或其他形式的使用說明，其中包括簡明、完整、正確和清晰的信息，這些信息對部署者來說是相關(guān)的、可獲取的和可理解的。3.使用說明應(yīng)至少包含以下信息：（a）提供者及其授權(quán)代表（如適用）的身份和詳細(xì)聯(lián)系信息；（b）高風(fēng)險人工智能系統(tǒng)的特點、能力和性能限制，包括：i.其預(yù)期目的；ii.高風(fēng)險人工智能系統(tǒng)經(jīng)過測試和驗證并可預(yù)期的準(zhǔn)確性水平，包括第15條所述的度量、穩(wěn)健性和網(wǎng)絡(luò)安全，以及可能對預(yù)期準(zhǔn)確性水平、穩(wěn)健性和網(wǎng)絡(luò)安全產(chǎn)生影響的任何已知和可預(yù)見的情況；iii.與高風(fēng)險人工智能系統(tǒng)按其預(yù)期目的使用或在可合理預(yù)見的濫用條件下使用有關(guān)的任何已知或可預(yù)見的可能導(dǎo)致第9條第2段所述健康與安全或基本權(quán)利風(fēng)險的情況；iv.在適用的情況下，高風(fēng)險人工智能系統(tǒng)的技術(shù)能力和特點，以提供與解釋其輸出相關(guān)的信息；v.在適當(dāng)情況下，特定個體或群體預(yù)期使用該系統(tǒng)的性能；vi.考慮到高風(fēng)險人工智能系統(tǒng)的預(yù)期目的，酌情提供輸入數(shù)據(jù)的說明，或所使用的訓(xùn)練、驗證和測試數(shù)據(jù)集方面的任何其他相關(guān)信息；vii.在適用的情況下，使部署者能夠解釋高風(fēng)險人工智能系統(tǒng)的輸出結(jié)果并加以適當(dāng)使用的信息；（c）提供者在初始符合性評估時預(yù)先確定的對高風(fēng)險人工智能系統(tǒng)及其性能的改變，如果有的話；（d）第14條所述的人類監(jiān)督措施，包括為便于部署者解釋高風(fēng)險人工智能系統(tǒng)的輸出而采取的技術(shù)措施；（e）所需的計算和硬件資源、高風(fēng)險人工智能系統(tǒng)的預(yù)期壽命以及任何必要的維護(hù)和保養(yǎng)措施，包括其頻率，以確保該人工智能系統(tǒng)的正常運行，包括軟件更新；（f）在相關(guān)時，說明高風(fēng)險人工智能系統(tǒng)所包含的機制，使部署者能夠根據(jù)第12條適當(dāng)收集、儲存和解釋日志。1.高風(fēng)險人工智能系統(tǒng)的設(shè)計和開發(fā)方式，包括適當(dāng)?shù)娜藱C界面工具，應(yīng)使其在使用期間能由自然人進(jìn)行有效監(jiān)督。2.人類監(jiān)督應(yīng)旨在防止或最大限度地減少高風(fēng)險人工智能系統(tǒng)在按照其預(yù)期目的使用或在可合理預(yù)見的濫用條件下使用時可能出現(xiàn)的對健康、安全或基本權(quán)利的風(fēng)險，特別是在盡管適用了本節(jié)規(guī)定的其他要求但這種風(fēng)險依然存在的情況下。3.監(jiān)督措施應(yīng)與高風(fēng)險人工智能系統(tǒng)的風(fēng)險、自主程度和使用環(huán)境相稱，并應(yīng)通過以下一種或兩種措施加以確保：（a）在技術(shù)可行的情況下，在高風(fēng)險人工智能系統(tǒng)投放市場或投入服務(wù)之前，由提供者確定并納入該系統(tǒng)的措施；（b）提供者在將高風(fēng)險人工智能系統(tǒng)投放市場或投入服務(wù)之前確定的、適合由部署者實施的措施。4.為執(zhí)行第1、第2和第3段的目的，向部署者提供高風(fēng)險人工智能系統(tǒng)的方式，應(yīng)使被指派進(jìn)行人類監(jiān)督的自然人能夠在適當(dāng)和相稱的情況下：（a）適當(dāng)了解高風(fēng)險人工智能系統(tǒng)的相關(guān)能力和局限性，并能夠適當(dāng)監(jiān)測其運行情況，包括發(fā)現(xiàn)和處理異常情況、功能障礙和意外表現(xiàn)；（b）意識到可能存在自動依賴或過度依賴高風(fēng)險人工智能系統(tǒng)產(chǎn)生的輸出結(jié)果（自動化偏見）的趨勢，尤其是用于為自然人決策提供信息或建議的高風(fēng)險人工智能系統(tǒng)；（c）正確解讀高風(fēng)險人工智能系統(tǒng)的輸出結(jié)果，同時考慮到可用的解讀工具和方法等；（d）在任何特定情況下決定不使用高風(fēng)險人工智能系統(tǒng)，或以其他方式忽略、推翻或逆轉(zhuǎn)高風(fēng)險人工智能系統(tǒng)的輸出；（e）通過“停止”按鈕或類似程序，干預(yù)高風(fēng)險人工智能系統(tǒng)的運行或中斷系統(tǒng)，使系統(tǒng)停止在安全狀態(tài)。5.對于附件三第1（a）項所述的高風(fēng)險人工智能系統(tǒng)，本條第3段所述的措施應(yīng)確保，除此之外，部署者不得根據(jù)該系統(tǒng)產(chǎn)生的識別結(jié)果采取任何行動或做出任何決定，除非至少有兩個具有必要的能力、培訓(xùn)和授權(quán)的自然人分別加以核查和確認(rèn)。在歐盟或國家法律認(rèn)為適用這一要求不成比例的情況下，至少由兩個自然人分別進(jìn)行核查的要求不適用于用于執(zhí)法、移民、邊境管制或庇護(hù)目的的高風(fēng)險人工智能系統(tǒng)。1.在設(shè)計和開發(fā)高風(fēng)險人工智能系統(tǒng)時，應(yīng)使其達(dá)到適當(dāng)?shù)臏?zhǔn)確性、穩(wěn)健性和網(wǎng)絡(luò)安全水平，并在其整個生命周期內(nèi)始終在這些方面保持一致。2.為解決如何衡量本條第1段規(guī)定的適當(dāng)準(zhǔn)確性和穩(wěn)健性水平以及任何其他相關(guān)性能指標(biāo)的技術(shù)問題，歐盟委員會應(yīng)與利益相關(guān)方和組織，如計量和基準(zhǔn)制定機構(gòu)合作，酌情鼓勵制定基準(zhǔn)和度量方法。3.高風(fēng)險人工智能系統(tǒng)的準(zhǔn)確度等級和相關(guān)準(zhǔn)確度指標(biāo)應(yīng)在隨附的使用說明中公布。4.對于系統(tǒng)內(nèi)部或系統(tǒng)運行環(huán)境中可能出現(xiàn)的錯誤、故障或不一致，特別是由于與自然人或其他系統(tǒng)的交互作用而出現(xiàn)的錯誤、故障或不一致，高風(fēng)險人工智能系統(tǒng)應(yīng)盡可能具有韌性。在這方面應(yīng)采取技術(shù)和組織措施。高風(fēng)險人工智能系統(tǒng)的穩(wěn)健性可通過技術(shù)冗余解決方案來實現(xiàn)，其中可能包括備份或故障安全計劃。在投放市場或投入服務(wù)后仍在繼續(xù)學(xué)習(xí)的高風(fēng)險人工智能系統(tǒng)，其開發(fā)方式應(yīng)盡可能消除或減少可能有偏見的輸出影響未來操作的輸入（反饋回路）的風(fēng)險，并確保任何此類反饋回路都能通過適當(dāng)?shù)木徑獯胧┑玫酵咨铺幚怼?.高風(fēng)險人工智能系統(tǒng)應(yīng)能夠抵御未經(jīng)授權(quán)的第三方通過利用系統(tǒng)漏洞改變其使用、輸出或性能的企圖。確保高風(fēng)險人工智能系統(tǒng)網(wǎng)絡(luò)安全的技術(shù)解決方案應(yīng)與相關(guān)情況和風(fēng)險相適應(yīng)。處理人工智能特定漏洞的技術(shù)解決方案應(yīng)酌情包括以下措施：預(yù)防、檢測、應(yīng)對、解決和控制試圖操縱訓(xùn)練數(shù)據(jù)集（“數(shù)據(jù)投毒”）或操縱用于訓(xùn)練的預(yù)訓(xùn)練組件（“模型投毒”）的攻擊、旨在導(dǎo)致模型出錯的輸入（“對抗性示例”或“模型規(guī)避”）、保密性攻擊或者模型缺陷。高風(fēng)險人工智能系統(tǒng)的提供者和部署者以及其他各高風(fēng)險人工智能系統(tǒng)的提供者應(yīng)：（a）確保其高風(fēng)險人工智能系統(tǒng)符合本章第二節(jié)的要求；（b）在高風(fēng)險人工智能系統(tǒng)上標(biāo)明其名稱、登記商業(yè)名稱或登記商標(biāo)、可聯(lián)系到其的地址，如無法標(biāo)明，則在包裝或隨附文件上標(biāo)明；（c）具有符合第17條規(guī)定的質(zhì)量管理體系；（d）保存第18條提及的文件；（e）在其控制下保存第19條所述高風(fēng)險人工智能系統(tǒng)自動生成的日志；（f）確保高風(fēng)險人工智能系統(tǒng)在投放市場或投入服務(wù)之前經(jīng)過第43條所述的相關(guān)合格性評估程序；（g）根據(jù)第47條的規(guī)定起草歐盟合格性聲明；（h）根據(jù)第48條的規(guī)定，在高風(fēng)險人工智能系統(tǒng)上加貼CE標(biāo)志，或在無法加貼CE標(biāo)志的情況下，在其包裝或隨附文件上加貼CE標(biāo)志，以表明其符合本規(guī)定；（i）遵守第49條第1段所述的登記義務(wù)；（j）采取必要的糾正措施并提供第20條所要求的信息；（k）在成員國主管機關(guān)提出合理要求時，證明高風(fēng)險人工智能系統(tǒng)符合第2節(jié)規(guī)定的要（l）確保高風(fēng)險人工智能系統(tǒng)符合(EU)2016/2102和2019/882指令的無障礙要求。1.高風(fēng)險人工智能系統(tǒng)的提供者應(yīng)建立質(zhì)量管理體系，確保遵守本條例。該系統(tǒng)應(yīng)以書面政策、程序和指令的形式系統(tǒng)有序地加以記錄，并至少應(yīng)包括以下方面：（a）合規(guī)策略，包括遵守合格性評估程序和管理修改高風(fēng)險人工智能系統(tǒng)的程序；（b）用于高風(fēng)險人工智能系統(tǒng)的設(shè)計、設(shè)計控制和設(shè)計驗證的技術(shù)、程序和系統(tǒng)行動；（c）用于高風(fēng)險人工智能系統(tǒng)的開發(fā)、質(zhì)量控制和質(zhì)量保證的技術(shù)、程序和系統(tǒng)行動；（d）在開發(fā)高風(fēng)險人工智能系統(tǒng)之前、期間和之后要進(jìn)行的檢查、測試和驗證程序，以及進(jìn)行這些程序的頻率；（e）應(yīng)采用的技術(shù)規(guī)范，包括標(biāo)準(zhǔn)，如果沒有完全采用相關(guān)的統(tǒng)一標(biāo)準(zhǔn)，或沒有涵蓋第2節(jié)所列的所有相關(guān)要求，應(yīng)采用何種手段確保高風(fēng)險人工智能系統(tǒng)符合這些求；（f）數(shù)據(jù)管理的系統(tǒng)和程序，包括數(shù)據(jù)獲取、數(shù)據(jù)收集、數(shù)據(jù)分析、數(shù)據(jù)標(biāo)示、數(shù)據(jù)存儲、數(shù)據(jù)過濾、數(shù)據(jù)挖掘、數(shù)據(jù)匯總、數(shù)據(jù)保留，以及在高風(fēng)險人工智能系統(tǒng)投放市場或投入服務(wù)前和為投放市場或投入服務(wù)而進(jìn)行的與數(shù)據(jù)有關(guān)的任何其他操作；（g）第9條提及的風(fēng)險管理系統(tǒng)；（h）根據(jù)第72條的規(guī)定，建立、實施和維護(hù)后市場監(jiān)測系統(tǒng)；（i）根據(jù)第73條報告嚴(yán)重事件的相關(guān)程序；（j）處理與成員國主管機關(guān)、其他相關(guān)機構(gòu)（包括提供或支持?jǐn)?shù)據(jù)訪問的機構(gòu)）、被通知機構(gòu)、其他運營者、客戶或其他相關(guān)方的溝通；（k）所有相關(guān)文件和信息的記錄保存系統(tǒng)和程序；（l）資源管理，包括與供應(yīng)安全有關(guān)的措施；（m）問責(zé)框架，規(guī)定管理層和其他工作人員在本段所列各方面的責(zé)任。2.第1段所述方面的實施應(yīng)與提供者組織的規(guī)模相稱。在任何情況下，提供者都應(yīng)尊重確保其高風(fēng)險人工智能系統(tǒng)符合本條例所需的嚴(yán)格程度和保護(hù)水平。3.高風(fēng)險人工智能系統(tǒng)的提供者，如果根據(jù)相關(guān)的部門性歐盟法必須履行質(zhì)量管理系統(tǒng)或同等職能的義務(wù)，則可以將第1段所列方面作為根據(jù)該法律質(zhì)量管理系統(tǒng)的一部分。4.對于根據(jù)歐盟金融服務(wù)法須遵守內(nèi)部治理、安排或流程要求的金融機構(gòu)，除本條第1段第(g)、(h)和(i)項外，應(yīng)通過遵守相關(guān)歐盟金融服務(wù)法的內(nèi)部治理安排或流程規(guī)則來履行建立質(zhì)量管理體系的義務(wù)。為此，應(yīng)考慮第40條中提及的任何統(tǒng)一標(biāo)準(zhǔn)。1.提供者應(yīng)在高風(fēng)險人工智能系統(tǒng)投放市場或投入使用后的10年內(nèi)，將以下資料交由成員國主管機關(guān)保存：（a）第11條所述的技術(shù)性文件；（b）第17條所述質(zhì)量管理系統(tǒng)的相關(guān)文件；（c）有關(guān)被通知機構(gòu)批準(zhǔn)的變更的文件，如適用；（d）被通知機構(gòu)發(fā)布的決定和其他文件，如適用；（e）第47條提及的歐盟合格聲明。2.對于在其領(lǐng)土上設(shè)立的提供者或其授權(quán)代表在該期限結(jié)束前破產(chǎn)或停止活動的情況，各成員國應(yīng)確定第1段所述文件在該段所述期限內(nèi)仍由成員國主管機關(guān)處置的條件。3.如果提供者是金融機構(gòu)，其內(nèi)部治理、安排或流程須遵守歐盟金融服務(wù)法的要求，則應(yīng)將技術(shù)文件作為根據(jù)相關(guān)歐盟金融服務(wù)法保存的文件的一部分予以保存。1.高風(fēng)險人工智能系統(tǒng)的提供者應(yīng)保存由其高風(fēng)險人工智能系統(tǒng)自動生成的第12條第1段所述日志，如果這些日志在其控制范圍內(nèi)。在不影響適用的歐盟法或成員國法律的情況下，日志的保存期應(yīng)與高風(fēng)險人工智能系統(tǒng)的預(yù)期目的相適應(yīng)，至少為六個月，除非適用的歐盟法或成員國法律另有規(guī)定，特別是關(guān)于保護(hù)個人數(shù)據(jù)的歐盟法。2.金融機構(gòu)的提供者，如果其內(nèi)部治理、安排或流程須符合歐盟金融服務(wù)法的要求，則應(yīng)將其高風(fēng)險人工智能系統(tǒng)自動生成的日志作為根據(jù)相關(guān)金融服務(wù)法保存的文件的一部分進(jìn)行保存。1.高風(fēng)險人工智能系統(tǒng)的提供者如認(rèn)為或有理由認(rèn)為其投放市場或投入使用的高風(fēng)險人工智能系統(tǒng)不符合本條例的規(guī)定，應(yīng)立即采取必要的糾正措施，使該系統(tǒng)符合規(guī)定，酌情予以撤消、禁用或召回。他們應(yīng)通知有關(guān)高風(fēng)險人工智能系統(tǒng)的分銷商，并酌情通知部署者、授權(quán)代表和進(jìn)口商。2.如果高風(fēng)險人工智能系統(tǒng)存在第79條第1段所指的風(fēng)險，且提供者意識到該風(fēng)險，則應(yīng)立即與報告部署者（如適用）合作調(diào)查原因，并通知主管高風(fēng)險人工智能系統(tǒng)的市場監(jiān)督管理機構(gòu)，以及（如適用）根據(jù)第44條為該高風(fēng)險人工智能系統(tǒng)頒發(fā)證書的被通知機構(gòu)，特別是通知不符合的性質(zhì)以及所采取的任何相關(guān)糾正措施。1.高風(fēng)險人工智能系統(tǒng)的提供者應(yīng)在主管機關(guān)提出合理要求時，向該機關(guān)提供證明高風(fēng)險人工智能系統(tǒng)符合第2節(jié)所列要求的所有必要信息和文件，其語言應(yīng)為有關(guān)成員國所表明的歐盟機構(gòu)官方語言之一，易于該機關(guān)理解。2.在主管機關(guān)提出合理要求后，提供者還應(yīng)在適用的情況下允許提出要求的主管機關(guān)查閱第12條第1段所述高風(fēng)險人工智能系統(tǒng)自動生成的日志，但以這些日志在其控制范圍內(nèi)為限。3.主管機關(guān)根據(jù)本條獲得的任何信息應(yīng)按照第78條規(guī)定的保密義務(wù)處理。1.在歐盟市場上提供其高風(fēng)險人工智能系統(tǒng)之前，在第三國設(shè)立的提供者應(yīng)通過書面授權(quán)任命一名在歐盟設(shè)立的授權(quán)代表。2.提供者應(yīng)使其授權(quán)代表能夠執(zhí)行從提供者處收到的授權(quán)書中規(guī)定的任務(wù)。3.授權(quán)代表人應(yīng)執(zhí)行提供者授權(quán)書中規(guī)定的任務(wù)。它應(yīng)根據(jù)請求，以主管機關(guān)指定的歐盟機構(gòu)官方語言之一，向市場監(jiān)督管理機構(gòu)提供一份授權(quán)副本。就本條例而言，授權(quán)書應(yīng)授權(quán)授權(quán)代表執(zhí)行以下任務(wù)：（a）核查第47條所指的歐盟合格聲明和第11條所指的技術(shù)文件是否已經(jīng)擬定，以及提供者是否已經(jīng)執(zhí)行了適當(dāng)?shù)暮细裥栽u估程序；（b）在高風(fēng)險人工智能系統(tǒng)投放市場或投入使用后的10年內(nèi)，向主管機關(guān)和第74條第10段提及的國家機關(guān)或機構(gòu)提供指定授權(quán)代表的提供者的詳細(xì)聯(lián)系信息、第47條提及的歐盟合格聲明副本、技術(shù)文件以及（如適用）被通知機構(gòu)簽發(fā)的證書；（c）應(yīng)主管機關(guān)的合理要求，提供所有必要的信息和文件，包括本分段(b)項所指的信息和文件，以證明高風(fēng)險人工智能系統(tǒng)符合第2節(jié)規(guī)定的要求，包括查閱第12條第1段所指的由高風(fēng)險人工智能系統(tǒng)自動生成的日志，只要這些日志在提供者的控制之下；（d）在主管機關(guān)采取的與高風(fēng)險人工智能系統(tǒng)有關(guān)的任何行動中，特別是在減少和降低高風(fēng)險人工智能系統(tǒng)造成的風(fēng)險方面，應(yīng)主管機關(guān)的合理要求與之合作；（e）在適用的情況下，遵守第49條第1段所述的登記義務(wù)，如果登記是由提供者自己進(jìn)行的，則應(yīng)確保附件八A節(jié)第3項所述的信息正確無誤。授權(quán)書應(yīng)授權(quán)授權(quán)代表人在與確保遵守本條例有關(guān)的所有問題上，除提供者外，或代替提供者，接受主管機關(guān)的處理。1.在將高風(fēng)險人工智能系統(tǒng)投放市場之前，進(jìn)口商應(yīng)確保該系統(tǒng)符合本條例的規(guī)定，為此應(yīng)核查：（a）高風(fēng)險人工智能系統(tǒng)的提供者已進(jìn)行了第43條所述的相關(guān)合格評定程序；（b）提供者已根據(jù)第11條和附件四編制了技術(shù)文件；（c）系統(tǒng)帶有所需的CE標(biāo)志，并附有第47條所指的歐盟合格聲明和使用說明；（d）提供者已根據(jù)第22條第1段的規(guī)定任命了授權(quán)代表。2.如果進(jìn)口商有充分理由認(rèn)為高風(fēng)險人工智能系統(tǒng)不符合本條例的規(guī)定，或者是偽造的，或者附有偽造的文件，則在該系統(tǒng)符合規(guī)定之前不得將其投放市場。如果高風(fēng)險人工智能系統(tǒng)存在第79條第1段所指的風(fēng)險，進(jìn)口商應(yīng)將此情況通知系統(tǒng)提供者、授權(quán)代表和市場監(jiān)督管理機構(gòu)。3.進(jìn)口商應(yīng)在高風(fēng)險人工智能系統(tǒng)及其包裝或隨附文件（如適用）上標(biāo)明其名稱、注冊商號或注冊商標(biāo)以及聯(lián)系地址。4.進(jìn)口商應(yīng)確保高風(fēng)險人工智能系統(tǒng)由其負(fù)責(zé)時，儲存或運輸條件（如適用）不會危及其符合第2節(jié)規(guī)定的要求。5.進(jìn)口商應(yīng)在高風(fēng)險人工智能系統(tǒng)投放市場或投入使用后的10年內(nèi)，保存一份由被通知機構(gòu)頒發(fā)的證書（如適用）、使用說明和第47條所述歐盟合格聲明的副本。6.進(jìn)口商應(yīng)在有關(guān)主管機關(guān)提出合理要求后，以其易于理解的語言向其提供所有必要的信息和文件，包括第5段中提及的信息和文件，以證明高風(fēng)險人工智能系統(tǒng)符合第2節(jié)中規(guī)定的要求。為此，還應(yīng)確保向這些機關(guān)提供技術(shù)文件。7.進(jìn)口商應(yīng)與有關(guān)主管機關(guān)合作，配合主管機關(guān)對進(jìn)口商投放市場的高風(fēng)險人工智能系統(tǒng)采取任何行動，特別是減少和降低該系統(tǒng)構(gòu)成的風(fēng)險。1.在市場上提供高風(fēng)險人工智能系統(tǒng)之前，分銷商應(yīng)核查該系統(tǒng)是否帶有所需的CE標(biāo)志，是否附有第47條所述的歐盟合格聲明副本和使用說明，以及該系統(tǒng)的提供者和進(jìn)口商（如適用）是否遵守了第16條第(b)和(c)項以及第23條第3段規(guī)定的各自義務(wù)。2.如果分銷商根據(jù)其掌握的信息認(rèn)為或有理由認(rèn)為高風(fēng)險人工智能系統(tǒng)不符合第2節(jié)規(guī)定的要求，在該系統(tǒng)符合這些要求之前，分銷商不得在市場上提供高風(fēng)險人工智能系統(tǒng)。此外，如果高風(fēng)險人工智能系統(tǒng)存在第79條第1段所指的風(fēng)險，分銷商應(yīng)酌情將此情況通知該系統(tǒng)的提供者或進(jìn)口商。3.分銷商應(yīng)確保在其負(fù)責(zé)高風(fēng)險人工智能系統(tǒng)時，儲存或運輸條件（如適用）不會危及該系統(tǒng)符合第2節(jié)規(guī)定的要求。4.分銷商如根據(jù)其掌握的信息認(rèn)為或有理由認(rèn)為其在市場上提供的高風(fēng)險人工智能系統(tǒng)不符合第2節(jié)所列要求，則應(yīng)采取必要的糾正措施，使該系統(tǒng)符合這些要求，撤回或召回該系統(tǒng)，或應(yīng)確保提供者、進(jìn)口商或任何有關(guān)運營者酌情采取這些糾正措施。如果高風(fēng)險人工智能系統(tǒng)存在第79條第1段所指的風(fēng)險，分銷商應(yīng)立即通知該系統(tǒng)的提供者或進(jìn)口商以及有關(guān)高風(fēng)險人工智能系統(tǒng)的主管機關(guān)，特別是提供不符合要求的詳細(xì)情況和所采取的糾正措施。5.在有關(guān)主管機關(guān)提出合理要求后，高風(fēng)險人工智能系統(tǒng)的分銷商應(yīng)向該主管機關(guān)提供有關(guān)其根據(jù)第1至第4段采取的行動的所有必要信息和文件，以證明該系統(tǒng)符合第2節(jié)規(guī)定的要求。6.分銷商應(yīng)與有關(guān)主管機關(guān)合作，采取任何與分銷商在市場上提供的高風(fēng)險人工智能系統(tǒng)有關(guān)的行動，特別是減少或降低該系統(tǒng)帶來的風(fēng)險。1.為本條例之目的，任何分銷商、進(jìn)口商、部署者或其他第三方應(yīng)被視為高風(fēng)險人工智能系統(tǒng)的提供者，在下列任何一種情況下，應(yīng)承擔(dān)第16條規(guī)定的提供者義務(wù)：（a）在已投放市場或投入服務(wù)的高風(fēng)險人工智能系統(tǒng)上冠以自己的名稱或商標(biāo)，但不妨礙以其他方式分配義務(wù)的合同安排；（b）對已投放市場或已投入服務(wù)的高風(fēng)險人工智能系統(tǒng)進(jìn)行重大修改，使其仍屬于第6條所指的高風(fēng)險人工智能系統(tǒng)；（c）對未被列為高風(fēng)險并已投放市場或投入服務(wù)的人工智能系統(tǒng)（包括通用人工智能系統(tǒng)）的預(yù)期目的進(jìn)行修改，使有關(guān)人工智能系統(tǒng)根據(jù)第6條成為高風(fēng)險人工智能系統(tǒng)。2.如果出現(xiàn)第1段所述情況，最初將人工智能系統(tǒng)投放市場或投入服務(wù)的提供者將不再被視為本條例所指的特定人工智能系統(tǒng)的提供者。最初的提供者應(yīng)與新的提供者密切合作，提供必要的信息，并提供合理預(yù)期的技術(shù)準(zhǔn)入和為履行本條例規(guī)定義務(wù)所要求的其他協(xié)助，特別是關(guān)于遵守高風(fēng)險人工智能系統(tǒng)合格性評估的義務(wù)。本段不適用于初始提供者已明確說明其人工智能系統(tǒng)不會被改變?yōu)楦唢L(fēng)險人工智能系統(tǒng)，因此不屬于移交文件的義務(wù)范圍的情況。3.如果高風(fēng)險人工智能系統(tǒng)是附件一A部分所列歐盟統(tǒng)一立法所涵蓋產(chǎn)品的安全部件，則產(chǎn)品制造商應(yīng)被視為高風(fēng)險人工智能系統(tǒng)的提供者，在下列任一情況下，應(yīng)履行第16條規(guī)定的義務(wù)：（a）高風(fēng)險人工智能系統(tǒng)與產(chǎn)品制造商的名稱或商標(biāo)的產(chǎn)品一起投放市場；（b）產(chǎn)品投放市場后，高風(fēng)險人工智能系統(tǒng)以產(chǎn)品制造商的名義或商標(biāo)投入服務(wù)。4.高風(fēng)險人工智能系統(tǒng)的提供者和提供人工智能系統(tǒng)、工具、服務(wù)、組件或高風(fēng)險人工智能系統(tǒng)中使用或集成的程序的第三方，應(yīng)通過書面協(xié)議，根據(jù)公認(rèn)的技術(shù)水平，具體說明必要的信息、能力、技術(shù)訪問和其他援助，以使高風(fēng)險人工智能系統(tǒng)的提供者能夠充分遵守本條例規(guī)定的義務(wù)。本段不適用于在免費和開源許可下向公眾提供工具、服務(wù)、流程或組件（通用人工智能模型除外）的第三方。人工智能辦公室可為高風(fēng)險人工智能系統(tǒng)的提供者與提供用于高風(fēng)險人工智能系統(tǒng)或集成到高風(fēng)險人工智能系統(tǒng)的工具、服務(wù)、組件或流程的第三方之間的合同制定和推薦自愿示范條款。在制定這些自愿性示范條款時，人工智能辦公室應(yīng)考慮到適用于特定部門或商業(yè)案例的可能合同要求。自愿性示范條款應(yīng)以易于使用的電子格式公布并免費提供。5.第2段和第3段不影響根據(jù)歐盟法律和國家法律遵守和保護(hù)知識產(chǎn)權(quán)、商業(yè)機密信息和商業(yè)秘密的需要。1.高風(fēng)險人工智能系統(tǒng)的部署者應(yīng)采取適當(dāng)?shù)募夹g(shù)和組織措施，確保按照第3段和第6段的規(guī)定，根據(jù)系統(tǒng)所附的使用說明使用這些系統(tǒng)；2.部署者應(yīng)指派具備必要能力、培訓(xùn)和權(quán)威以及必要支持的自然人進(jìn)行人工監(jiān)督；3.第1段和第2段規(guī)定的義務(wù)不影響歐盟或國內(nèi)法規(guī)定的其他部署者義務(wù)，也不影響部署者為執(zhí)行提供者所述的人類監(jiān)督措施而組織自身資源和活動的自由。4.在不影響第1段和第2段的情況下，只要部署者對輸入數(shù)據(jù)行使控制權(quán)，就高風(fēng)險人工智能系統(tǒng)的預(yù)期目的而言，部署者應(yīng)確保輸入數(shù)據(jù)具有相關(guān)性和充分代表性。5.部署者應(yīng)根據(jù)使用說明監(jiān)測高風(fēng)險人工智能系統(tǒng)的運行情況，并在相關(guān)情況下根據(jù)第72條通知提供者。如果部署者有理由認(rèn)為，按照使用說明使用高風(fēng)險人工智能系統(tǒng)可能導(dǎo)致該人工智能系統(tǒng)出現(xiàn)第79條第1段所指的風(fēng)險，他們應(yīng)在沒有不當(dāng)拖延的情況下通知提供者或分銷商和有關(guān)市場監(jiān)管管理機構(gòu)，并應(yīng)暫停使用該系統(tǒng)。如果部署者發(fā)現(xiàn)了嚴(yán)重事故，也應(yīng)立即首先通知提供者，然后通知進(jìn)口商或分銷商以及事故相關(guān)的市場監(jiān)管管理機構(gòu)。如果部署者無法聯(lián)系到提供者，則應(yīng)比照適用第73條。這項義務(wù)不包括作為執(zhí)法機關(guān)的人工智能系統(tǒng)部署者的敏感業(yè)務(wù)數(shù)據(jù)。對于根據(jù)歐盟金融服務(wù)法須遵守內(nèi)部治理、安排或流程要求的金融機構(gòu)部署者而言，遵守相關(guān)金融服務(wù)法規(guī)定的內(nèi)部治理安排、流程和機制規(guī)則，即視為履行了第一分段規(guī)定的監(jiān)控義務(wù)。6.高風(fēng)險人工智能系統(tǒng)的部署者應(yīng)在其控制范圍內(nèi)保存該高風(fēng)險人工智能系統(tǒng)自動生成的日志，保存期應(yīng)與高風(fēng)險人工智能系統(tǒng)的預(yù)期目的相稱，至少六個月，除非適用的歐盟或國家法律，特別是關(guān)于保護(hù)個人數(shù)據(jù)的歐盟法律另有規(guī)定。如果部署者是金融機構(gòu)，其內(nèi)部治理、安排或流程須遵守歐盟金融服務(wù)法的要求，則應(yīng)將日志作為根據(jù)相關(guān)歐盟金融服務(wù)法保存的文件的一部分進(jìn)行保存。7.在工作場所投入服務(wù)或使用高風(fēng)險人工智能系統(tǒng)之前，作為雇主的部署者應(yīng)告知勞動者代表和受影響的勞動者，他們將使用高風(fēng)險人工智能系統(tǒng)。在適用的情況下，應(yīng)根據(jù)歐盟和國家關(guān)于勞動者及其代表信息的法律和實踐中規(guī)定的規(guī)則和程序提供這些信息。8.高風(fēng)險人工智能系統(tǒng)的部署者如果是公共機關(guān)或歐盟機構(gòu)、機關(guān)、辦事處或機構(gòu)，則應(yīng)遵守第49條所述的登記義務(wù)。當(dāng)這些部署者發(fā)現(xiàn)他們打算使用的高風(fēng)險人工智能系統(tǒng)尚未在第71條所述的歐盟數(shù)據(jù)庫中注冊時，他們不得使用該系統(tǒng)，并應(yīng)通知供應(yīng)者或分銷商。9.在適用的情況下，高風(fēng)險人工智能系統(tǒng)的部署者應(yīng)使用根據(jù)本條例第13條提供的信息，以履行其根據(jù)(EU)第2016/679號條例第35條或(EU)第2016/680號指令第27條進(jìn)行數(shù)據(jù)保護(hù)影響評估的義務(wù)。10.在不影響第(EU)2016/680號指令的情況下，在對涉嫌或被判定犯有刑事罪的人進(jìn)行定向搜查的調(diào)查框架內(nèi)，用于后遠(yuǎn)程生物特征識別的高風(fēng)險人工智能系統(tǒng)的部署者應(yīng)事先或在不無故拖延的情況下，在不遲于48小時內(nèi)請求司法機關(guān)或其決定具有約束力并可接受司法審查的行政機關(guān)授權(quán)使用該系統(tǒng)，但根據(jù)與罪行直接相關(guān)的客觀和可核查的事實初步識別潛在嫌疑人的情況除外。每次使用應(yīng)僅限于調(diào)查特定刑事犯罪所嚴(yán)格需要的范圍。如果根據(jù)本段第一分段申請的授權(quán)被拒絕，則應(yīng)立即停止使用與申請授權(quán)相關(guān)聯(lián)的后遠(yuǎn)程生物識別系統(tǒng)，并刪除與使用申請授權(quán)的高風(fēng)險人工智能系統(tǒng)相關(guān)聯(lián)的個人數(shù)據(jù)。在任何情況下，這種用于后遠(yuǎn)程生物識別的高風(fēng)險人工智能系統(tǒng)都不得用于無目標(biāo)性的、與刑事犯罪、刑事訴訟、真正的和當(dāng)前的或真正的和可預(yù)見的刑事犯罪威脅或?qū)ふ揖唧w的失蹤人員沒有任何聯(lián)系的執(zhí)法。應(yīng)確保執(zhí)法機關(guān)不得僅根據(jù)這種后遠(yuǎn)程生物識別系統(tǒng)的輸出結(jié)果作出對個人產(chǎn)生不利法律影響的決定。本段不影響關(guān)于生物識別數(shù)據(jù)處理的(EU)第2016/679號條例第9條和(EU)第2016/680號指令第10條。無論目的或部署者如何，此類高風(fēng)險人工智能系統(tǒng)的每次使用都應(yīng)記錄在相關(guān)警方檔案中，并應(yīng)根據(jù)要求提供給相關(guān)市場監(jiān)督機構(gòu)和國家數(shù)據(jù)保護(hù)機構(gòu)，但不包括與執(zhí)法有關(guān)的敏感業(yè)務(wù)數(shù)據(jù)的披露。本分段不得損害(EU)第2016/680號指令賦予監(jiān)管機關(guān)的權(quán)力。部署者應(yīng)向有關(guān)市場監(jiān)督管理機構(gòu)和國家數(shù)據(jù)保護(hù)機構(gòu)提交年度報告，說明其使用后遠(yuǎn)程生物識別系統(tǒng)的情況，但不包括披露與執(zhí)法有關(guān)的敏感業(yè)務(wù)數(shù)據(jù)。報告可以匯總，以涵蓋一個以上的部署情況。成員國可根據(jù)歐盟法律，就后遠(yuǎn)程生物識別系統(tǒng)的使用制定限制性更強的法律。11.在不影響本條例第50條的情況下，附件三中提及的高風(fēng)險人工智能系統(tǒng)的部署者在做出與自然人有關(guān)的決定或協(xié)助做出與自然人有關(guān)的決定時，應(yīng)告知自然人他們是高風(fēng)險人工智能系統(tǒng)的使用對象。對于用于執(zhí)法目的的高風(fēng)險人工智能系統(tǒng)，應(yīng)適用(EU)第2016/680號指令第13條。12.部署者應(yīng)在相關(guān)主管機關(guān)為執(zhí)行本條例而對高風(fēng)險人工智能系統(tǒng)采取的任何行動中與這些主管機關(guān)合作。1.在部署第6條第2段所指的高風(fēng)險人工智能系統(tǒng)之前，除了打算用于附件三第2項所列領(lǐng)域的高風(fēng)險人工智能系統(tǒng)外，受公法管轄的機構(gòu)或提供公共服務(wù)的私營實體以及附件三第5(b)和(c)項所指的高風(fēng)險人工智能系統(tǒng)的部署者，應(yīng)評估使用這種系統(tǒng)可能對基本權(quán)利產(chǎn)生的影響。為此，部署者應(yīng)進(jìn)行包括以下內(nèi)容的評估:（a）說明部署者按照預(yù)期目的使用高風(fēng)險人工智能系統(tǒng)的程序；（b）說明打算使用每個高風(fēng)險人工智能系統(tǒng)的期限和頻率；（c）在特定情況下使用該系統(tǒng)可能影響的自然人和群體的類別；（d）考慮到提供者根據(jù)第13條提供的信息，可能對根據(jù)本段(c)項確定的各類自然人或群體產(chǎn)生影響的具體危害風(fēng)險；（e）根據(jù)使用說明，說明人工監(jiān)督措施的實施情況；（f）在出現(xiàn)這些風(fēng)險時應(yīng)采取的措施，包括內(nèi)部治理和投訴機制的安排。2.第1段規(guī)定的義務(wù)適用于高風(fēng)險人工智能系統(tǒng)的首次使用。在類似情況下，部署者可依賴以前進(jìn)行的基本權(quán)利影響評估或提供者進(jìn)行的現(xiàn)有影響評估。如果在使用高風(fēng)險人工智能系統(tǒng)期間，部署者認(rèn)為第1段所列的任何要素已發(fā)生變化或不再是最新的，部署者應(yīng)采取必要步驟更新信息。3.一旦進(jìn)行了本條第1段所述的評估，部署者應(yīng)將評估結(jié)果通知市場監(jiān)督管理機構(gòu)，并提交本條第5段所述的填寫模板作為通知的一部分。在第46條第1段所述情況下，部署者可免除通知義務(wù)。4.如果本條規(guī)定的任何義務(wù)已通過根據(jù)(EU)第2016/679號條例第35條或(EU)第2016/680號指令第27條進(jìn)行的數(shù)據(jù)保護(hù)影響評估得到履行，則本條第1段所述基本權(quán)利影響評估應(yīng)作為該數(shù)據(jù)保護(hù)影響評估的補充。5.人工智能辦公室應(yīng)開發(fā)一個問卷模板，包括通過一個自動化工具，以方便部署者以簡化的方式遵守本條規(guī)定的義務(wù)。1.每個成員國應(yīng)指定或建立至少一個通知機關(guān)，負(fù)責(zé)制定和實施評估、指定和通知合格性評估機構(gòu)及其監(jiān)督的必要程序。這些程序應(yīng)由所有成員國的通知機關(guān)合作制定。2.成員國可決定第1段所述的評估和監(jiān)督工作由(EC)第765/2008號條例所指的國家認(rèn)證機構(gòu)進(jìn)行。3.通知機關(guān)的設(shè)立、組織和運作方式應(yīng)確保其與合格性評估機構(gòu)之間不存在利益沖突，并確保其活動的客觀性和公正性。4.通知機關(guān)的組織方式應(yīng)使與合格性評估機構(gòu)的通知有關(guān)的決定由不同于對這些機構(gòu)中進(jìn)行評估的主管人員作出。5.通知機關(guān)不