人工智能醫(yī)療器械生產(chǎn)質(zhì)量管理規(guī)范檢查指南

附件1設(shè)計(jì)開(kāi)發(fā)檢查要點(diǎn)舉例說(shuō)明1.算法策劃算法開(kāi)發(fā)策劃階段，應(yīng)對(duì)算法需求、數(shù)據(jù)收集、算法設(shè)計(jì)、驗(yàn)證與確認(rèn)、算法更新、風(fēng)險(xiǎn)管理、可追溯性分析等過(guò)程進(jìn)行算法生命周期策劃，輸出《算法開(kāi)發(fā)計(jì)劃書(shū)》。2.算法需求算法需求分析以用戶(hù)需求與風(fēng)險(xiǎn)為導(dǎo)向，結(jié)合產(chǎn)品的預(yù)期用途、使用場(chǎng)景、核心功能，綜合分析法律、法規(guī)、規(guī)章、標(biāo)準(zhǔn)、用戶(hù)、產(chǎn)品、功能、性能、接口、用戶(hù)界面、網(wǎng)絡(luò)安全、警示提示等需求，重點(diǎn)考慮數(shù)據(jù)收集、算法性能、使用限制等要求。輸出《算法需求規(guī)范》。3.數(shù)據(jù)收集3.1數(shù)據(jù)入選、排除標(biāo)準(zhǔn)在《算法需求規(guī)范》中明確算法數(shù)據(jù)入選、排除標(biāo)準(zhǔn)。3.2數(shù)據(jù)來(lái)源及質(zhì)控?cái)?shù)據(jù)收集應(yīng)確保數(shù)據(jù)來(lái)源的合規(guī)性，數(shù)據(jù)質(zhì)控的充分性、有效性、準(zhǔn)確性。3.3數(shù)據(jù)采集數(shù)據(jù)采集需考慮采集設(shè)備、采集過(guò)程、數(shù)據(jù)脫敏等質(zhì)控要求，并建立《數(shù)據(jù)采集操作規(guī)范》。3.4數(shù)據(jù)整理脫敏數(shù)據(jù)匯總形成原始數(shù)據(jù)庫(kù)，不同模態(tài)的數(shù)據(jù)在原始數(shù)據(jù)庫(kù)中需加以區(qū)分。數(shù)據(jù)整理基于原始數(shù)據(jù)庫(kù)考慮數(shù)據(jù)清洗、數(shù)據(jù)預(yù)處理的質(zhì)控要求。輸出《數(shù)據(jù)整理規(guī)范》，同時(shí)《數(shù)據(jù)整理規(guī)范》中需明確樣本類(lèi)型、樣本量、樣品分布等信息，數(shù)據(jù)經(jīng)整理后形成基礎(chǔ)數(shù)據(jù)庫(kù)。3.5數(shù)據(jù)標(biāo)注3.5.1數(shù)據(jù)標(biāo)注前應(yīng)建立《數(shù)據(jù)標(biāo)注操作規(guī)范》，明確標(biāo)注資源管理、標(biāo)注過(guò)程質(zhì)控、標(biāo)注質(zhì)量評(píng)估等要求。數(shù)據(jù)經(jīng)標(biāo)注后形成標(biāo)注數(shù)據(jù)庫(kù)。3.5.2數(shù)據(jù)標(biāo)注可使用自動(dòng)標(biāo)注軟件，但自動(dòng)標(biāo)注結(jié)果不得直接使用，應(yīng)由標(biāo)注人員審核后方可使用；同時(shí)，自動(dòng)標(biāo)注軟件亦需明確名稱(chēng)、型號(hào)規(guī)格、完整版本、制造商、運(yùn)行環(huán)境等信息，并進(jìn)行軟件確認(rèn)。3.6數(shù)據(jù)集構(gòu)建3.6.1基于標(biāo)注數(shù)據(jù)庫(kù)構(gòu)建訓(xùn)練集、調(diào)優(yōu)集、測(cè)試集，明確訓(xùn)練集、調(diào)優(yōu)集、測(cè)試集的劃分方法、劃分依據(jù)、數(shù)據(jù)分配比例，輸出《數(shù)據(jù)集構(gòu)建標(biāo)準(zhǔn)》。3.6.2訓(xùn)練集應(yīng)當(dāng)保證樣本分布具有均衡性，測(cè)試集、調(diào)優(yōu)集應(yīng)當(dāng)保證樣本分布符合臨床實(shí)際情況，訓(xùn)練集、調(diào)優(yōu)集、測(cè)試集的樣本應(yīng)當(dāng)兩兩無(wú)交集并通過(guò)查重予以驗(yàn)證。3.6.3為解決樣本分布不滿(mǎn)足預(yù)期的問(wèn)題，可對(duì)訓(xùn)練集、調(diào)優(yōu)集小樣本量數(shù)據(jù)進(jìn)行擴(kuò)增，原則上不得對(duì)測(cè)試集進(jìn)行數(shù)據(jù)擴(kuò)增，對(duì)抗測(cè)試除外。數(shù)據(jù)擴(kuò)增需明確擴(kuò)增的對(duì)象、方式（離線、在線）、方法（如翻轉(zhuǎn)、旋轉(zhuǎn)、鏡像、平移、縮放、濾波、生成對(duì)抗網(wǎng)絡(luò)等）、倍數(shù)，擴(kuò)增倍數(shù)過(guò)大應(yīng)考慮數(shù)據(jù)偏倚的影響及風(fēng)險(xiǎn)。若采用生成對(duì)抗網(wǎng)絡(luò)進(jìn)行數(shù)據(jù)擴(kuò)增，需明確算法基本信息以及算法選用依據(jù)。3.6.4數(shù)據(jù)經(jīng)擴(kuò)增后形成擴(kuò)增數(shù)據(jù)庫(kù)，需列表對(duì)比擴(kuò)增數(shù)據(jù)庫(kù)與標(biāo)注數(shù)據(jù)庫(kù)在樣本量、樣本分布（注明擴(kuò)增倍數(shù)）等差異，以證實(shí)擴(kuò)增數(shù)據(jù)庫(kù)樣本量的充分性以及樣本分布的合理性。3.7數(shù)據(jù)庫(kù)管理3.7.1數(shù)據(jù)庫(kù)管理應(yīng)遵循真實(shí)性、完整性、可用性、合規(guī)性、可追溯性、臨床代表性、時(shí)效性、安全性、準(zhǔn)確性9大原則。3.7.2應(yīng)定期對(duì)邏輯數(shù)據(jù)庫(kù)的數(shù)據(jù)以及文件數(shù)據(jù)進(jìn)行備份，備份文件保存在不同機(jī)架的機(jī)器磁盤(pán)上以提高備份的安全性。3.7.3在整個(gè)數(shù)據(jù)轉(zhuǎn)移過(guò)程中，應(yīng)當(dāng)明確數(shù)據(jù)轉(zhuǎn)移方法、數(shù)據(jù)防污染措施以及數(shù)據(jù)銷(xiāo)毀方式。4.算法設(shè)計(jì)人工智能算法設(shè)計(jì)主要考慮算法選擇、算法目標(biāo)設(shè)定分析、算法訓(xùn)練、算法性能評(píng)估等要求，形成《算法設(shè)計(jì)說(shuō)明書(shū)》。對(duì)于黑盒算法，算法設(shè)計(jì)應(yīng)開(kāi)展算法性能影響因素分析，同時(shí)與現(xiàn)有醫(yī)學(xué)知識(shí)建立關(guān)聯(lián)，以提升算法可解釋性。5.驗(yàn)證與確認(rèn)算法訓(xùn)練過(guò)程中，需要明確算法訓(xùn)練環(huán)境，應(yīng)當(dāng)對(duì)算法進(jìn)行性能評(píng)估，以確保選擇的算法準(zhǔn)確、有效。算法驗(yàn)證階段，明確算法性能評(píng)估環(huán)境，應(yīng)完成算法性能指標(biāo)評(píng)估、壓力測(cè)試、對(duì)抗測(cè)試，黑盒需要算法性能影響因素分析，輸出《算法性能評(píng)估報(bào)告》。同時(shí)，開(kāi)展算法性能比較分析，詳述各類(lèi)測(cè)試場(chǎng)景（含臨床評(píng)價(jià)）算法性能變異度較大的原因，基于分析結(jié)果明確產(chǎn)品使用限制和必要警示提示信息，輸出《算法性能比較分析報(bào)告》。最后，結(jié)合算法訓(xùn)練、算法性能評(píng)估、臨床評(píng)價(jià)等結(jié)果開(kāi)展算法性能綜合評(píng)價(jià)，針對(duì)訓(xùn)練樣本量和測(cè)試樣本量過(guò)少、測(cè)試結(jié)果明顯低于算法設(shè)計(jì)目標(biāo)、算法性能變異度過(guò)大等情況，對(duì)產(chǎn)品的適用范圍、使用場(chǎng)景、核心功能進(jìn)行必要限制。輸出《算法性能綜合評(píng)價(jià)報(bào)告》。6.算法風(fēng)險(xiǎn)管理人工智能醫(yī)療器械的軟件安全性級(jí)別可基于產(chǎn)品的預(yù)期用途、使用場(chǎng)景、核心功能進(jìn)行綜合判定，并開(kāi)展風(fēng)險(xiǎn)管理活動(dòng)，采取有效的風(fēng)險(xiǎn)控制措施將風(fēng)險(xiǎn)降至可接受水平，并貫穿于人工智能醫(yī)療器械全生命周期過(guò)程。人工智能醫(yī)療器械的主要風(fēng)險(xiǎn)從算法角度包括過(guò)擬合和欠擬合。從用途角度，輔助決策主要包括假陰性和假陽(yáng)性，其中假陰性即漏診，可能導(dǎo)致后續(xù)診療活動(dòng)延誤，特別是要考慮快速進(jìn)展疾病的診療活動(dòng)延誤風(fēng)險(xiǎn)，而假陽(yáng)性即誤診，可能導(dǎo)致后續(xù)不必要的診療活動(dòng)；非輔助決策從算法設(shè)計(jì)目標(biāo)能否得以實(shí)現(xiàn)角度，亦可參考輔助決策分為假陰性和假陽(yáng)性。應(yīng)輸出《風(fēng)險(xiǎn)管理報(bào)告》，明確過(guò)擬合與欠擬合、假陰性與假陽(yáng)性、數(shù)據(jù)擴(kuò)增與數(shù)據(jù)偏倚等風(fēng)險(xiǎn)的控制措施。7.算法可追溯性分析醫(yī)療器械全生命周期管理中，應(yīng)實(shí)現(xiàn)算法的可追溯性，并形成算法可追溯性分析報(bào)告等相關(guān)文件及記錄，即追溯算法需求、算法設(shè)計(jì)、算法實(shí)現(xiàn)、算法驗(yàn)證與確認(rèn)、風(fēng)險(xiǎn)管理、數(shù)據(jù)集的管理。在數(shù)據(jù)收集過(guò)程中，數(shù)據(jù)采集、數(shù)據(jù)整理、數(shù)據(jù)標(biāo)注、數(shù)據(jù)集構(gòu)建過(guò)程中形成《數(shù)據(jù)脫敏交接記錄》《數(shù)據(jù)清洗記錄》《數(shù)據(jù)標(biāo)注記錄》《數(shù)據(jù)審核記錄》《數(shù)據(jù)仲裁記錄》《數(shù)據(jù)集構(gòu)建記錄》，以上記錄均由操作人員簽字確認(rèn)。數(shù)據(jù)集管理過(guò)程中，每一例數(shù)據(jù)都可追溯到唯一識(shí)別號(hào)、脫敏人員、清洗人員、標(biāo)注人員、審核人員、仲裁人員、入庫(kù)人員，保證了數(shù)據(jù)收集各環(huán)節(jié)的數(shù)據(jù)和操作人員的可追溯。8.算法更新控制人工智能醫(yī)療器械若發(fā)生算法更新、軟件更新，均應(yīng)當(dāng)按照質(zhì)量管理體系的要求，開(kāi)展與算法更新、軟件更新的類(lèi)型、內(nèi)容和程度相適宜的驗(yàn)證與確認(rèn)活動(dòng)，將風(fēng)險(xiǎn)管理、可追溯分析貫穿于更新全程，形成記錄以供體系核查。對(duì)于算法更新，無(wú)論算法驅(qū)動(dòng)型更新還是數(shù)據(jù)驅(qū)動(dòng)型更新，均應(yīng)開(kāi)展算法性能評(píng)估、臨床評(píng)價(jià)等驗(yàn)證與確認(rèn)活動(dòng)，以保證算法更新的安全有效性。對(duì)于軟件更新，具體要求詳見(jiàn)醫(yī)療器械軟件指導(dǎo)原則、醫(yī)療器械獨(dú)立軟件生產(chǎn)質(zhì)量現(xiàn)場(chǎng)檢查指導(dǎo)原則。人工智能醫(yī)療器械所含的每個(gè)人工智能算法，均應(yīng)獨(dú)立開(kāi)展需求分析、數(shù)據(jù)收集、算法設(shè)計(jì)、驗(yàn)證與確認(rèn)、更新控制等活動(dòng)，同時(shí)考慮人工智能算法組合的整體評(píng)價(jià)要求，以保證產(chǎn)品的安全有效性。

附件2人工智能醫(yī)療器械常用術(shù)語(yǔ)人工智能artificialintelligence（AI）：表現(xiàn)出與人類(lèi)智能（如推理和學(xué)習(xí)）相關(guān)的各種功能的功能單元的能力。人工智能醫(yī)療器械artificialintelligencemedicaldevice（AIMD）：采用AI技術(shù)實(shí)現(xiàn)其預(yù)期用途的醫(yī)療器械。注1：如采用機(jī)器學(xué)習(xí)、模式識(shí)別、規(guī)則推理等技術(shù)實(shí)現(xiàn)其醫(yī)療用途的獨(dú)立軟件。注2：如采用內(nèi)嵌AI算法、AI芯片實(shí)現(xiàn)其醫(yī)療用途的醫(yī)療器械。機(jī)器學(xué)習(xí)machinelearning：功能單元通過(guò)獲取新知識(shí)或技能，或通過(guò)整理已有的知識(shí)或技能來(lái)改進(jìn)其性能的過(guò)程。注：也可稱(chēng)為自動(dòng)學(xué)習(xí)。深度學(xué)習(xí)deeplearning：通過(guò)訓(xùn)練具有多個(gè)隱層的神經(jīng)網(wǎng)絡(luò)來(lái)獲得輸入輸出間映射關(guān)系的機(jī)器學(xué)習(xí)方法。訓(xùn)練training：基于機(jī)器學(xué)習(xí)算法，利用訓(xùn)練數(shù)據(jù)，建立或改進(jìn)機(jī)器學(xué)習(xí)模型參數(shù)的過(guò)程。監(jiān)督學(xué)習(xí)supervisedlearning：一種學(xué)習(xí)策略，獲得的知識(shí)的正確性通過(guò)來(lái)自外部知識(shí)源的反饋加以測(cè)試的學(xué)習(xí)策略。注：也可稱(chēng)為監(jiān)督式學(xué)習(xí)。無(wú)監(jiān)督學(xué)習(xí)unsupervisedlearning：一種學(xué)習(xí)策略，它在于觀察并分析不同的實(shí)體以及確定某些子集能分組到一定的類(lèi)別里，而無(wú)需在獲得的知識(shí)上通過(guò)來(lái)自外部知識(shí)源的反饋，以實(shí)現(xiàn)任何正確性測(cè)試。注1：一旦形成概念，就對(duì)它給出名稱(chēng)，該名稱(chēng)就可以用于其他概念的后續(xù)學(xué)習(xí)了；注2：也可稱(chēng)為無(wú)師（式）學(xué)習(xí)。強(qiáng)化學(xué)習(xí)reinforcementlearning：一種學(xué)習(xí)策略，它強(qiáng)調(diào)從環(huán)境狀態(tài)到動(dòng)作映射的過(guò)程，目標(biāo)是使動(dòng)作從環(huán)境中獲得的累積獎(jiǎng)賞值最大。集成學(xué)習(xí)ensemblelearning：通過(guò)結(jié)合多個(gè)學(xué)習(xí)器來(lái)解決問(wèn)題的一種機(jī)器學(xué)習(xí)范式。注：其常見(jiàn)形式是利用一個(gè)基學(xué)習(xí)算法從訓(xùn)練集產(chǎn)生多個(gè)基學(xué)習(xí)器，然后通過(guò)投票等機(jī)制將基學(xué)習(xí)器進(jìn)行結(jié)合。遷移學(xué)習(xí)transferlearning利用一個(gè)學(xué)習(xí)領(lǐng)域A上有關(guān)學(xué)習(xí)問(wèn)題T(A)的知識(shí)，改進(jìn)學(xué)習(xí)領(lǐng)域B上相關(guān)學(xué)習(xí)問(wèn)題T(B)的學(xué)習(xí)算法的性能。過(guò)擬合overfitting：學(xué)習(xí)器對(duì)訓(xùn)練樣本過(guò)度學(xué)習(xí)，導(dǎo)致訓(xùn)練樣本中不具有普遍性的模式被學(xué)習(xí)器當(dāng)作一般規(guī)律，降低了泛化性能；典型表現(xiàn)是訓(xùn)練集上的性能越高，測(cè)試集上的性能越低。欠擬合underfitting：學(xué)習(xí)器對(duì)訓(xùn)練樣本學(xué)習(xí)不充分，導(dǎo)致訓(xùn)練樣本中包含的重要模式?jīng)]有被學(xué)習(xí)器獲取，降低了泛化性能；典型表現(xiàn)是訓(xùn)練集上的性能可以繼續(xù)提高，測(cè)試集上的性能同時(shí)得以提高。人工智能醫(yī)療器械生存周期模型AIMDlifecyclemodel：人工智能醫(yī)療器械從起始到退役的整個(gè)演進(jìn)過(guò)程的框架。注1：包括：需求分析，設(shè)計(jì)與開(kāi)發(fā)，驗(yàn)證與確認(rèn)，部署，運(yùn)維與監(jiān)控，再評(píng)價(jià)直至停運(yùn)。注2：在人工智能醫(yī)療器械生存周期中，某些活動(dòng)可出現(xiàn)在不同的過(guò)程中，個(gè)別過(guò)程可重復(fù)出現(xiàn)。例如為了修復(fù)系統(tǒng)的隱錯(cuò)和更新系統(tǒng)，需要反復(fù)實(shí)施開(kāi)發(fā)過(guò)程和部署過(guò)程。數(shù)據(jù)data：信息的可再解釋的形式化表示，以適用于通信、解釋或處理。注：可以通過(guò)人工或自動(dòng)手段處理數(shù)據(jù)。個(gè)人敏感數(shù)據(jù)personalsensitivedata： 一旦泄露、非法提供或?yàn)E用可能危害人身和財(cái)產(chǎn)安全，極易導(dǎo)致個(gè)人名譽(yù)、身心健康受到損害或歧視性待遇等的個(gè)人信息。注：個(gè)人敏感信息包括身份證件號(hào)碼、個(gè)人生物識(shí)別信息、銀行賬號(hào)、通信記錄和內(nèi)容、財(cái)產(chǎn)信息、征信信息、行蹤軌跡、住宿信息、健康生理信息、交易信息、14歲以下（含）兒童的個(gè)人信息等。健康數(shù)據(jù)healthdata：與身體或心理健康相關(guān)的個(gè)人敏感數(shù)據(jù)。注：由于目前全球規(guī)定了不同的隱私合規(guī)性法律和法規(guī)。例如，在歐洲，可能需要采取的要求和參考變更為“個(gè)人數(shù)據(jù)”和“敏感數(shù)據(jù)”，在美國(guó)，健康數(shù)據(jù)可能會(huì)變更為“受保護(hù)的健康信息（PHI）”，這需要不同國(guó)家或地區(qū)的制造商進(jìn)一步考慮中國(guó)當(dāng)?shù)氐姆苫蚍ㄒ?guī)。數(shù)據(jù)集dataset：具有一定主題，可以標(biāo)識(shí)并可以被計(jì)算機(jī)化處理的數(shù)據(jù)集合。訓(xùn)練集trainingset：用于訓(xùn)練人工智能算法的數(shù)據(jù)集，其外部知識(shí)源可用于算法參數(shù)的計(jì)算。調(diào)優(yōu)集tuningset：用于優(yōu)化人工智能算法的數(shù)據(jù)集，其外部知識(shí)源可用于算法超參數(shù)的選擇。注：為避免與醫(yī)療器械領(lǐng)域所用術(shù)語(yǔ)“確認(rèn)”進(jìn)行區(qū)分，這里不使用通用人工智能領(lǐng)域的validationset，二者含義一致。測(cè)試集testingset：用于測(cè)試人工智能算法性能的數(shù)據(jù)集，其外部知識(shí)源可用于對(duì)算法的評(píng)估。參考標(biāo)準(zhǔn)referencestandard：篩查、診斷和治療過(guò)程或基于標(biāo)注過(guò)程建立的基準(zhǔn)。注：參考標(biāo)準(zhǔn)可包含疾病、生理狀態(tài)或生理異常以及位置和程度等信息標(biāo)簽。金標(biāo)準(zhǔn)goldstandard：篩查、診斷和治療可依據(jù)的最佳參考標(biāo)準(zhǔn)。數(shù)據(jù)清洗datacleaning：檢測(cè)和修正數(shù)據(jù)集合中錯(cuò)誤數(shù)據(jù)項(xiàng)的預(yù)處理過(guò)程。數(shù)據(jù)采集dataacquisition：數(shù)據(jù)由生成裝置按照數(shù)據(jù)采集規(guī)范生成，以數(shù)字化格式存儲(chǔ)并傳輸?shù)侥繕?biāo)系統(tǒng)的過(guò)程。數(shù)據(jù)脫敏datamasking：通過(guò)去標(biāo)識(shí)化或匿名化，實(shí)現(xiàn)對(duì)個(gè)人敏感信息的可靠保護(hù)。數(shù)據(jù)標(biāo)注dataannotation：對(duì)數(shù)據(jù)進(jìn)行分析，添加外部知識(shí)的過(guò)程。仲裁arbitration：多名標(biāo)注人員對(duì)同一原始數(shù)據(jù)的標(biāo)注結(jié)果不一致時(shí)用于決定最終結(jié)果的過(guò)程。軟件質(zhì)量softwarequality：在規(guī)定條件下使用時(shí)，軟件產(chǎn)品滿(mǎn)足明確或隱含要求的能力。軟件質(zhì)量保證softwarequalityassurance：a)為使某項(xiàng)目或產(chǎn)品遵循已建立的技術(shù)需求提供足夠的置信度，而必須采取的有計(jì)劃的和有系統(tǒng)的全部動(dòng)作的模式。b)設(shè)計(jì)以估算產(chǎn)品開(kāi)發(fā)或制造過(guò)程的一組活動(dòng)?？煽啃詒eliability：在規(guī)定時(shí)間間隔內(nèi)和規(guī)定條件下，系統(tǒng)或部件執(zhí)行所要求功能的能力。完整性integrity：保護(hù)數(shù)據(jù)準(zhǔn)確性和完備性的性質(zhì)。一致性consistency：在數(shù)據(jù)集的各階段、部分之間，一致、標(biāo)準(zhǔn)化、無(wú)矛盾的程度。重復(fù)性repeatability： 由同一操作員按相同的方法、使用相同的測(cè)試或測(cè)量設(shè)施、在短時(shí)間間隔內(nèi)對(duì)同一測(cè)試/測(cè)量對(duì)象進(jìn)行測(cè)試/測(cè)量，所獲得的獨(dú)立測(cè)試/測(cè)量結(jié)果間的一致程度。再現(xiàn)性reproducibility：由不同的操作員按相同的方法，使用不同的測(cè)試或測(cè)量設(shè)施，對(duì)同一測(cè)試/測(cè)量對(duì)象進(jìn)行觀測(cè)以獲得獨(dú)立測(cè)試/測(cè)量結(jié)果，所獲得的獨(dú)立測(cè)試/測(cè)量結(jié)果間的一致程度?？蛇_(dá)性accessibility：組成軟件的各部分便于選擇使用或維護(hù)的程度?？傻眯詀vailability：a）軟件（系統(tǒng)或部件）在投入使用時(shí)可操作或可訪問(wèn)的程度或能實(shí)現(xiàn)其制定系統(tǒng)功能的概率；b）系統(tǒng)正常工作時(shí)間和總的運(yùn)行時(shí)間之比；c）在運(yùn)行時(shí)，某一配置項(xiàng)實(shí)現(xiàn)指定功能的能力。保密性confidentiality：數(shù)據(jù)對(duì)未授權(quán)的個(gè)人、實(shí)體或過(guò)程不可用或不泄露的特性。網(wǎng)絡(luò)安全cybersecurity：通過(guò)采取必要措施，防范對(duì)數(shù)據(jù)、模型等攻擊、侵入、干擾、破壞和非法使用以及意外事故，使設(shè)備處于穩(wěn)定可靠運(yùn)行的狀態(tài)，以及保障數(shù)據(jù)、模型等的完整性、保密性、可得性的能力。安全性safety：免除于不可接受的風(fēng)險(xiǎn)。魯棒性/穩(wěn)健性：在存在無(wú)效輸入或急迫的環(huán)境條件下，系統(tǒng)或部件其功能正確的程度。泛化能力generalizability：機(jī)器學(xué)習(xí)算法對(duì)陌生樣本的適應(yīng)能力?？勺匪菪詔raceability：系統(tǒng)對(duì)其決策過(guò)程及輸出進(jìn)行記錄的特性。公平性fairness：系統(tǒng)做出不涉及喜好和偏袒決策的性質(zhì)?？山忉屝詄xplainability：以人能理解的方式，對(duì)系統(tǒng)決策因素進(jìn)行說(shuō)明的能力。黑盒測(cè)試black-boxtesting：忽略系統(tǒng)或部件的內(nèi)部機(jī)制只集中于響應(yīng)所選擇的輸入和執(zhí)行條件產(chǎn)生的輸出的一種測(cè)試。白盒測(cè)試glass-boxtesting：側(cè)重于系統(tǒng)或部件內(nèi)部機(jī)制的測(cè)試。類(lèi)型包括分支測(cè)試、路徑測(cè)試、語(yǔ)句測(cè)試等。對(duì)抗[措施]countermeasure：為減小脆弱性而采用的行動(dòng)、裝置、過(guò)程、技術(shù)或其他措施。對(duì)抗樣本adversarialsample：基于原始數(shù)據(jù)上添加擾動(dòng)達(dá)到混淆系統(tǒng)判別目的新樣本。對(duì)抗測(cè)試adversarialtest：使用對(duì)抗性樣本開(kāi)展的測(cè)試，或采用不同目標(biāo)樣本分布的特選數(shù)據(jù)作為壓力數(shù)據(jù)集進(jìn)行的測(cè)試。陽(yáng)性樣本positivesample：由參考標(biāo)準(zhǔn)確定為帶有某一種或幾種特定特征的樣本。陰性樣本negativesample：除陽(yáng)性樣本以外的樣本。真陽(yáng)性truepositive(TP)：被算法判為陽(yáng)性的陽(yáng)性樣本。假陽(yáng)性falsepositive(FP)：被算法判為陽(yáng)性的陰性樣本。真陰性truenegative(TN)：被算法判為陰性的陰性樣本。假陰性falsenegative(FN)：被算法判為陰性的陽(yáng)性樣本。目標(biāo)區(qū)域targetregion：在影像評(píng)價(jià)中，根據(jù)參考標(biāo)準(zhǔn)從原始數(shù)據(jù)中劃分出的若干個(gè)包含特定類(lèi)別目標(biāo)的最小數(shù)據(jù)子集（子集元素為像素，體素等）。分割區(qū)域segmentationregion：在影像評(píng)價(jià)中，從原始數(shù)據(jù)中劃分出的若干個(gè)包含特定類(lèi)別目標(biāo)的最小數(shù)據(jù)子集（子集元素為像素，體素等）。病變定位lesionlocalization：算法檢出病變位置正確標(biāo)識(shí)出參考標(biāo)準(zhǔn)確定的病變位置。非病變定位non-lesionlocalization：算法檢出病變位置未能正確標(biāo)識(shí)出參考標(biāo)準(zhǔn)確定的病變所在位置。病變定位率lesionlocalizationrate：病變定位數(shù)量占由參考標(biāo)準(zhǔn)確定的全體病變數(shù)量的比例。非病變定位率non-lesionlocalizationrate：非病變定位數(shù)量占全體病例數(shù)量的比例，非病變定位率可以大于1。假陽(yáng)性率falsepositiverate：假陽(yáng)性病例數(shù)量（陰性病例中包含非病變定位）占全部陰性病例數(shù)量的比例。靈敏度sensitivity召回率（查全率）recall:真陽(yáng)性樣本占全體陽(yáng)性樣本的比例。特異度specificity:真陰性樣本占全體陰性樣本的比例。漏檢率missrate:1減去靈敏度。精確度（查準(zhǔn)率）precision陽(yáng)性預(yù)測(cè)值positivepredictionvalue：真陽(yáng)性樣本占被算法判為陽(yáng)性樣本的比例。陰性預(yù)測(cè)值negativepredictionvalue：真陰性樣本占被算法判為陰性樣本的比例。準(zhǔn)確率accuracy：算法判斷正確的樣本占全體樣本的比例。F1度量F1-measure：召回率和精確度的調(diào)和平均數(shù)。約登指數(shù)Youdenindex：靈敏度與特異度之和減去1。受試者操作特征曲線receiveroperatingcharacteristicscurve（ROCcurve）：以假陽(yáng)性率為橫坐標(biāo)、真陽(yáng)性率為縱坐標(biāo)，根據(jù)算法在不同閾值設(shè)定下對(duì)于給定的測(cè)試集得到的一系列結(jié)果繪制的曲線。曲線下面積areaundercurve(AUC):曲線下與坐標(biāo)軸圍成的積分面積。自由響應(yīng)受試者操作特征曲線free-responsereceiveroperatingcharacteristicscurve(fROC)：以非病變定位率為橫坐標(biāo)、病變定位率為縱坐標(biāo)，根據(jù)算法在不同閾值設(shè)定下對(duì)于給定的測(cè)試集得到的一系列結(jié)果繪制的曲線。候選自由受試者操作特征曲線alternativefreereceiveroperatingcharacteristicscurve(AFROCcurve)：以假陽(yáng)性率為橫坐標(biāo)、病變定位率為縱坐標(biāo)，根據(jù)算法在不同閾值設(shè)定下對(duì)于給定的測(cè)試集得到的一系列結(jié)果繪制的曲線。精確度-召回率曲線precision-recallcurve(P-R)：以召回率為橫坐標(biāo)、精確度為縱坐標(biāo)，根據(jù)算法在不同閾值設(shè)定下對(duì)于給定的測(cè)試集得到的一系列結(jié)果繪制的曲線。平均精確度averageprecision(AP)：精確度-召回率曲線下與坐標(biāo)軸圍成的積分面積。平均精確度均值meanaverageprecision(MAP)：在多目標(biāo)檢測(cè)問(wèn)題上，算法對(duì)于各類(lèi)目標(biāo)的平均精確度的平均值。交并比intersectionoverunion(IoU)：分割區(qū)域與目標(biāo)區(qū)域的交集占分割區(qū)域與目標(biāo)區(qū)域并集的比例注：也可稱(chēng)為Jaccard系數(shù)。Dice系數(shù)Dicecoefficient：分割區(qū)域與目標(biāo)區(qū)域的交集占分割區(qū)域與目標(biāo)區(qū)域平均值的比例。中心點(diǎn)距離centraldistance：分割區(qū)域中心與目標(biāo)區(qū)域中心的距離，該指標(biāo)反映兩個(gè)集合的接近程度?；煜仃嘽onfusionmatrix：一種矩陣，它按一組規(guī)則記錄試探性實(shí)例的正確分類(lèi)和不正確分類(lèi)的個(gè)數(shù)。注1：通常矩陣的列代表人工智能的分類(lèi)結(jié)果，而矩陣的行代表參考標(biāo)準(zhǔn)的分類(lèi)結(jié)果；注2：也可稱(chēng)為含混矩陣。Kappa系數(shù)Kappacoefficient：一種用于評(píng)價(jià)結(jié)果一致性的指標(biāo)。信噪比signal-to-noiseratio(SNR)：信號(hào)平均功率水平與噪聲平均功率水平的比值。峰值信噪比peaksignal-to-noiseratio：:信號(hào)最大可能功率與噪聲平均功率水平的比值。結(jié)構(gòu)相似性structuralsimilarity：是一種衡量?jī)煞鶊D像相似度的指標(biāo)。余弦相似度cosinesimilarity：通過(guò)測(cè)量?jī)蓚€(gè)向量的夾角的余弦值來(lái)度量它們之間的相似性。困惑度perpl