2023人工智能 視頻圖像審核系統(tǒng)技術(shù)規(guī)范

人工智能視頻圖像審核系統(tǒng)技術(shù)規(guī)范目??次前??言 III范圍 1規(guī)范性引用文件 1術(shù)語和定義 1縮略語 1系統(tǒng)框架 2概述 2業(yè)務(wù)域 2數(shù)據(jù)服務(wù)域 2算法引擎域 3基礎(chǔ)域 3應(yīng)用流程 3技術(shù)要求 3功能要求 3性能要求 4測試方法 6功能測試 6性能測試 7附錄A （資料性）參考測試條件 9IIPAGEPAGE1PAGEPAGE2人工智能視頻圖像審核系統(tǒng)技術(shù)規(guī)范范圍本文件規(guī)定了視頻圖像審核系統(tǒng)的框架、技術(shù)要求和測試方法。本文件適用于視頻圖像審核系統(tǒng)的開發(fā)方、使用方及第三方進(jìn)行測試評估。規(guī)范性引用文件（包括所有的修改單適用于本文件。GB/T21023-2007 中文語音識別系統(tǒng)通用技術(shù)規(guī)范GB/T35678-2017 公共安全人臉識別應(yīng)用圖像技術(shù)要求術(shù)語和定義GB/T35678-2017以及下列術(shù)語和定義適用于本文件。視頻圖像審核系統(tǒng)videoandimagecensorshipsystem根據(jù)用戶設(shè)定需求，將視頻和圖像中所包含信息進(jìn)行識別、分類并處置的服務(wù)系統(tǒng)。準(zhǔn)確率accuracy對于給定的數(shù)據(jù)集，正確分類的樣本數(shù)占全部樣本數(shù)的比率。召回率recall對于給定的數(shù)據(jù)集，正確預(yù)測的樣本數(shù)占全部正確樣本的比率?？s略語下列縮略語適用于本文件。AI：人工智能（ArtificialIntelligence）API：應(yīng)用程序接口（ApplicationProgrammingInterface）QPS：每秒查詢量（QueryPerSecond）JPEG：聯(lián)合圖像專家組（JointPhotographicExpertsGroup）BMP：位圖（Bitmap）PNG：便攜式網(wǎng)絡(luò)圖形（PortableNetworkGraphics）TIFF：標(biāo)簽圖像文件格式（TagImageFileFormat）系統(tǒng)框架（圖1 視頻圖像審核系統(tǒng)框架業(yè)務(wù)域業(yè)務(wù)域包括以下功能：標(biāo)簽管理：應(yīng)支持按照業(yè)務(wù)邏輯配置審核標(biāo)簽等功能；人物庫管理：應(yīng)支持人物庫管理功能；關(guān)鍵詞管理：應(yīng)支持使用關(guān)鍵詞等關(guān)鍵信息在結(jié)構(gòu)化數(shù)據(jù)庫進(jìn)行匹配；審核模板管理：應(yīng)支持審核模板的新增、刪除、查詢、更改等功能；審核任務(wù)管理：應(yīng)支持對審核任務(wù)的新增、刪除、查詢、更改等功能；審核結(jié)果輸出：應(yīng)支持對審核結(jié)果的查看和篩選等功能，宜支持導(dǎo)出功能；離線審核管理：應(yīng)支持對離線審核文件進(jìn)行導(dǎo)入和查看等功能；用戶管理：應(yīng)具備用戶管理和權(quán)限管理等功能；系統(tǒng)日志：應(yīng)支持自動生成相關(guān)系統(tǒng)操作日志等功能。數(shù)據(jù)服務(wù)域數(shù)據(jù)服務(wù)域包括以下功能：接口服務(wù)：應(yīng)支持查詢檢索服務(wù)、數(shù)據(jù)管理等服務(wù)；可支持其他服務(wù)或系統(tǒng)接入功能；數(shù)據(jù)庫：應(yīng)支持標(biāo)簽庫、人物庫和關(guān)鍵詞庫；可支持其他數(shù)據(jù)庫管理功能；數(shù)據(jù)處理：應(yīng)支持?jǐn)?shù)據(jù)清洗、轉(zhuǎn)換、加載等功能，其中視頻數(shù)據(jù)應(yīng)支持視頻截幀，語音數(shù)據(jù)應(yīng)支持音軌提??；可支持其他數(shù)據(jù)處理功能；PAGEPAGE3PAGEPAGE4數(shù)據(jù)接入：應(yīng)支持視頻、圖像、語音、文本等數(shù)據(jù)類型接入；可支持其他元信息。算法引擎域算法引擎域針對視頻、圖像、語音、文本等數(shù)據(jù)進(jìn)行標(biāo)簽化標(biāo)識，支持對標(biāo)簽化關(guān)鍵詞進(jìn)行分組、新增、刪除、查詢、更改等操作：視圖服務(wù)引擎：應(yīng)支持視頻、圖像分類、標(biāo)簽識別、特征提取功能，可支持其他功能；語音服務(wù)引擎：應(yīng)支持語音轉(zhuǎn)寫、語義分析、聲紋提取功能，可支持其他功能；文本服務(wù)引擎：應(yīng)支持文本實體分割、特定語種識別、文字特征提取功能，可支持其他功能?；A(chǔ)域應(yīng)用流程視頻圖像審核系統(tǒng)的各組成部分與內(nèi)容采集系統(tǒng)和人工審核系統(tǒng)之間的關(guān)系見圖2，系統(tǒng)的部署形圖2流程關(guān)系圖技術(shù)要求功能要求標(biāo)簽管理系統(tǒng)標(biāo)簽管理包括以下要求：系統(tǒng)應(yīng)能查看已支持的標(biāo)簽列表，并能配置指定標(biāo)簽的報警閾值，根據(jù)報警閾值進(jìn)行輸出審核結(jié)果；系統(tǒng)標(biāo)簽體系應(yīng)支持按照審核業(yè)務(wù)需求進(jìn)行分類、移動；系統(tǒng)宜支持對標(biāo)簽的啟用、禁用等功能；系統(tǒng)宜支持對標(biāo)簽的新增、刪除、查詢、更改等功能。人物庫管理系統(tǒng)人物管理包括以下要求：系統(tǒng)應(yīng)支持對符合GB/T35678-2017中4.1要求的人臉圖像數(shù)據(jù)進(jìn)行人臉注冊，并與接入數(shù)據(jù)進(jìn)行識別、比對，生成相似度值；系統(tǒng)應(yīng)支持對符合GB/T35678-2017中4.2要求的人臉圖像數(shù)據(jù)進(jìn)行檢測、識別；系統(tǒng)宜支持對人物以及相關(guān)人臉圖像數(shù)據(jù)的新增、刪除、查詢、更改等功能。關(guān)鍵詞管理系統(tǒng)應(yīng)支持對關(guān)鍵詞庫以及庫中關(guān)鍵詞的新增、刪除、查詢、更改等功能。審核模板管理系統(tǒng)審核模板管理包含以下要求：系統(tǒng)應(yīng)支持創(chuàng)建審核模板，宜支持自定義綁定標(biāo)簽、人物、關(guān)鍵詞庫、審核分?jǐn)?shù)范圍等條件；系統(tǒng)應(yīng)支持設(shè)定抽幀方式及頻率；系統(tǒng)應(yīng)支持審核模板的新增、刪除、查詢、更改等功能，開啟與關(guān)閉，設(shè)置默認(rèn)模板。審核任務(wù)管理系統(tǒng)審核任務(wù)管理包括以下要求：系統(tǒng)應(yīng)支持通過配置標(biāo)簽、人物、關(guān)鍵詞、審核分?jǐn)?shù)范圍等條件進(jìn)行審核任務(wù)的創(chuàng)建、編輯操作；系統(tǒng)應(yīng)支持選擇審核模板；系統(tǒng)應(yīng)支持審核任務(wù)的刪除操作；系統(tǒng)應(yīng)支持通過審核任務(wù)名稱對審核任務(wù)進(jìn)行篩選。審核結(jié)果輸出系統(tǒng)審核結(jié)果輸出包括以下要求：系統(tǒng)應(yīng)支持查看審核任務(wù)的審核結(jié)果；系統(tǒng)應(yīng)支持通過時間、標(biāo)簽、人物、關(guān)鍵詞、審核分?jǐn)?shù)范圍等條件對審核結(jié)果進(jìn)行篩選。離線審核管理系統(tǒng)離線審核管理包括以下要求：系統(tǒng)應(yīng)支持通過創(chuàng)建離線審核任務(wù)的方式對離線文件進(jìn)行審核，離線文件導(dǎo)入類型可包括視頻、圖像、語音、文本等數(shù)據(jù)類型；系統(tǒng)應(yīng)支持查看離線審核任務(wù)的審核結(jié)果。用戶管理系統(tǒng)日志系統(tǒng)日志包括以下要求：系統(tǒng)應(yīng)支持自動生成操作日志，記錄操作人員的身份信息、進(jìn)入、退出系統(tǒng)的時間和操作情況；系統(tǒng)應(yīng)具備操作日志查詢、導(dǎo)出等功能。性能要求兼容性系統(tǒng)兼容性包括以下要求：圖像編碼應(yīng)支持JPEG、BMP、PNG、TIFF等格式，可支持其他格式；視頻編碼應(yīng)支持H.264、H.265、AVS等格式，視頻分辨率應(yīng)支持50*50以上像素，宜支持1920*1080以下像素；音頻編碼應(yīng)支持MP3、ACC等格式，可支持其他格式；文本應(yīng)支持Word、Excel、PPT、PDF、TXT等格式，可支持其他格式。算法性能視頻圖像識別類人臉類對于視頻圖像中大于（32×32）像素的人臉類檢測識別，應(yīng)符合以下要求：準(zhǔn)確率不低于90%；召回率不低于90%；每秒查詢量（QPS）不低于200；響應(yīng)時間不宜大于2s。物體類對于視頻圖像中寬邊大于50像素的物體檢測識別，應(yīng)符合以下要求：準(zhǔn)確率不低于90%；召回率不低于80%；每秒查詢量（QPS）不低于200。響應(yīng)時間不宜大于2s。圖標(biāo)類對于視頻圖像中寬邊大于60像素的特定圖標(biāo)檢測識別，應(yīng)符合以下要求：準(zhǔn)確率不低于95%；召回率不低于80%；每秒查詢量（QPS）不低于300。響應(yīng)時間不宜大于2s。場景類對于視頻圖像中大于整體畫面10%的目標(biāo)場景分類，應(yīng)符合以下要求：準(zhǔn)確率不低于90%；召回率不低于80%；每秒查詢量（QPS）不低于400。響應(yīng)時間不宜大于2s。字符類準(zhǔn)確率不低于90%；每秒查詢量（QPS）不低于30。響應(yīng)時間不宜大于2s。語音識別類對于語音的內(nèi)容檢測識別，應(yīng)符合以下要求：誤報率不高于5%；語音轉(zhuǎn)寫倍速不低于50。響應(yīng)時間不宜大于2s。測試方法功能測試標(biāo)簽管理標(biāo)簽管理測試方法如下：測試用戶指定標(biāo)簽的報警閾值進(jìn)行調(diào)整，并根據(jù)報警閾值輸出審核結(jié)果，通過調(diào)整某一標(biāo)簽的閾值觀察在相同輸入下的輸出結(jié)果變化，是否在修改該標(biāo)簽閾值后所期望的結(jié)果一致；測試用戶根據(jù)不同業(yè)務(wù)對標(biāo)簽體系進(jìn)行分類、移動標(biāo)簽；測試用戶查看標(biāo)簽的啟用、禁用功能，先選取輸出結(jié)果帶有某標(biāo)簽的數(shù)據(jù)進(jìn)行測試，然后對測試用戶查看已支持的標(biāo)簽列表，通過新增、刪除、查詢或更改任意標(biāo)簽確定標(biāo)簽列表的有效性。人物庫管理人物庫管理測試方法如下：測試用戶使用符合GB/T35678-2017中4.1要求的人臉圖像數(shù)據(jù)進(jìn)行人臉數(shù)據(jù)注冊，然后利用測試用戶將多張符合GB/T35678-2017中4.2要求的人臉圖像數(shù)據(jù)接入系統(tǒng)，觀察系統(tǒng)能夠檢測到人臉位置并獲取人臉圖像的圖像數(shù)占總輸入圖像的比例；測試用戶對人物以及相關(guān)人臉圖像數(shù)據(jù)進(jìn)行新增、刪除、查詢、更改等操作，觀察功能有效性。關(guān)鍵詞管理關(guān)鍵詞管理測試方法如下：審核模板管理審核模板管理測試方法如下：測試用戶對審核模板進(jìn)行創(chuàng)建，并觀察是否能夠在審核模板中自定義綁定標(biāo)簽、人物、關(guān)鍵詞庫、審核分?jǐn)?shù)范圍等條件；測試用戶對審核模板進(jìn)行創(chuàng)建，并觀察是否能夠設(shè)定抽幀方式及頻率；測試用戶對審核模板進(jìn)行新增、刪除、查詢、更改等操作，檢測功能有效性。并觀察已創(chuàng)建的審核模板是否支持開啟與關(guān)閉以及設(shè)置默認(rèn)模板。審核任務(wù)管理審核任務(wù)管理測試方法如下：測試用戶根據(jù)系統(tǒng)要求配置任意標(biāo)簽、人物、關(guān)鍵詞、審核分?jǐn)?shù)范圍進(jìn)行審核任務(wù)的創(chuàng)建、測試用戶在創(chuàng)建一系列任務(wù)后對部分任務(wù)進(jìn)行刪除，觀察系統(tǒng)是否只執(zhí)行了剩余的任務(wù)；測試用戶通過輸入審核任務(wù)名稱，觀察系統(tǒng)是否對審核任務(wù)進(jìn)行篩選展示。審核結(jié)果輸出審核結(jié)果測試方法如下：離線審核管理離線審核管理測試方法如下：用戶管理用戶管理測試方法如下：系統(tǒng)日志系統(tǒng)日志測試方法如下：測試用戶進(jìn)入系統(tǒng)、退出系統(tǒng)并做出一些操作，將這些操作進(jìn)行記錄，然后觀察系統(tǒng)日志中是否有相對應(yīng)的日志，包括身份信息記錄、操作時間以及操作記錄；測試用戶對操作日志進(jìn)行查詢并導(dǎo)出，觀察系統(tǒng)是否能導(dǎo)出相關(guān)日志。性能測試兼容性算法性能在已部署好的測試環(huán)境中執(zhí)行測試用例，記錄測試結(jié)果。準(zhǔn)確率和召回率：根據(jù)測試結(jié)果，基于混淆矩陣（見表1），統(tǒng)計真正樣本數(shù)（TP），假正樣本數(shù)（FP），假負(fù)樣本數(shù)（FN），真負(fù)樣本數(shù)（TN），根據(jù)下式對準(zhǔn)確率和召回率進(jìn)行計算，計算結(jié)果應(yīng)符合6.2.2中要求。表1 混淆矩陣真實值預(yù)測值正值（Positive）負(fù)值（Negative）正值（Positive）真正樣本數(shù)（TP）假負(fù)樣本數(shù)（FN）負(fù)值（Negative）假正樣本數(shù)（FP）真負(fù)樣本數(shù)（TN）準(zhǔn)確率計算方法：式中：TP——真正樣本數(shù)；TN——真負(fù)樣本數(shù)；FP——假正樣本數(shù)；FN——假負(fù)樣本數(shù)。召回率計算方法：

(1)(2)式中：TP——真正樣本數(shù)；FN——假負(fù)樣本數(shù)。誤報率：誤報率應(yīng)按照GB/T21023-2007中第七章的方法進(jìn)行測試；每秒查詢量：采用并發(fā)性能測試工具，設(shè)置并發(fā)數(shù)N個，每個并發(fā)用戶不斷向被測審核系統(tǒng)發(fā)送審核請求，記錄成功執(zhí)行的查詢平均響應(yīng)時間為T秒，則QPS=N/T。根據(jù)監(jiān)測結(jié)果與6.2.2中要求進(jìn)行比對；響應(yīng)時間：采用性能測試工具，設(shè)置并發(fā)數(shù)1個，用戶串行向被測審核系統(tǒng)發(fā)送審核請求，記錄成功執(zhí)行的查詢平均響應(yīng)時間為T秒,則T為響應(yīng)時間。語音轉(zhuǎn)寫倍速：測試音頻文件總時長為H小時，調(diào)用音頻轉(zhuǎn)寫接口將測試音頻文件發(fā)送到審核系統(tǒng)，記錄系統(tǒng)語音轉(zhuǎn)寫處理時間為h小時，則轉(zhuǎn)寫倍速為H/h。附 錄 A（資料性）測試工具測試工具包括軟硬件平臺，可由檢測機構(gòu)提供或由測試用戶準(zhǔn)備，其中：檢測機構(gòu)提供的測試工具要求如下：硬件平臺：CPU2.0GHz4GBLinux、windows、centos7調(diào)用算法庫進(jìn)行測試時，應(yīng)提供算法庫接口函數(shù)。測試用戶準(zhǔn)備測試工具要求如下：可結(jié)合審核系統(tǒng)實際應(yīng)用時的配置準(zhǔn)備測試工具；或直接提供被測系統(tǒng)或產(chǎn)品，使用檢測機構(gòu)提供的測試數(shù)據(jù)，被測系統(tǒng)或產(chǎn)品反饋測試結(jié)果記錄。測試環(huán)境除特殊規(guī)定外，基本測試環(huán)境如下：a) 環(huán)境溫度：15℃~