香港《人工智能 (AI)：個(gè)人資料保障模范框架》

PCPD.org.hk人個(gè)架框範(fàn))料保障模能人個(gè)架框範(fàn))料保障模能(I@@支持機(jī)構(gòu)：第二部風(fēng)險(xiǎn)評(píng)估及人為監(jiān)督附錄A-《個(gè)人資料（私隱）條例》的保障資料原則人工智能（AI）的應(yīng)用領(lǐng)域廣泛，商機(jī)無(wú)限，現(xiàn)時(shí)不少企業(yè)都採(cǎi)用AI技術(shù)，從而開(kāi)源節(jié)流、提升生產(chǎn)力。不過(guò)，AI帶來(lái)的風(fēng)險(xiǎn)亦不容忽視。舉例來(lái)說(shuō)，若訓(xùn)練AI的數(shù)據(jù)不足或質(zhì)素參差，可能令A(yù)I系統(tǒng)作出錯(cuò)誤或帶若訓(xùn)練數(shù)據(jù)包含個(gè)人資料，系統(tǒng)或會(huì)在輸出過(guò)程中洩露這些資料。創(chuàng)新應(yīng)用帶來(lái)的新風(fēng)險(xiǎn)，難免會(huì)對(duì)監(jiān)管帶來(lái)挑戰(zhàn)。隨著AI急速發(fā)展，世界各應(yīng)用。積極為本港企業(yè)指引方向，協(xié)助企業(yè)利用科技帶來(lái)的便利之餘，這框架以風(fēng)險(xiǎn)為本的原則，為有意採(cǎi)購(gòu)、實(shí)施及使用AI系統(tǒng)的本地企業(yè)提供既實(shí)用又詳盡的建議?？蚣芨采w業(yè)務(wù)流程的各個(gè)部分，企業(yè)無(wú)論是採(cǎi)購(gòu)現(xiàn)有的AI方案或按本身需要定製AI方案，均可在指引中取得落地的建議。筆者鼓勵(lì)企業(yè)在採(cǎi)購(gòu)及使用AI系統(tǒng)時(shí)，應(yīng)先參考這框架，並實(shí)踐框架內(nèi)的措施，從而以保障個(gè)人資料私隱，確保使用安全、合乎道德而且負(fù)責(zé)任的方式運(yùn)用創(chuàng)新科技。適逢國(guó)家正快速發(fā)展新質(zhì)生產(chǎn)力，並開(kāi)展了「人工智能＋」行驅(qū)動(dòng)產(chǎn)業(yè)發(fā)展，私隱專員公署推出這指引，正好可以協(xié)助企業(yè)善用AI技術(shù)，促進(jìn)產(chǎn)業(yè)創(chuàng)新及升級(jí)轉(zhuǎn)型，幫助推進(jìn)香港數(shù)字經(jīng)濟(jì)發(fā)展、加速建際創(chuàng)科中心，積極融入國(guó)家發(fā)展大局。全國(guó)政協(xié)委員立法會(huì)議員香港中文大學(xué)工程學(xué)院副院長(zhǎng)（外務(wù)）3序然而，在採(cǎi)取適當(dāng)?shù)谋Ｕ洗胧┫?，例如?shí)施全面的個(gè)人資料保障框架，AI的使用將可以帶來(lái)更大的益處。作為保障個(gè)人資料私隱的守護(hù)者，挑戰(zhàn)需要尋找一個(gè)全球性的解決方案，因此我們致力在國(guó)際層面括主辦AI國(guó)際會(huì)議，促進(jìn)專家之間具意義的對(duì)話，並在環(huán)球私隱議會(huì)（一個(gè)得信賴的AI的決議。最近，聯(lián)合國(guó)大會(huì)通過(guò)歷史性的決議，推動(dòng)「安全、可靠和值得信賴」的AI，而國(guó)家早前亦發(fā)布《全球人工智能治理倡議》，可說(shuō)為體現(xiàn)國(guó)家的《全球人工智能治理倡議》，私個(gè)人資料保障模範(fàn)框架》（《模範(fàn)框架》以協(xié)助機(jī)構(gòu)在採(cǎi)購(gòu)、實(shí)施及使用AI系統(tǒng)時(shí)處理個(gè)人資料。這《模範(fàn)框架》吻合一般業(yè)務(wù)流程，以確保AI系統(tǒng)《模範(fàn)框架》得以制定，有賴政府資訊科技總監(jiān)辦公室和香港應(yīng)用科技研究院的鼎力支持。我非常感謝各持份者，包括私隱專員公署科技發(fā)展常成員和業(yè)界專家，向我們提供了寶貴的意見(jiàn)和觀點(diǎn)。我亦衷心感謝我的團(tuán)隊(duì)，特別是蕭頴思女士、廖雅欣女士、陳筠朗女士和張偉瑜先生在草擬不倦，以專業(yè)的態(tài)度考慮及綜合了持分者的意見(jiàn)及其他司法管轄區(qū)常規(guī)?！赌９?fàn)框架》可說(shuō)是亞太區(qū)首個(gè)在AI領(lǐng)域針對(duì)保障個(gè)人資料私隱而制定的指孕育AI在香港的健康及安全發(fā)展，促進(jìn)香港成為創(chuàng)新科技樞紐，並推動(dòng)香港以至大灣區(qū)的數(shù)字經(jīng)濟(jì)發(fā)展。個(gè)人資料私隱專員1.人工智能（AI）沒(méi)有通用的定義，泛指一系列模仿人類智能及以電腦程式和機(jī)器透過(guò)所輸入的數(shù)據(jù)執(zhí)行解難、提供建議和預(yù)測(cè)、作出決策及生成內(nèi)容等工作（或?qū)⑵渥詣?dòng)化）的科技。 圖1：數(shù)據(jù)管理價(jià)值及AI道德原則1?問(wèn)責(zé)?人為監(jiān)督?透明度與可解釋性?數(shù)據(jù)私隱2?可靠、穩(wěn)健及安全3?公平基礎(chǔ)模型是以大量非結(jié)構(gòu)化資料訓(xùn)練的AI模型，能夠廣泛應(yīng)用於不同的任務(wù)、操作和應(yīng)用程式，且有多種用途。就生成式AI而言，基礎(chǔ)模例如，大型語(yǔ)言模型是以文字資料訓(xùn)練的基礎(chǔ)模型，可應(yīng)用於需要自然5.儘管小型語(yǔ)言模型日漸增加，但對(duì)於許多機(jī)構(gòu)來(lái)說(shuō)，開(kāi)發(fā)大型基礎(chǔ)模型成本高昂亦耗費(fèi)時(shí)間，因此越來(lái)越多企業(yè)（特別是中小企）在其營(yíng)運(yùn)中採(cǎi)用AI時(shí)，會(huì)傾向從銷售商和開(kāi)發(fā)商購(gòu)買(mǎi)為買(mǎi)家的特定用例而度身訂強(qiáng)其決策能力、自動(dòng)化流程、生成內(nèi)容，以及從數(shù)據(jù)中獲取見(jiàn)解。在這同責(zé)任。 圖2：AI模型開(kāi)發(fā)商、銷售商和採(cǎi)購(gòu)／實(shí)施／使用AI的機(jī)構(gòu)的概況（例如：政府、公營(yíng)機(jī)構(gòu)、私營(yíng)公司）1「基礎(chǔ)模型」一般是指使用廣泛且大規(guī)模的數(shù)據(jù)訓(xùn)練而成的機(jī)器學(xué)習(xí)模型，其輸出結(jié)果具通用性，並且適用於各種下游的特定工作或用途，包括完成簡(jiǎn)單的工作、理解自然語(yǔ)言、翻譯及生成內(nèi)容。2根據(jù)美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院的說(shuō)法，自然語(yǔ)言處理是一種強(qiáng)大的計(jì)算方法，可讓機(jī)器有意義地理解人類的口頭和書(shū)面語(yǔ)言。自然語(yǔ)言處理能夠支援演算法搜尋、語(yǔ)音翻譯，甚至對(duì)話文字生成等活動(dòng)，幫助我們與電腦系統(tǒng)溝通以執(zhí)行各種任務(wù)。6.本模範(fàn)框架向採(cǎi)購(gòu)、實(shí)施及使用任何種類的AI系統(tǒng)（包括預(yù)測(cè)式AI和提供最佳行事常規(guī)。本模範(fàn)框架建基於一般最佳行事常規(guī)。機(jī)構(gòu)可以採(cǎi)納本模範(fàn)框架的建議以協(xié)助它們遵守一些公認(rèn)的數(shù)據(jù)保障原則，當(dāng)中包括數(shù)據(jù)安全。由於AI使用大量數(shù)據(jù)，數(shù)據(jù)安全尤其重要。7.在本模範(fàn)框架中，「機(jī)構(gòu)」是指從第三方採(cǎi)購(gòu)AI方案並收集及使用個(gè)8.機(jī)構(gòu)在採(cǎi)購(gòu)、實(shí)施及使用AI方案的過(guò)程中處理個(gè)人資料時(shí)，應(yīng)確保遵從《個(gè)人資料（私隱）條例》（《私隱條例》）的規(guī)定，包括附表1的六項(xiàng)保障資料原則。該六項(xiàng)保障資料原則是《私隱條例》的核心規(guī)定，涵蓋個(gè)人資料由收集到銷毀的整個(gè)生命周期。有關(guān)保障資料原則的概覽9.本模範(fàn)框架中的建議並非涵蓋所有場(chǎng)景，機(jī)構(gòu)應(yīng)適當(dāng)?shù)貟?cǎi)取其他措施以遵從《私隱條例》的規(guī)定，並且在採(cǎi)購(gòu)、實(shí)施及使用AI方案時(shí)遵從數(shù)10.私隱專員公署倡議機(jī)構(gòu)採(cǎi)用個(gè)人資料私隱管理系統(tǒng)（PersonalDataPrivacyManagementProgramme以確保機(jī)構(gòu)負(fù)責(zé)任地收集、持有、處理及使用個(gè)人資料，從而加強(qiáng)數(shù)據(jù)管治。良好的數(shù)據(jù)管治與管治值得納入現(xiàn)行的私隱管理系統(tǒng)及／或資料管理措施，可鞏固其保障個(gè)人資料私隱的決心，並展示奉行問(wèn)責(zé)原則。）；?風(fēng)險(xiǎn)評(píng)估及人為監(jiān)督（第二部）；）；?與持份者的溝通及交流（第四部）。 圖3：個(gè)人資料保障模範(fàn)框架提供調(diào)整反饋AI策略及管治風(fēng)險(xiǎn)評(píng)估及人為監(jiān)督風(fēng)險(xiǎn)評(píng)估及人為監(jiān)督與持份者的溝通及交流AI模型的定製與AI系統(tǒng)的實(shí)施及管理調(diào)整AI系統(tǒng)以應(yīng)對(duì)持份者的關(guān)注調(diào)整AI系統(tǒng)以應(yīng)對(duì)持份者的關(guān)注12.一般來(lái)說(shuō)，採(cǎi)購(gòu)第三方AI方案的機(jī)構(gòu)應(yīng)以風(fēng)險(xiǎn)為本的方式採(cǎi)購(gòu)、實(shí)施及採(cǎi)用本模範(fàn)框架的建議措施時(shí)，應(yīng)務(wù)求所採(cǎi)取的措施與AI系統(tǒng)在該處境中可能構(gòu)成的風(fēng)險(xiǎn)相稱。機(jī)構(gòu)可考慮利用及調(diào)整現(xiàn)有的數(shù)據(jù)管治、問(wèn)責(zé)制度及第三方供應(yīng)商的管理框架，並將此模範(fàn)框架的元素合併到現(xiàn)有的工作流程中。13.高級(jí)管理層（如行政層或董事會(huì)層）的支持和積極參與是合乎道德標(biāo)準(zhǔn)及負(fù)責(zé)任地採(cǎi)購(gòu)、實(shí)施及使用AI系統(tǒng)的成功要素。機(jī)構(gòu)應(yīng)建立內(nèi)部的AI管治策略，一般包含(i)AI策略、(ii)關(guān)於採(cǎi)購(gòu)AI方案的管治考慮，以及(iii)AI管治委員會(huì)（或類似組織以引領(lǐng)相關(guān)過(guò)程。14.機(jī)構(gòu)應(yīng)制定AI策略，以展示高級(jí)管理層有決心通過(guò)合乎道德標(biāo)準(zhǔn)及負(fù)(ii)參考AI道德原則，制定特定適用於機(jī)構(gòu)在採(cǎi)購(gòu)、實(shí)施及使用AI方案方面的道德原則；政策和程序，包括制度化的決策過(guò)程和上報(bào)準(zhǔn)則；(vi)確保備有適當(dāng)?shù)幕A(chǔ)技術(shù)設(shè)施，以支援合法、負(fù)責(zé)任和優(yōu)質(zhì)的AI實(shí)施及使用，包括資料儲(chǔ)存、管理和處理工具、運(yùn)算資源和設(shè)施，及用於操作和監(jiān)察的機(jī)器學(xué)習(xí)營(yíng)運(yùn)措施（machinelearningoperations）等；職員和外部持份者（如適當(dāng)），例如業(yè)務(wù)夥伴及客戶；(ix)根據(jù)有關(guān)實(shí)施模範(fàn)框架第二、三和四部的意見(jiàn)，持續(xù)檢討和調(diào)整現(xiàn)及/或新風(fēng)險(xiǎn)緩減措施的採(cǎi)用而增加、刪除或調(diào)整用例。(ii)根據(jù)機(jī)構(gòu)使用AI的目的，選擇具有合適AI模型的AI方案?？紤]的因素包括機(jī)器學(xué)習(xí)演算法的類型（例如迴歸模型（regressionmodels）、決策樹(shù)（decisiontrees）、隨機(jī)森林（randomforests）、神經(jīng)網(wǎng)絡(luò)（neuralnetworks）等）、學(xué)習(xí)模型的類型（例如監(jiān)督式學(xué)習(xí)模型、非監(jiān)督式學(xué)習(xí)模型和強(qiáng)化學(xué)習(xí)模型）及模型的規(guī)模和複雜性；）；）； 圖4：採(cǎi)購(gòu)及實(shí)施AI模型的過(guò)程），service）的雲(yún)端平臺(tái)上運(yùn)作6所需要簽署的資料處理者協(xié)議；將AI生成內(nèi)容中的個(gè)人資料匿名化，將AI生成內(nèi)容添加標(biāo)記或）；(vii)持續(xù)分析業(yè)務(wù)和技術(shù)環(huán)境的計(jì)劃，以找出潛在研究或策略，從而幫助機(jī)構(gòu)將「貫徹私隱設(shè)計(jì)」及「貫徹道德設(shè)計(jì)」的原則納入AI管治中；(viii)持續(xù)監(jiān)察、管理和維持AI方案的計(jì)劃（見(jiàn)第3.3節(jié)並尋求AI）；4連同其他事宜，該等責(zé)任及規(guī)定應(yīng)與機(jī)構(gòu)的私隱政策（須例和情況，該等責(zé)任及規(guī)定可應(yīng)對(duì)數(shù)據(jù)集的公平性、適合機(jī)構(gòu)目的的機(jī)器學(xué)習(xí)演算法種類和學(xué)習(xí)類型，以及如何符合5機(jī)構(gòu)可參考國(guó)際標(biāo)準(zhǔn)化組織（ISO）和電機(jī)電子工程師學(xué)會(huì)（IEEE）等專業(yè)協(xié)會(huì)制定和發(fā)布的標(biāo)準(zhǔn)。例如，ISO/IEC6私隱專員公署鼓勵(lì)機(jī)構(gòu)參閱其有關(guān)外判個(gè)人資料的處理的資料單張以獲取更多資訊：.hk/tc_chi/publications/?les/dataprocessors_c 圖5：採(cǎi)購(gòu)AI方案的管治考慮有所不同，這取決於機(jī)構(gòu)為開(kāi)發(fā)及／或定製AI模型所提供的數(shù)據(jù)及指示等。以下列情況為例，機(jī)構(gòu)的參與程度在各情況中皆有不同：）；?使用第三方的自動(dòng)機(jī)器學(xué)習(xí)服務(wù)平臺(tái)，由機(jī)構(gòu)提供數(shù)據(jù)或定製指18.在每種情況下，機(jī)構(gòu)聘請(qǐng)第三方均可能引起與資料（包括個(gè)人資料）保障相關(guān)的合規(guī)事宜。機(jī)構(gòu)與第三方都應(yīng)在雙方簽署的服務(wù)協(xié)議中，明確處理有關(guān)事宜。 圖6：主要的資料（包括個(gè)人資料）保障合規(guī)事宜?控制個(gè)人資料的收集、持有、處理或使用的一方屬資料使用者?例如，決定使用哪些類型的個(gè)人資料來(lái)定製、測(cè)試、驗(yàn)證以及/或操作AI系統(tǒng)的機(jī)構(gòu)很可能被視為資料使用者。?代他人處理個(gè)人資料且不為自身目的處理該資料的一方屬資料提供平臺(tái)，便可能是資料處理者。數(shù)據(jù)中心分佈於多個(gè)司法管轄區(qū)，當(dāng)機(jī)構(gòu)（作為資料使用者）將個(gè)人資料轉(zhuǎn)移至香港以外地方時(shí)：–必須遵守《私隱條例》的相關(guān)規(guī)定，包括六項(xiàng)保障資料–應(yīng)查明是否有跨境資料轉(zhuǎn)移的法例限制或規(guī)管個(gè)人資料?如機(jī)構(gòu)作為資料使用者為定製及／或使用AI將個(gè)人資料轉(zhuǎn)移予資料處理者，則必須採(cǎi)用合約規(guī)範(fàn)或其他方法，按照保障資料第4(2)原則，防止個(gè)人資料未獲準(zhǔn)許或意外地被查閱、處理、刪除、喪失或使用。20.我們建議採(cǎi)購(gòu)、實(shí)施及使用AI系統(tǒng)的機(jī)構(gòu)具備不同領(lǐng)域的專業(yè)知識(shí)，例如電腦工程、數(shù)據(jù)科學(xué)、網(wǎng)絡(luò)安全、用戶體驗(yàn)設(shè)計(jì)、法律與合規(guī)、公共關(guān)係等。機(jī)構(gòu)應(yīng)建立具足夠資源、專業(yè)知識(shí)和決策權(quán)的內(nèi)部管治架），的監(jiān)督應(yīng)橫跨整個(gè)業(yè)務(wù)，而不受部門(mén)劃分（即風(fēng)險(xiǎn)和合規(guī)、財(cái)務(wù)或銷售等）的限制。礙。高級(jí)管理層參與及跨專業(yè)領(lǐng)域合作應(yīng)是AI管治委員會(huì)最重要的特質(zhì)。機(jī)構(gòu)應(yīng)成立包含不同技能和觀點(diǎn)的跨部門(mén)團(tuán)隊(duì)，包括業(yè)務(wù)運(yùn)作人員、採(cǎi)購(gòu)團(tuán)隊(duì)、系統(tǒng)分析師、系統(tǒng)架構(gòu)師、數(shù)據(jù)科學(xué)家、網(wǎng)絡(luò)安員、人力資源人員、客戶服務(wù)人員等。機(jī)構(gòu)應(yīng)指派高級(jí)管理人員（例如行政總裁、資訊總監(jiān)／技術(shù)總監(jiān)、私隱總監(jiān)或來(lái)自高層的類似職位）領(lǐng)導(dǎo)該跨部門(mén)團(tuán)隊(duì)。的獨(dú)立意見(jiàn)。如某項(xiàng)目規(guī)模龐大、影響廣泛及／或備受注目，其道檢視。方案；?系統(tǒng)分析師、系統(tǒng)架構(gòu)師及數(shù)據(jù)科學(xué)家應(yīng)專注於AI方案的定製、實(shí)施、監(jiān)察及維護(hù)，以及機(jī)構(gòu)的內(nèi)部數(shù)據(jù)管治流程；?法律及合規(guī)專業(yè)人員應(yīng)專注於確保機(jī)構(gòu)遵從與AI系統(tǒng)的採(cǎi)購(gòu)、實(shí)施及使用相關(guān)的法律及規(guī)例（包括資料保障法律）以及內(nèi)部政策；?客戶服務(wù)及公關(guān)人員應(yīng)與持份者（包括顧客、監(jiān)管機(jī)構(gòu)和公眾）溝通並回應(yīng)其關(guān)注。?在有需要時(shí)進(jìn)行風(fēng)險(xiǎn)評(píng)估，以識(shí)別及減低使用AI所帶來(lái)的風(fēng)?建立能夠協(xié)助機(jī)構(gòu)監(jiān)察、記錄及檢視已實(shí)施的AI方案的內(nèi)部(iv)建立有效的內(nèi)部匯報(bào)機(jī)制，用於匯報(bào)任何的系統(tǒng)故障或提出有關(guān)機(jī)構(gòu)應(yīng)制定AI策略及成立AI管治委員會(huì)（或類似組織），以引領(lǐng)AI系統(tǒng)的採(cǎi)購(gòu)、實(shí)施及使用。21.為確保有關(guān)AI的政策得以施行，機(jī)構(gòu)應(yīng)為所有相關(guān)人員提供足夠的培訓(xùn)，以確保他們具有適當(dāng)?shù)闹R(shí)、技能和認(rèn)識(shí)，以便在使用AI系統(tǒng)的環(huán)境中工作。 圖7：培訓(xùn)的例子/數(shù)據(jù)科學(xué)家?遵從資料保障法律、規(guī)例，和內(nèi)部?遵從資料保障法律、規(guī)例，和內(nèi)部所產(chǎn)生的內(nèi)容中任何不義的偏見(jiàn)、為確保審查員認(rèn)真履行其職責(zé)，以及人為監(jiān)督並非只屬象徵性質(zhì)，相關(guān)人能恰當(dāng)?shù)匦惺棺们闄?quán)和權(quán)力，在有需要時(shí)否決AI所作的建議或標(biāo)記有問(wèn)訊和解釋，以便有效行使人為監(jiān)督。22.作為私隱管理系統(tǒng)的一部分，任何有關(guān)個(gè)人資料私隱保障的培訓(xùn)（涵蓋系統(tǒng)時(shí)收集及使用個(gè)人資料的情況。23.此外，機(jī)構(gòu)亦應(yīng)通過(guò)員工會(huì)議或其他內(nèi)部溝通渠道向所有相關(guān)人員傳達(dá)合乎道德的AI的重要性和所適用的原則，以培養(yǎng)和促進(jìn)合乎道德和保障私隱的文化。 圖8：管治架構(gòu)外部AI外部AI/數(shù)據(jù)道德專家AI管治委員會(huì)高級(jí)管理人員跨部門(mén)團(tuán)隊(duì)AIAI管治委員會(huì)高級(jí)管理人員跨部門(mén)團(tuán)隊(duì)AI採(cǎi)購(gòu)團(tuán)隊(duì)使用AI的僱員清晰的角色及責(zé)任足夠的財(cái)政資源及人手培訓(xùn)及加強(qiáng)認(rèn)識(shí)24.機(jī)構(gòu)採(cǎi)購(gòu)並應(yīng)用在機(jī)構(gòu)營(yíng)運(yùn)的特定用途上的AI方案，可能包含原為一般或多項(xiàng)用途而開(kāi)發(fā)的AI模型。因此，AI系統(tǒng)的風(fēng)險(xiǎn)程度取決於機(jī)構(gòu)?用作評(píng)估個(gè)人信貸的AIAI系統(tǒng)的風(fēng)險(xiǎn)較高，因?yàn)榍罢呋驎?huì)令個(gè)人無(wú)法獲得信貸安排，而後者不太可能對(duì)個(gè)人造成重大影響。?用於內(nèi)部翻譯的生成式AI工具與直接回覆客戶的生成式AI聊天機(jī)械人相比，對(duì)個(gè)人產(chǎn)生重大影響的可能性較小。?在決策上有完全自主能力的AI系統(tǒng)亦可能比涉及一定程度人為操作的AI系統(tǒng)（例如只向人類決策者提供建議的AI系統(tǒng)）有較高風(fēng)險(xiǎn)，特別是可能對(duì)個(gè)人造成重大影響的決策。25.在採(cǎi)購(gòu)、使用及管理AI系統(tǒng)時(shí)，應(yīng)採(cǎi)取風(fēng)險(xiǎn)為本的方式。機(jī)構(gòu)需要進(jìn)行全面的風(fēng)險(xiǎn)評(píng)估，有系統(tǒng)地識(shí)別、分析及評(píng)估過(guò)程中涉及的風(fēng)險(xiǎn)，包括私隱風(fēng)險(xiǎn)。機(jī)構(gòu)應(yīng)建立一套風(fēng)險(xiǎn)管理機(jī)制，在AI系統(tǒng)的整個(gè)生命周機(jī)構(gòu)需要進(jìn)行全面的風(fēng)險(xiǎn)評(píng)估，有系統(tǒng)地識(shí)別、分析及評(píng)估採(cǎi)購(gòu)、使用及管理AI過(guò)程中涉及的風(fēng)險(xiǎn)，包括私隱風(fēng)險(xiǎn)。26.在採(cǎi)購(gòu)過(guò)程時(shí)或?qū)ΜF(xiàn)有的AI系統(tǒng)進(jìn)行重大更新時(shí)，應(yīng)由跨部門(mén)團(tuán)隊(duì)進(jìn)行風(fēng)險(xiǎn)評(píng)估。為了識(shí)別與私隱相關(guān)的風(fēng)險(xiǎn)（例如通過(guò)私隱影響評(píng)估跨部門(mén)團(tuán)隊(duì)?wèi)?yīng)包含私隱合規(guī)人員。視乎有關(guān)情況，機(jī)自不同社會(huì)、文化和宗教背景，以及不同性別及種族的人士（或具有相關(guān)知識(shí)的專家以便識(shí)別使用AI時(shí)潛在不義的偏見(jiàn)和非法的歧視、對(duì)個(gè)人權(quán)利、自由和利益的不利影響，以及更廣泛的社會(huì)影響。所有風(fēng)險(xiǎn)評(píng)估應(yīng)妥善記錄存檔，而結(jié)果應(yīng)按照機(jī)構(gòu)的AI管治委員會(huì)認(rèn)可的AI第二部風(fēng)險(xiǎn)評(píng)估及人為監(jiān)督 圖9：風(fēng)險(xiǎn)評(píng)估的程序22因應(yīng)有關(guān)風(fēng)險(xiǎn)而採(cǎi)取適當(dāng)?shù)娘L(fēng)險(xiǎn)管理措施由跨部門(mén)團(tuán)隊(duì)在採(cǎi)購(gòu)過(guò)程或?qū)ΜF(xiàn)有的AI系統(tǒng)進(jìn)行重大更新時(shí)進(jìn)行風(fēng)險(xiǎn)評(píng)估識(shí)別及評(píng)估AI系統(tǒng)的因應(yīng)有關(guān)風(fēng)險(xiǎn)而採(cǎi)取適當(dāng)?shù)娘L(fēng)險(xiǎn)管理措施由跨部門(mén)團(tuán)隊(duì)在採(cǎi)購(gòu)過(guò)程或?qū)ΜF(xiàn)有的AI系統(tǒng)進(jìn)行重大更新時(shí)進(jìn)行風(fēng)險(xiǎn)評(píng)估識(shí)別及評(píng)估AI系統(tǒng)的風(fēng)險(xiǎn)27.由於使用AI往往涉及使用個(gè)人資料，因此必須應(yīng)對(duì)資料私隱風(fēng)險(xiǎn)。為(i)用來(lái)定製所採(cǎi)購(gòu)AI方案的資料及／或輸入AI系統(tǒng)用作決策的資料的準(zhǔn)許用途，當(dāng)中須顧及《私隱條例》下的保障資料第3原(ii)個(gè)人資料的數(shù)量（當(dāng)中須顧及《私隱條例》下的保障資料第1原?AI系統(tǒng)在運(yùn)作中收集的個(gè)人資料的數(shù)量（例如監(jiān)控、系統(tǒng)）；?AI供應(yīng)商在開(kāi)發(fā)和訓(xùn)練AI方案時(shí)需要的個(gè)人資料的數(shù)量，以及AI供應(yīng)商有否盡可能採(cǎi)用匿名化技術(shù)，以遵守資料最少化的原則；9保障資料第3原則訂明，未得資料當(dāng)事人的訂明同意，個(gè)人資料不(iv)所涉及資料的質(zhì)素，當(dāng)中須考慮其來(lái)源、可靠性、真實(shí)性、準(zhǔn)確性（當(dāng)中須顧及《私隱條例》保障資料第2原則）的結(jié)果採(cǎi)取保護(hù)措施，以減輕個(gè)人資料外洩的風(fēng)險(xiǎn)，當(dāng)中須顧及(vi)私隱風(fēng)險(xiǎn)（例如個(gè)人資料的過(guò)度收集、濫用或外洩）出現(xiàn)的可能性及其潛在損害的嚴(yán)重程度。28.從更廣泛的道德標(biāo)準(zhǔn)角度來(lái)看，如使用AI系統(tǒng)可能會(huì)對(duì)持份者（尤其(i)AI系統(tǒng)對(duì)受影響個(gè)人、機(jī)構(gòu)及社會(huì)大眾的潛在影響（包括益處和損害）；(ii)AI系統(tǒng)對(duì)個(gè)人的影響出現(xiàn)的可能性，以及其嚴(yán)重程度和持續(xù)時(shí)29.使用AI系統(tǒng)對(duì)個(gè)人的潛在影響或會(huì)牽涉其法律權(quán)利、人權(quán)（包括私隱權(quán)）、就業(yè)或教育前途，以及獲得服務(wù)的機(jī)會(huì)和資格等。如AI系統(tǒng)輸出的結(jié)果很可能對(duì)個(gè)人造成重大影響，有關(guān)系統(tǒng)一般會(huì)被視為高風(fēng)險(xiǎn)。11一般被視為較敏感的個(gè)人資料包括生物辨識(shí)資料、健康資料、財(cái)務(wù)資料、位置資料、有關(guān)受保護(hù)特徵的個(gè)人資料（例如性別、種族、性取向、宗教信仰、政治立場(chǎng)等），以及弱勢(shì)群體（例如兒童）的個(gè)人資料。不能切實(shí)可行地予以查閱或處理的形式的資料）受保障而不受未獲準(zhǔn)許的或意外的查閱、處理、刪除、喪失或使用所影響，尤其須考慮該資料的種類及如該等事情發(fā)生便能造成的損害。13保障資料第2原則規(guī)定，資料使用者須採(cǎi)取所有切實(shí)可行的步驟，以確保在顧及有關(guān)的個(gè)人資料被使用於的目的下，該個(gè)人資料是準(zhǔn)確的。不能切實(shí)可行地予以查閱或處理的形式的資料）受保障而不受未獲準(zhǔn)許的或意外的查閱、處理、刪除、喪失或使用所影響，尤其須考慮為確保在保安良好的情況下傳送該資料而採(cǎi)取的措施。第二部風(fēng)險(xiǎn)評(píng)估及人為監(jiān)督當(dāng)評(píng)估當(dāng)評(píng)估AI系統(tǒng)對(duì)個(gè)人造成的潛在影響是否重大時(shí)，機(jī)構(gòu)可先考慮其使用若使用AI系統(tǒng)產(chǎn)生的輸出結(jié)果（例如對(duì)求職者的評(píng)估）在某些情況下很可能對(duì)個(gè)人造成嚴(yán)重及長(zhǎng)期的損害，且該風(fēng)險(xiǎn)無(wú)法充分減低，有關(guān)AI系統(tǒng)應(yīng)被視為高風(fēng)險(xiǎn)。圖10：AI系統(tǒng)風(fēng)險(xiǎn)評(píng)估須考慮的因素（參考例子）30.風(fēng)險(xiǎn)評(píng)估的主要目的是讓機(jī)構(gòu)識(shí)別潛在的風(fēng)險(xiǎn)，並採(cǎi)取適當(dāng)?shù)娘L(fēng)險(xiǎn)緩減及管理措施。機(jī)構(gòu)應(yīng)採(cǎi)取風(fēng)險(xiǎn)為本的方式，所採(cǎi)取的緩減風(fēng)險(xiǎn)措施的類別和程度，應(yīng)與已識(shí)別的風(fēng)險(xiǎn)程度相符和相稱。機(jī)構(gòu)應(yīng)把無(wú)法消除的剩何，剩餘風(fēng)險(xiǎn)應(yīng)盡量降至可接受的水平。如剩餘風(fēng)險(xiǎn)已在合理地切實(shí)可行的情況下減至最低，且AI系統(tǒng)可為持份者帶來(lái)的益處遠(yuǎn)超過(guò)其所帶來(lái)的風(fēng)險(xiǎn)，則被視為可接受。在採(cǎi)取風(fēng)險(xiǎn)為本的方式時(shí)，所採(cǎi)取的緩減風(fēng)險(xiǎn)措施的類別和程度應(yīng)與已識(shí)別的風(fēng)險(xiǎn)程度相符和相稱。18例如，機(jī)構(gòu)應(yīng)考慮財(cái)務(wù)損失、身體傷害、歧視、個(gè)人資料控制權(quán)的喪失、自主權(quán)的缺乏、心理傷害，以及其他對(duì)權(quán)利和自由的不利影響。所作的決策及輸出的結(jié)果負(fù)上最終的責(zé)任。32.一般來(lái)說(shuō)，風(fēng)險(xiǎn)較高（即較有可能對(duì)個(gè)人造成重大影響）的AI系統(tǒng)，(i)高風(fēng)險(xiǎn)的AI系統(tǒng)應(yīng)採(cǎi)取「人在環(huán)中」（human-in-the-loop）方式進(jìn)行人為監(jiān)督。在這模式中，人類決策者在決策過(guò)程中保留著不當(dāng)?shù)臎Q定。(ii)風(fēng)險(xiǎn)最小或較低的AI系統(tǒng)可採(cǎi)取「人在環(huán)外」（human-out-of-the-loop）方式進(jìn)行人為監(jiān)督。在這模式中，AI系統(tǒng)可在沒(méi)有人為介入下採(cǎi)納輸出的結(jié)果及／或作出決定，以達(dá)致完全自動(dòng)化/完全自動(dòng)化的決策過(guò)程。(iii)如「人在環(huán)中」及「人在環(huán)外」兩種方式均不適合，例如當(dāng)風(fēng)險(xiǎn)程度不可忽視，或「人在環(huán)中」的方式不能符合成本效益或不可行，機(jī)構(gòu)可考慮「人為管控」（human-in-command）方式。在這模式中，人類決策者會(huì)利用AI系統(tǒng)輸出的結(jié)果，監(jiān)督AI系統(tǒng)的運(yùn)作，並在有需要時(shí)才介入。圖11：風(fēng)險(xiǎn)為本的人為監(jiān)督較低AI系統(tǒng)的風(fēng)險(xiǎn)程度較高人在環(huán)外AI在沒(méi)有人為介入下人在環(huán)外AI在沒(méi)有人為介入下作出決定人為管控人類決策者監(jiān)督AI的運(yùn)作，在有需要時(shí)介入人類決策者在決策過(guò)程中第二部風(fēng)險(xiǎn)評(píng)估及人為監(jiān)督圖12：可能帶來(lái)較高風(fēng)險(xiǎn)的AI應(yīng)用例子評(píng)估個(gè)人的信用可靠程度，33.機(jī)構(gòu)使用AI系統(tǒng)時(shí)，應(yīng)視乎其風(fēng)險(xiǎn)程度，進(jìn)行適當(dāng)?shù)娜藶楸O(jiān)督。我們建議機(jī)構(gòu)從供應(yīng)商處了解AI模型的開(kāi)發(fā)及訓(xùn)練過(guò)程中有否及如何由審35.機(jī)構(gòu)可能要考慮會(huì)使用AI作決策或生成內(nèi)容的情況，以決定如何合理地作出權(quán)衡。例如，若AI系統(tǒng)的決策會(huì)影響客戶能否享用服務(wù)，而提供人為監(jiān)督的審查員亦需要向客戶解釋AI的決策，AI模型的可解釋性便可能比輸出結(jié)果的準(zhǔn)確性更為重要。我們建議機(jī)構(gòu)記錄權(quán)衡時(shí)作出的36.無(wú)論如何，機(jī)構(gòu)都必須遵守任何適用的法律要求，包括《私隱條例》的要求。圖13：減低風(fēng)險(xiǎn)時(shí)需要作出權(quán)衡的例子預(yù)測(cè)準(zhǔn)確性/表現(xiàn)資料統(tǒng)計(jì)準(zhǔn)確度可解釋性私隱增強(qiáng)技術(shù)1234輸出結(jié)果的可解釋性資料最少化機(jī)構(gòu)應(yīng)注意只使用就其目的而言足夠、數(shù)據(jù)安全/私隱輸出結(jié)果的準(zhǔn)確性20差分私隱（differentialprivacy）是在發(fā)放數(shù)據(jù)集時(shí)確保私隱受到保障的方式，做法通常是在發(fā)放數(shù)據(jù)集前在當(dāng)中加上雜訊（即作出輕微的改動(dòng)）。與去識(shí)別化不同，差分私隱不是一個(gè)特定的程序，而是通過(guò)某些程序後可令數(shù)據(jù)集達(dá)致的質(zhì)素或狀態(tài)。如果不能確定個(gè)別人士的資料是否包含在一個(gè)已發(fā)放的數(shù)據(jù)集中，該數(shù)據(jù)集便達(dá)致差分私隱的狀態(tài)。差分私隱對(duì)私隱提供的保障一般被視為較去識(shí)別化強(qiáng)。37.除了採(cǎi)購(gòu)合適的AI方案以達(dá)到機(jī)構(gòu)的目的外，用於定製AI模型及使用AI系統(tǒng)的數(shù)據(jù)數(shù)量和質(zhì)素亦會(huì)對(duì)AI系統(tǒng)的可用性、準(zhǔn)確性和可靠性有重大影響。定製AI方案的主要目的是利用數(shù)據(jù)提供更多有關(guān)特定領(lǐng)域／情況的資訊以提升AI方案的表現(xiàn)。在本模範(fàn)框架中，「定製」（customisation）是指為符合機(jī)構(gòu)使用AI的目的，而調(diào)整或改造預(yù)先38.AI模型或會(huì)持續(xù)學(xué)習(xí)和演變，而AI系統(tǒng)的操作環(huán)境亦可能會(huì)轉(zhuǎn)變。因此，我們建議機(jī)構(gòu)在採(cǎi)用AI模型後持續(xù)監(jiān)察和檢視情況，並向使用者圖14：定製與管理的主要流程準(zhǔn)備及管理數(shù)據(jù)定製及實(shí)施管理及持續(xù)監(jiān)察21微調(diào)(?ne-tuning）是採(cǎi)用以大型和通用數(shù)據(jù)集訓(xùn)練的AI模型，並使用其他特定數(shù)據(jù)對(duì)其進(jìn)行更新／調(diào)整以實(shí)現(xiàn)特定最流行的接地方法之一是檢索增強(qiáng)生成（retrieval-augmentedgeneration）。它透過(guò)加入一個(gè)提供接地?cái)?shù)據(jù)的資訊檢索系統(tǒng)來(lái)增強(qiáng)大型語(yǔ)言模型能力，以提高該大型語(yǔ)言模型在特定用例或領(lǐng)域的表現(xiàn)。39.機(jī)構(gòu)或會(huì)於AI定製和決策或輸出結(jié)果的階段使用內(nèi)部專有數(shù)據(jù)，該些數(shù)據(jù)往往涉及個(gè)人資料。定製及操作AI時(shí)，良好的數(shù)據(jù)管治不單保障個(gè)人資料私隱，亦可確保數(shù)據(jù)質(zhì)量，這對(duì)AI系統(tǒng)的穩(wěn)健性和公平性至對(duì)AI系統(tǒng)產(chǎn)生的結(jié)果有不利影響（例如預(yù)測(cè)式AI輸出不公平的結(jié)果、良好的數(shù)據(jù)管治對(duì)AI系統(tǒng)的穩(wěn)健性和公平性至為重要。訓(xùn)練數(shù)據(jù)的合法性和質(zhì)素或會(huì)影響AI方案的質(zhì)素、穩(wěn)健性和公平性，?以合法及公平的方法收集足夠但不超乎適度的個(gè)人資料-?除非已取得資料當(dāng)事人的明確及自願(yuàn)的同意，或有關(guān)個(gè)人資料已被匿名化，否則避免將個(gè)人資料用於與原本的收集?在使用個(gè)人資料前，採(cǎi)取所有切實(shí)可行的步驟，確保有關(guān)?採(cǎi)取所有切實(shí)可行的步驟，確保個(gè)人資料安全-見(jiàn)保障資?在達(dá)致原本的收集目的後，刪除有關(guān)個(gè)人資料或?qū)①Y料匿23不善的數(shù)據(jù)管治未必是生成式AI出現(xiàn)「幻覺(jué)」的唯一原因。使用轉(zhuǎn)換器架構(gòu)（式AI往往會(huì)帶有「幻覺(jué)」（hallucination）的情況，但通過(guò)接地及提示工程（prom「幻覺(jué)」的出現(xiàn)。?在收集個(gè)人資料之時(shí)或之前，採(cǎi)取所有切實(shí)可行的步驟，確保資料當(dāng)事人獲告知所需資訊，例如資料可能移轉(zhuǎn)予甚麼類別的人，尤其是當(dāng)涉及AI供應(yīng)商時(shí)-見(jiàn)保障資料?採(cǎi)取所有切實(shí)可行的步驟，確保有關(guān)機(jī)構(gòu)的個(gè)人資料政策和措施的必要資訊（例如透過(guò)私隱政策提供）可供查閱-?實(shí)施可協(xié)助機(jī)構(gòu)依從資料當(dāng)事人的要求的系統(tǒng)-見(jiàn)保障資的數(shù)據(jù)以確保結(jié)果是準(zhǔn)確和不存在偏見(jiàn)。機(jī)構(gòu)應(yīng)採(cǎi)取以下措施和?只收集及使用為達(dá)致特定目的而定製及／或操作AI相關(guān)的個(gè)人資料，刪除含有個(gè)人特徵但與該目的無(wú)關(guān)的資料，即使獲取更廣泛的數(shù)據(jù)集可以令訓(xùn)練模型輸出更準(zhǔn)確和更公平的結(jié)果。機(jī)構(gòu)可預(yù)先與AI供應(yīng)商諮詢數(shù)據(jù)科學(xué)家及主題/領(lǐng)域?qū)＜?，以識(shí)別定製AI模型所需和足夠的數(shù)據(jù)量；並將其進(jìn)行定製，以為客戶推薦時(shí)裝建議。該公司或認(rèn)為需使用不同客戶群過(guò)去的購(gòu)買(mǎi)記錄和瀏覽紀(jì)錄來(lái)微調(diào)聊天機(jī)械人。然而，客戶的姓名、聯(lián)絡(luò)資料、某些人口特徵等個(gè)人資料的使用並非是需要的。?考慮AI模型的規(guī)模和複雜性。如不需要採(cǎi)用複雜或定製的模型已能達(dá)致預(yù)期目的，則選擇需要較少數(shù)據(jù)來(lái)定製的較簡(jiǎn)單和較小模型，或選擇不需要數(shù)據(jù)來(lái)定製的現(xiàn)成模型；人，因此不是個(gè)人資料。25在假名化數(shù)據(jù)（pseudonymiseddata）內(nèi)，可識(shí)別個(gè)人身分的資料已被移除，並由其他數(shù)值取代，以防止在沒(méi)有額外資料下直接從有關(guān)數(shù)據(jù)集識(shí)別出個(gè)人的身分。假名化數(shù)據(jù)仍屬個(gè)人資料，因?yàn)樵陬~外資料的輔助下，個(gè)人仍然可被間接地識(shí)別出來(lái)。26這三種資料最少化技術(shù)可能不適用於某些類?在發(fā)放數(shù)據(jù)集供定製AI模型使用之前，對(duì)數(shù)據(jù)集應(yīng)用「差）；及?如採(cǎi)購(gòu)專家系統(tǒng)的AI模型28足以達(dá)致相同的目的而無(wú)需要尤其是用於高風(fēng)險(xiǎn)AI系統(tǒng)的數(shù)據(jù)。有關(guān)數(shù)據(jù)應(yīng)?了解用於定製模型的數(shù)據(jù)的來(lái)源、準(zhǔn)確性、可靠性、真實(shí)性、一致性、完整性、相關(guān)性及可用性；?進(jìn)行相關(guān)的數(shù)據(jù)準(zhǔn)備程序，例如注解、標(biāo)籤、清理、補(bǔ)充及聚合；?識(shí)別數(shù)據(jù)集內(nèi)的離群值和異常情況，如有需要時(shí)，移除或取代有關(guān)數(shù)值，並保留相關(guān)變更的紀(jì)錄；例子2：如某些組別人士的代表人數(shù)不足或超出比例，便可能令數(shù)據(jù)集本身存在不義的偏見(jiàn)。要處理此問(wèn)題，可採(cǎi)用不同的抽樣方法來(lái)重新平衡各類別的樣本的分佈。例子包括隨AI術(shù)語(yǔ)表，原文為英文）。專家系統(tǒng)可透過(guò)根據(jù)該領(lǐng)域的專門(mén)知識(shí)創(chuàng)建的29例如，根據(jù)《私隱條例》，個(gè)人資料應(yīng)以合法的方法收集。機(jī)構(gòu)還應(yīng)考慮其他適用的生偏見(jiàn)的特徵（例如種族）及其代理物的影響。?在數(shù)據(jù)集預(yù)留部分?jǐn)?shù)據(jù)作「保留」數(shù)據(jù)（hold-outdata）?指派人員定期檢視是否需要用更多數(shù)據(jù)進(jìn)一步定製AI模型，以確保模型的有效性。數(shù)據(jù)的質(zhì)素和安全，以及符合《私隱條例》的規(guī)定。應(yīng)記錄的資?數(shù)據(jù)的來(lái)源；?數(shù)據(jù)的準(zhǔn)許用途；?所用的數(shù)據(jù)是如何從可供使用的數(shù)據(jù)中揀選出來(lái)；?數(shù)據(jù)是如何收集、篩選、在機(jī)構(gòu)內(nèi)轉(zhuǎn)移及從機(jī)構(gòu)轉(zhuǎn)移至AI供應(yīng)商（如適用）；?數(shù)據(jù)儲(chǔ)存的位置；及?如何長(zhǎng)期維持?jǐn)?shù)據(jù)質(zhì)素。圖15：數(shù)據(jù)準(zhǔn)備的四個(gè)範(fàn)疇遵循《私隱條例》的規(guī)定遵循《私隱條例》的規(guī)定盡量減少定製及使用AI所涉及的個(gè)人資料管理用以定製及使用AI模型的數(shù)據(jù)妥善記錄處理數(shù)據(jù)的情況因此可用於測(cè)試模型能否能有效應(yīng)用於原來(lái)的訓(xùn)練數(shù)據(jù)集以外的地方。43.機(jī)構(gòu)應(yīng)按照所涉的風(fēng)險(xiǎn)程度，特別在AI模型經(jīng)定製的情況下，對(duì)AI模型進(jìn)行嚴(yán)格測(cè)試及驗(yàn)證，以確保有關(guān)模型按預(yù)期運(yùn)作，並在使用前評(píng)估括公平性、透明度和可解釋性）；有需要時(shí)，可諮詢系統(tǒng)分析師、系統(tǒng)架構(gòu)師和數(shù)據(jù)科學(xué)家以作測(cè)?將AI的決策與由人類或傳統(tǒng)非AI模型所作的決策互相比平性及準(zhǔn)確性；?使用「保留」數(shù)據(jù)／測(cè)試數(shù)據(jù)測(cè)試已定製的AI模型，以確保AI模型不會(huì)過(guò)度擬合其訓(xùn)練數(shù)據(jù)集／定製數(shù)據(jù)集，並有32例如，處理內(nèi)部文件和數(shù)據(jù)，協(xié)助草擬特定專業(yè)領(lǐng)域的文件，或以特定的）（生負(fù)面影響）。ofopportunity）等）在數(shù)學(xué)上定義。某些公平性指標(biāo)不能相互兼容，無(wú)法同時(shí)滿足。機(jī)構(gòu)應(yīng)根據(jù)具體情況選擇合適的指標(biāo)使用。35準(zhǔn)確性可通過(guò)不同的指標(biāo)（例如準(zhǔn)確度（accuracy）、精確度（precision）、召回率（recall）、F1分?jǐn)?shù)（F1互兼容，無(wú)法同時(shí)滿足。機(jī)構(gòu)應(yīng)根據(jù)具體情況選擇合適的準(zhǔn)確性指標(biāo)使用，以了解需要優(yōu)化的地方。36過(guò)度擬合（over?tting）是指「AI模型變得過(guò)於針對(duì)訓(xùn)練數(shù)據(jù)，無(wú)法泛化到未見(jiàn)過(guò)的數(shù)據(jù)，這意味著它可能無(wú)法對(duì)新的能會(huì)危及訓(xùn)練/定製數(shù)據(jù)集內(nèi)個(gè)人資料。要。?確保任何個(gè)人資料的披露均符合《私隱條例》的規(guī)定（如適用）；?在可行和適當(dāng)?shù)那闆r下，識(shí)別內(nèi)容的生成性質(zhì)（例如通過(guò)）；(iv)應(yīng)在將AI方案與機(jī)構(gòu)系統(tǒng)整合之前，進(jìn)行嚴(yán)格的用戶接受度測(cè)試。圖16：定製、測(cè)試及驗(yàn)證AI方案驗(yàn)證驗(yàn)證AI系統(tǒng)相關(guān)私隱責(zé)任和道德要求（包括公平性、測(cè)試AI模型是否有錯(cuò)誤，以確保其可靠性、穩(wěn)健性及進(jìn)行嚴(yán)格的用戶接受度測(cè)試針對(duì)嚴(yán)格驗(yàn)證AI模型的建議步驟44.視乎機(jī)構(gòu)如何將AI方案整合（即在機(jī)構(gòu)的本地內(nèi)部伺服器或由第三方的規(guī)定。將AI系統(tǒng)託管在機(jī)構(gòu)的內(nèi)部伺服器，與託管在第三方雲(yún)端伺服器相比，機(jī)構(gòu)對(duì)資料保安可掌握更多的控制權(quán)；然而，機(jī)構(gòu)應(yīng)判斷自身是否有足夠的專業(yè)知識(shí)安全地運(yùn)作及保護(hù)內(nèi)部伺服器上的系統(tǒng)。如機(jī)(i)跨境轉(zhuǎn)移資料時(shí)（如適用）如何遵守《私隱條例》（及其他適用法律）；38私隱專員公署鼓勵(lì)機(jī)構(gòu)參閱其有關(guān)雲(yún)端運(yùn)算的資料單張以獲取更多資訊：.hk/tc_chi/resources_centre/publications/?les/IL_cloud_c.pdf(ii)各方在《私隱條例》定義下作為資料使用者或資料處理者（視乎(iii)各方須遵從的資料保安要求，包括實(shí)體和技術(shù)方面的控制措施。），當(dāng)中或會(huì)涉及保安風(fēng)險(xiǎn)。其中，開(kāi)源框架（open-sour因著重透明度而公開(kāi)原始碼，在機(jī)器學(xué)習(xí)中尤其常見(jiàn)。儘管開(kāi)源軟件更安全仍未有定論，但有研究顯示依賴第三方開(kāi)發(fā)和維護(hù)程式碼的開(kāi)源額外的安全風(fēng)險(xiǎn)。無(wú)論如何，實(shí)施具開(kāi)源組件的AI方案的機(jī)構(gòu)，應(yīng)在維護(hù)程式碼和管理保安風(fēng)險(xiǎn)方面遵循行業(yè)的最佳保安措施39，並留意保安建議和警報(bào)。同樣，如機(jī)構(gòu)使用應(yīng)用程式介面將AI方案以編程方式連接至機(jī)構(gòu)內(nèi)部的程式及系統(tǒng)，應(yīng)小心檢視應(yīng)用程式介面的保安及遵守46.機(jī)構(gòu)應(yīng)根據(jù)所涉的風(fēng)險(xiǎn)程度，考慮採(cǎi)?。ɑ蛟谶m當(dāng)情況下讓AI供應(yīng)商(i)實(shí)施措施（例如紅隊(duì)演練）以盡量減低機(jī)器學(xué)習(xí)模型遭受攻擊的），41其他可能會(huì)影響個(gè)人資料私隱、針對(duì)AI模型的攻擊包括模型逆向攻擊（modelinversionattacks）和成員推理攻擊（membershipinferenc構(gòu)的內(nèi)部伺服器還是雲(yún)端伺服器運(yùn)行，該事務(wù)所應(yīng)提醒員工在使用故障；日誌）。圖17：實(shí)施AI方案的注意事項(xiàng)的例子42可追溯性是指能夠記錄AI系統(tǒng)的開(kāi)發(fā)及使用的形式達(dá)到。確?？勺匪菪杂兄鷮?shí)現(xiàn)可審核性。47.由於使用AI系統(tǒng)的風(fēng)險(xiǎn)因素或會(huì)隨著時(shí)間而改變，機(jī)構(gòu)應(yīng)持續(xù)監(jiān)察及檢視AI系統(tǒng)。AI模型本身也或會(huì)隨著時(shí)間自我學(xué)習(xí)及不斷演進(jìn)，影響48.高風(fēng)險(xiǎn)的AI系統(tǒng)比低風(fēng)險(xiǎn)系統(tǒng)需要較頻密和嚴(yán)格的監(jiān)察及檢視。我們數(shù)據(jù)準(zhǔn)備、定製、測(cè)試及驗(yàn)證、實(shí)施及使用，妥善地記錄存檔，入內(nèi)容（例如提示、查詢及要求以助防止濫用、進(jìn)行審計(jì)，(iii)重新評(píng)估AI系統(tǒng)（尤其當(dāng)AI系統(tǒng)的功能或運(yùn)作），(iv)定期檢視AI模型及在有需要和適當(dāng)?shù)那闆r下，考慮要求AI供應(yīng)商檢視模型，以確保模型的運(yùn)作及表現(xiàn)符合預(yù)和適當(dāng)時(shí)與AI供應(yīng)商一同糾正問(wèn)題，以確保AI系統(tǒng)的輸出結(jié)果在現(xiàn)實(shí)世界發(fā)生變化後仍然準(zhǔn)確（例如，定期以新數(shù)據(jù)微調(diào)及再）；(vi)與AI供應(yīng)商建立反饋及運(yùn)作支援的渠道，以持續(xù)管理AI系統(tǒng)，當(dāng)中可包括機(jī)構(gòu)內(nèi)部的AI系統(tǒng)使用者以及受AI系統(tǒng)影響的人士43例如，我們建議機(jī)構(gòu)根據(jù)穩(wěn)健的數(shù)據(jù)管理流程處理、匿名化和），人為監(jiān)督應(yīng)以避免及盡量減低人為監(jiān)督應(yīng)以避免及盡量減低AI對(duì)個(gè)人造成的風(fēng)險(xiǎn)為目的。保持警覺(jué)；?在AI輸出的結(jié)果出現(xiàn)異常時(shí)，作出標(biāo)記並在適當(dāng)情況(ix)定期評(píng)估宏觀的科技環(huán)境，以識(shí)別機(jī)構(gòu)與現(xiàn)時(shí)的科技生態(tài)系統(tǒng)的49.我們建議機(jī)構(gòu)考慮制定AI事故應(yīng)變計(jì)劃，以監(jiān)察和應(yīng)對(duì)可能意外發(fā)生 圖18：AI事故應(yīng)變計(jì)劃??應(yīng)留意和監(jiān)察可預(yù)見(jiàn)的損害類別，並制定程序應(yīng)對(duì)不可預(yù)見(jiàn)的損害。此步驟與風(fēng)險(xiǎn)評(píng)估過(guò)程密切相關(guān)。?機(jī)構(gòu)可從「AI事故資料庫(kù)」得知過(guò)去發(fā)生的AI事故48。監(jiān)察AI事故?機(jī)構(gòu)應(yīng)根據(jù)其AI系統(tǒng)的情況為AI事故作出定義。?AI事故可定義為「因AI系統(tǒng)的開(kāi)發(fā)或使用〔據(jù)稱〕對(duì)人、財(cái)產(chǎn)或環(huán)境造成損害的事件，包括侵犯人權(quán)（例如私隱和不受歧視的權(quán)利）；涉及人身傷害或死亡的傷害，可被視為『嚴(yán)重事界定AI事故??應(yīng)制定內(nèi)部政策和程序，以便員工就事故作出匯報(bào)，並讓其他持份者（即業(yè)務(wù)合作夥伴、客戶）透過(guò)反饋渠道通報(bào)任何事故。通報(bào)AI事故??指派人員負(fù)責(zé)按既定政策和程序「暫?！够颉竿Ｖ埂瓜嚓P(guān)的AI系統(tǒng)，並切斷受影響的系統(tǒng)及其他運(yùn)行的系統(tǒng)的連接。?應(yīng)在切實(shí)可行的情況下盡快通知相關(guān)監(jiān)管機(jī)構(gòu)和受影響的人士。遏止AI事故擴(kuò)大?遏止AI事故擴(kuò)大?相關(guān)人員(包括負(fù)責(zé)實(shí)施AI系統(tǒng)的人員)應(yīng)進(jìn)行徹底的檢視和調(diào)查，並作出技術(shù)上的修補(bǔ)。?調(diào)查結(jié)果應(yīng)根據(jù)機(jī)構(gòu)的AI政策作出匯報(bào)。?只有在確定進(jìn)一步損害或意想不到後果的風(fēng)險(xiǎn)降至最低後，才可恢復(fù)相關(guān)AI系統(tǒng)的運(yùn)作。調(diào)查AI事故??應(yīng)記錄事故調(diào)查的重點(diǎn)結(jié)果。?調(diào)查結(jié)果或會(huì)使採(cǎi)購(gòu)AI的內(nèi)部政策和程序有修訂的需要、實(shí)施和使用AI的策略有改變的需要，以及內(nèi)部培訓(xùn)有更新的需要。從AI事故復(fù)原匯報(bào)。 圖19：AI系統(tǒng)管理使用前測(cè)試AI模型重新評(píng)估風(fēng)險(xiǎn)人為監(jiān)督支援使用者及提供反饋渠道AI事故應(yīng)變計(jì)劃確保數(shù)據(jù)質(zhì)素及使用前測(cè)試AI模型重新評(píng)估風(fēng)險(xiǎn)人為監(jiān)督支援使用者及提供反饋渠道AI事故應(yīng)變計(jì)劃確保數(shù)據(jù)質(zhì)素及合法使用數(shù)據(jù)妥善地記錄存檔定期檢視、調(diào)校和重新訓(xùn)練AI穩(wěn)健的保安措施評(píng)估及調(diào)整AI策略解釋性」原則。機(jī)構(gòu)應(yīng)定期及有效地與持份者（尤其是內(nèi)部員工、AI應(yīng)商、個(gè)別消費(fèi)者及監(jiān)管機(jī)構(gòu)）聯(lián)絡(luò)及交流。有效的溝通對(duì)於建立信任52.如定製及使用AI的過(guò)程涉及個(gè)人資料，機(jī)構(gòu)必須依據(jù)《私隱條例》的促進(jìn)自動(dòng)化決策等；53.此外，為提高透明度與公開(kāi)性，在與持份者溝通時(shí)（特別是員工、個(gè)別），））資訊），機(jī)構(gòu)可在整個(gè)採(cǎi)購(gòu)過(guò)程及之後與AI供應(yīng)商密切協(xié)調(diào)，並在必要時(shí)要求他們提供相關(guān)指引或?qū)で笏麄兊膶I(yè)知識(shí)來(lái)應(yīng)對(duì)持份者的關(guān)注。55.如使用AI的機(jī)構(gòu)涉及處理個(gè)人資料，機(jī)構(gòu)必須注意資料當(dāng)事人有權(quán)分56.如AI系統(tǒng)的決策／輸出結(jié)果可能對(duì)個(gè)人造成重大影響，機(jī)構(gòu)應(yīng)盡可能向個(gè)人提供途徑，讓他們作出反饋、尋求解釋及／或要求人為介入。機(jī)57.從更廣泛的角度來(lái)看，我們建議機(jī)構(gòu)設(shè)立供內(nèi)部員工及／或個(gè)別消費(fèi)者表達(dá)意見(jiàn)的渠道，並鼓勵(lì)作出反饋，以就相關(guān)AI系統(tǒng)作出調(diào)整及／或58.讓AI的決策及輸出結(jié)果達(dá)致可解釋性是建立持份者信任的關(guān)鍵。在可行的情況下，機(jī)構(gòu)提供的解釋可包括下列資訊（尤其當(dāng)AI系統(tǒng)的使用可能對(duì)個(gè)人造成重大影響時(shí)）52︰負(fù)責(zé)的工作的概述，以及人類決策者的參與情況（）；性），以及導(dǎo)致個(gè)別決策／輸出個(gè)別結(jié)果的主要因素（局部可解釋性）。如提供解釋是不可行的，應(yīng)明確說(shuō)明。52有關(guān)如何有意義地解釋AI所作的自動(dòng)化決策，機(jī)構(gòu)可考慮參考英國(guó)資訊專員辦公室與阿蘭?圖靈研究所於2出的《解釋AI決策》指引，以取得更多建議：.uk/for-organisations/uk-gdpr-guidance-and-resources/arti?cial-intelligence/explaining-decisions-made-with-arti?cial-intelligence/。圖20：與持份者的溝通及交流容許拒絕使用容許拒絕使用AI及資料查閱機(jī)構(gòu)可考慮在適當(dāng)?shù)那闆r下與AI供應(yīng)商合作。機(jī)構(gòu)在決定披露的資訊類別及詳細(xì)程度時(shí)，應(yīng)考慮有關(guān)持份者理解相關(guān)資訊的能力、他們的需要，以及有關(guān)披露會(huì)否對(duì)AI系統(tǒng)的保安和合法目的造成不利影響等。例如，就用作偵測(cè)顧客欺詐行為及其他犯罪行為的AI系統(tǒng)而言，有關(guān)機(jī)構(gòu)或毋須披露AI系統(tǒng)的相關(guān)指標(biāo)，以免顧客有機(jī)會(huì)知悉如何繞過(guò)該系統(tǒng)。另一方面，若AI系統(tǒng)用作協(xié)助員工內(nèi)部使用並根據(jù)內(nèi)部數(shù)據(jù)進(jìn)60.與持份者（尤其消費(fèi)者）溝通，應(yīng)使用淺白的語(yǔ)言和清楚易明的方式，並設(shè)法讓持份者知悉。有關(guān)資訊亦可納入機(jī)構(gòu)的私隱政策內(nèi)。與持份者溝通，應(yīng)使用淺白的語(yǔ)言清楚易明的方式表達(dá)，並設(shè)法讓持份者知悉。個(gè)人資料私隱專員公署（私隱專員公署）衷心感謝以下個(gè)人和組織以及主要）：持有、處理及使用個(gè)人資料的情況?！端诫[條例》屬於科技中立收集至銷毀整個(gè)處理個(gè)人資料的生命周期。保障資料第1原則─收集目的及方式的，收集個(gè)人資料；而收集的方法須是合法和公平言須要屬必需及足夠的，但不可超乎適度。資料使用者亦須清楚表明收集資料的目的、資料可能會(huì)被及資料當(dāng)事人可要求查閱和改正自己的資料的權(quán)利及途徑。有關(guān)資訊通常在《收集個(gè)人資料聲明》中呈列。保障資料第2原則─準(zhǔn)確性及保留期間人資料準(zhǔn)確無(wú)誤，而保留時(shí)間不超過(guò)將其保存以貫徹該資料需的時(shí)間?！端诫[條例》第26條亦有類似規(guī)定，要求資料使用者刪除不再需要的個(gè)人資料。如資料使用者聘請(qǐng)資料處理者處理個(gè)人資料，資料使或其他方法，以防止資料處理者將個(gè)人資料保存超過(guò)所需的時(shí)間。保障資料第3原則─資料的使用資料不得用於新目的，即與原本的收集目的不同或不相關(guān)的目的。保障資料第4原則─資料的保安人資料不會(huì)未經(jīng)授權(quán)或意外地被查閱、處理、刪除、喪失或使用。如資料使用者聘用資料處理者處理個(gè)人資料，必須採(cǎi)法，確保資料處理者依從上述的資料保安要求。保障資料第5原則─透明度訊在一般情況下可提供予公眾，包括在個(gè)人資料方面的政策及個(gè)人資料的種類和主要使用於甚麼目的。保障資料第6原則─查閱及改正保障資料第6原則賦予資料當(dāng)事人可要求查閱及改正自己遵從查閱及改正資料要求的方式及時(shí)限，以及在甚麼情況下資料依從這些要求等。 附錄B-主要參考資料?新加坡資訊通信媒體發(fā)展局與人工智能驗(yàn)證基金會(huì)，《針對(duì)生成式人工?國(guó)際信息系統(tǒng)審計(jì)協(xié)會(huì)，《人工智能：機(jī)器學(xué)習(xí)、深度學(xué)習(xí)與神經(jīng)網(wǎng)路56?新加坡個(gè)人資料保護(hù)委員會(huì)，《關(guān)於在人工智能推薦與決策系統(tǒng)中使用?中華人民共和國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室，《全球人工智能管治倡議》61?國(guó)際信息系統(tǒng)審計(jì)協(xié)會(huì)，《人工智能革命的前景與風(fēng)險(xiǎn)：管理風(fēng)險(xiǎn)》63?國(guó)際標(biāo)準(zhǔn)化組織，《ISO/IEC23894:2023資訊科技-人工智能-風(fēng)險(xiǎn)管6557https://oecd.ai/en/ai-principles58.sg/-/media/files/pdpc/pdf-files/advisory-guidelines/advisory-guidelines-on-the-use-of-personal-data-in-ai-recommendation-and-decision-systems.pdf59il.fr/en/ai-how-sheets60.uk/government/uploads/system/uploads/attachment_data/file/1185508/Full_62.uk/media/for-organisations/guide-to-data-protection/key-dp-themes/guidance-on-ai-and-data-protection-2-0.pdf63/resources/white-papers/2023/the-promise-and-peril-of-the-ai-revolution64/obp/ui/en/#iso:std:iso-iec66/responsible-use-guide/?英國(guó)國(guó)家網(wǎng)絡(luò)安全中心與美國(guó)網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局，《開(kāi)發(fā)安全?美國(guó)國(guó)家標(biāo)準(zhǔn)暨技術(shù)研究院，《人工智能風(fēng)險(xiǎn)管理框架(AIRMF1.0)》68?中華人民共和國(guó)全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)秘書(shū)處，《網(wǎng)絡(luò)安全標(biāo)?經(jīng)濟(jì)合作與發(fā)展組織，《推進(jìn)人工智能的問(wèn)責(zé)：可信賴的人工智能