平衡發(fā)展的人工智能治理白皮書 -商湯人工智能倫理治理年度報(bào)告

——商湯人工智能倫理治理年度報(bào)告 (2022年)人工智能倫理與治理委員會(huì)2 一、人工智能發(fā)展與治理概述 6二、商湯的人工智能治理思考 10三、商湯的人工智能治理理念 13四、商湯的人工智能治理目標(biāo) 16五、商湯的人工智能治理實(shí)踐 18六、合乎倫理的產(chǎn)品設(shè)計(jì)實(shí)踐 263【關(guān)于商湯】斷增強(qiáng)行業(yè)領(lǐng)先的全棧式人工智能能力，涵蓋感知智能、決策智能、4，理原則嵌入到產(chǎn)品設(shè)計(jì)、開發(fā)、的人工智能。5【關(guān)于本報(bào)告】的6則跳出了當(dāng)前人的認(rèn)知邊界，引發(fā)更多有關(guān)治理的探討”——商湯信任挑戰(zhàn)。7理至今已經(jīng)走過了三個(gè)階段：資料來源：商湯智能產(chǎn)業(yè)研究院家紛紛跟進(jìn)，均在不同程度開展了監(jiān)管人工智能相關(guān)技術(shù)及8據(jù)經(jīng)合組織(OECD)的統(tǒng)計(jì)3，全球已有60余個(gè)國家提出了工智能治理如何落地實(shí)施的倡議日益增多。在政府側(cè)，2022盟委員會(huì)發(fā)布了第一個(gè)人工智能監(jiān)管沙箱的試點(diǎn)計(jì)劃。在市g(shù)ymediaandtelecom9圖2人工智能治理落地應(yīng)重點(diǎn)關(guān)注“三組關(guān)系”資料來源：商湯智能產(chǎn)業(yè)研究院受其調(diào)研的組織發(fā)布了或公開認(rèn)可了人工智能倫理的共同原則，但只有不到四分之一的組織將其付諸實(shí)施。人工智能倫理與現(xiàn)有組織結(jié)構(gòu)的融合問題。人工智能治理工作涉及信息安全、數(shù)據(jù)治理等與現(xiàn)有組織結(jié)構(gòu)重疊的領(lǐng)域，職責(zé)交叉、工作范圍難以厘清等問題在組織層面對推動(dòng)落地實(shí)踐形成了角不同、慮以下四方面：一是政策制定應(yīng)考慮產(chǎn)業(yè)、技術(shù)應(yīng)用的動(dòng)態(tài)httpswwwibmcomdownloadscasVQZGKAE少的誤解，有些用戶會(huì)將暫時(shí)的技術(shù)問題定義為長期性的治者相信企業(yè)在開發(fā)和部署新技術(shù)時(shí)是負(fù)責(zé)任且合乎倫理的，二、商湯的人工智能治理思考httpswwwibmcomdownloadscasVQZGKAE要來自數(shù)據(jù)、算法和應(yīng)用管理三個(gè)層面，具體來說：護(hù)、數(shù)據(jù)治理與數(shù)據(jù)質(zhì)發(fā)、測試、運(yùn)行過程中存在的隱私侵犯問題，這一類問題是當(dāng)前人工智能應(yīng)用需要解決的關(guān)鍵問題之一。數(shù)據(jù)質(zhì)量風(fēng)險(xiǎn)是指用于人工智能的訓(xùn)練數(shù)據(jù)集以及采集的現(xiàn)場數(shù)據(jù)可能會(huì)存在的質(zhì)量問題，以及導(dǎo)致相應(yīng)的不良影響，這也是人工智能特有的一類數(shù)據(jù)風(fēng)險(xiǎn)問題。數(shù)據(jù)安全風(fēng)險(xiǎn)是指人工智能開代表。算法“黑箱”風(fēng)險(xiǎn)主要指因采用復(fù)雜神經(jīng)網(wǎng)絡(luò)的算法算法安全風(fēng)險(xiǎn)是指因模型參數(shù)泄露或被惡意修改、容錯(cuò)率與倫理沖突、勞動(dòng)競爭等器在自我學(xué)習(xí)過程中輸入了數(shù)據(jù)的多維不同特征，而造成算法將偏見引入決策過程的算法歧視風(fēng)險(xiǎn)；因算法設(shè)計(jì)者出于自身的利益，對用戶進(jìn)行不良誘導(dǎo)、過度依賴算法本身、盲能在長期對于就業(yè)的負(fù)面影響，加劇不正當(dāng)競爭與市場支配現(xiàn)由低至高，可分為可用、可靠、可控、可信四個(gè)層次。。圖3人工智能治理的“分層目標(biāo)”資料來源：商湯智能產(chǎn)業(yè)研究院三、商湯的人工智能治理理念模倫受人類控制，相應(yīng)地，其人工智能應(yīng)用導(dǎo)致的倫理責(zé)任也應(yīng)由其控制者(人類)承擔(dān)。續(xù)發(fā)展，崇尚開放及包容合作，積極探索創(chuàng)新及可持續(xù)的人客觀中立、具有整體的最小必要原則，特別是對個(gè)人敏感信息的處理應(yīng)基于個(gè)人信息主體的明示同下可以無故障地實(shí)現(xiàn)特的算法模型，應(yīng)向用戶提供清晰、易懂、充分的產(chǎn)品運(yùn)行機(jī)制說明，并明確告知用在同等或近似的條件下的權(quán)利義務(wù)，應(yīng)具備相關(guān)機(jī)制實(shí)現(xiàn)對輸出結(jié)果背后的模型和治理目標(biāo)“AI倫理風(fēng)險(xiǎn)的邊界和核心要求是發(fā)展負(fù)責(zé)任的人工智能。在：分尊重、適應(yīng)不同社會(huì)文應(yīng)當(dāng)充分考慮對自然環(huán)境部署前應(yīng)當(dāng)通過充分的倫命周期及相應(yīng)的治理過程命周期中對人工智能治理(一)組織建設(shè)商湯是業(yè)界最先組建人工智能倫理與治理委員會(huì)并將倫理治理關(guān)配套管理制度。資料來源:商湯科技工作職責(zé)。(二)機(jī)制建設(shè)能數(shù)E產(chǎn)品安全、產(chǎn)品。益、市場公平、公共安全和生態(tài)安全具有間接或潛在重要影資料來源:商湯智能產(chǎn)業(yè)研究院。(三)工具建設(shè)和輸和處置)限于所確定的必須的目的。括：ISO/IEC27001:2013信息安全管理體系國際認(rèn)證、ISO/IEC27701:2019個(gè)人隱私信息管理體系(PIMS)標(biāo)準(zhǔn)認(rèn)證、ISO/IEC以達(dá)到要求的水平。資料來源:商湯科技(四)文化建設(shè)我們深刻地認(rèn)識到發(fā)展負(fù)責(zé)任且可評估人工智能的關(guān)鍵還在于關(guān)(五)生態(tài)建設(shè)chSDG家庭消費(fèi)級人工智能產(chǎn)品——“元蘿卜SenseRobot”AI下棋機(jī)器器資料來源：商湯科技官網(wǎng)下棋對弈過程中的運(yùn)行順暢和落