《元宇宙內(nèi)容風(fēng)險(xiǎn)評估通則（征求意見稿）》編制說明

《元宇宙內(nèi)容風(fēng)險(xiǎn)評估通則(征求意見稿)》編制說明

一、工作簡況1.任務(wù)來源本團(tuán)體標(biāo)準(zhǔn)項(xiàng)目《元宇宙內(nèi)容風(fēng)險(xiǎn)評估通則》由中國網(wǎng)絡(luò)社會組織聯(lián)合會于2022年12月28日審核批準(zhǔn)立項(xiàng)并發(fā)布團(tuán)體標(biāo)準(zhǔn)立項(xiàng)公告，本團(tuán)體標(biāo)準(zhǔn)（以下簡稱本標(biāo)準(zhǔn)）由咪咕文化科技有限公司提出，由中國網(wǎng)絡(luò)社會組織聯(lián)合會歸口。2.編制背景和意義隨互聯(lián)網(wǎng)技術(shù)的快速迭代，區(qū)塊鏈、AR、VR、5G等技術(shù)應(yīng)用推廣，元宇宙作為下一代互聯(lián)網(wǎng)探索的代名詞，相關(guān)應(yīng)用創(chuàng)新與落地，已備受矚目。元宇宙內(nèi)容創(chuàng)新雖然層出不窮，但也伴隨著更多類型風(fēng)險(xiǎn)的出現(xiàn)。比如，云游戲在提供了更廣闊的自由創(chuàng)作空間時(shí)也產(chǎn)生了更多避開監(jiān)管的真空地帶；云分發(fā)技術(shù)在推動更高速的信息傳播時(shí)也加速了有害信息多維度的傳遞；超現(xiàn)實(shí)虛擬交互在提供便利時(shí)也會將社會問題數(shù)字化等諸多新型問題。在國內(nèi)外，已經(jīng)出現(xiàn)了關(guān)于虛擬性暴力、未成年人欺凌、智能問答涉政等方面的亂象與爭議。近年來，《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《關(guān)于進(jìn)一步壓實(shí)網(wǎng)站平臺信息內(nèi)容管理主體責(zé)任的意見》等一系列政策法規(guī)的出臺與落地，不斷明確了內(nèi)容生產(chǎn)者、互聯(lián)網(wǎng)平臺、用戶、行業(yè)協(xié)會在維護(hù)清朗網(wǎng)絡(luò)空間工作中的責(zé)任，更是對平臺在其中的核心角色、作用以及相應(yīng)的責(zé)任，做出了進(jìn)一步的明晰，為當(dāng)前互聯(lián)網(wǎng)治理工作構(gòu)建了堅(jiān)實(shí)的底層依據(jù)。2022年12月出臺的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也已經(jīng)對部分新興技術(shù)帶來的內(nèi)容風(fēng)險(xiǎn)問題做出了明確指示。為更好落實(shí)相關(guān)政策，及時(shí)跟進(jìn)與做好元宇宙的內(nèi)容安全管理，助力網(wǎng)絡(luò)生態(tài)治理。在元宇宙走向商業(yè)化、規(guī)?；瘧?yīng)用的前夕，需要及時(shí)做好元宇宙內(nèi)容風(fēng)險(xiǎn)評估工作，提前預(yù)防元宇宙內(nèi)容可能帶來的風(fēng)險(xiǎn)。因此，開展團(tuán)體標(biāo)準(zhǔn)《元宇宙內(nèi)容風(fēng)險(xiǎn)評估通則》的研制是十分必要的，它不僅將對于應(yīng)對元宇宙虛擬環(huán)境下產(chǎn)生的新業(yè)態(tài)、新事項(xiàng)內(nèi)容風(fēng)險(xiǎn)的界別、分析、評估及處理工作提供重要的支撐，也將對于協(xié)助互聯(lián)網(wǎng)管理機(jī)構(gòu)、平臺企業(yè)共同構(gòu)建風(fēng)清氣正、健康發(fā)展的元宇宙內(nèi)容環(huán)境生態(tài)具有非常重要的作用。3.工作過程及安排1）標(biāo)準(zhǔn)立項(xiàng)2022年下半年，通過開展大量文獻(xiàn)分析、理論研究，咨詢調(diào)研，咪咕文化科技有限公司完成了《元宇宙內(nèi)容應(yīng)用場景內(nèi)容風(fēng)險(xiǎn)評估通則》項(xiàng)目立項(xiàng)申請工作，2022年10月，中國網(wǎng)絡(luò)社會組織聯(lián)合會組織了第二批團(tuán)體標(biāo)準(zhǔn)立項(xiàng)申報(bào)，經(jīng)專家評議、研究論證，經(jīng)中國網(wǎng)絡(luò)社會組織聯(lián)合會立項(xiàng)評估通過，于2022年12月26日由中國網(wǎng)絡(luò)社會組織聯(lián)合會發(fā)文批準(zhǔn)團(tuán)體標(biāo)準(zhǔn)立項(xiàng)。2）標(biāo)準(zhǔn)起草階段2023年3月10日，由中國網(wǎng)絡(luò)社會組織聯(lián)合會組織召開了本項(xiàng)目團(tuán)體標(biāo)準(zhǔn)啟動會，會議上成立了由中國網(wǎng)絡(luò)社會組織聯(lián)合會、咪咕文化科技有限公司、中國標(biāo)準(zhǔn)化研究院、北京百度網(wǎng)訊科技有限公司、360集團(tuán)、聯(lián)通在線信息科技有限公司等單位組成的標(biāo)準(zhǔn)起草工作組，會議經(jīng)與會單位充分討論確定本標(biāo)準(zhǔn)的項(xiàng)目名稱調(diào)整為《元宇宙內(nèi)容風(fēng)險(xiǎn)評估通則》。標(biāo)準(zhǔn)啟動會后經(jīng)咪咕文化科技有限公司與中國標(biāo)準(zhǔn)化研究院開展的進(jìn)一步研究，確定了標(biāo)準(zhǔn)文本的研制思路和標(biāo)準(zhǔn)主體內(nèi)容及構(gòu)架，并開展了標(biāo)準(zhǔn)文本的相關(guān)法規(guī)文獻(xiàn)采集分析、專家咨詢及內(nèi)容編制工作，期間召開了9次線下標(biāo)準(zhǔn)起草工作會議并對北京百度網(wǎng)訊科技有限公司等單位元宇宙應(yīng)用情況開展了實(shí)地調(diào)研，起草過程中積極了解吸納起草組參與單位的元宇宙研究及應(yīng)用成果，并在中國網(wǎng)絡(luò)社會組織聯(lián)合會的統(tǒng)一指導(dǎo)下，標(biāo)準(zhǔn)起草工作組成員單位對標(biāo)準(zhǔn)文本內(nèi)容經(jīng)過了多次修改完善并與有關(guān)專家進(jìn)行了多次溝通及咨詢，在此基礎(chǔ)上形成了標(biāo)準(zhǔn)征求意見稿及編制說明等附件，提交中國網(wǎng)絡(luò)社會組織聯(lián)合會秘書處對外征求意見。二、標(biāo)準(zhǔn)技術(shù)內(nèi)容1.標(biāo)準(zhǔn)編制文件依據(jù)本標(biāo)準(zhǔn)為新制定標(biāo)準(zhǔn)，標(biāo)準(zhǔn)編制時(shí)主要依據(jù)：本標(biāo)準(zhǔn)草案的編寫格式按照新發(fā)布的GB/T1.1-2020《標(biāo)準(zhǔn)化工作導(dǎo)則第1部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》起草。起草過程中參考了《中華人民共和國個(gè)人信息保護(hù)法》、《中華人民共和國網(wǎng)絡(luò)安全法》、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》、《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》、《關(guān)于加強(qiáng)網(wǎng)絡(luò)直播規(guī)范管理工作的指導(dǎo)意見》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等相關(guān)法規(guī)及政策文件。2.技術(shù)內(nèi)容說明2.1范圍本文件規(guī)定了元宇宙內(nèi)容風(fēng)險(xiǎn)評估的基本原則、評估指標(biāo)體系、評估方法、評估流程及結(jié)果處理等要求。本文件適用于元宇宙內(nèi)容風(fēng)險(xiǎn)評估工作的開展。術(shù)語定義本標(biāo)準(zhǔn)對標(biāo)準(zhǔn)文本涉及的元宇宙、數(shù)智人、典型應(yīng)用場景、數(shù)字資產(chǎn)、風(fēng)險(xiǎn)識別、風(fēng)險(xiǎn)分析、風(fēng)險(xiǎn)評估、評估機(jī)構(gòu)等術(shù)語做了明確定義。其中元宇宙、數(shù)智人、典型應(yīng)用場景、數(shù)字資產(chǎn)為首次定義。2.3基本原則對開展元宇宙內(nèi)容風(fēng)險(xiǎn)評估應(yīng)遵循的合規(guī)性原則、科學(xué)性、公開性原則、安全性原則、擴(kuò)展性原則等進(jìn)行了明確闡述。2.4評估指標(biāo)體系元宇宙內(nèi)容風(fēng)險(xiǎn)評估指標(biāo)體系由一級指標(biāo)、二級指標(biāo)、三級指標(biāo)組成。一級指標(biāo)包括數(shù)智人風(fēng)險(xiǎn)、時(shí)空風(fēng)險(xiǎn)、資產(chǎn)風(fēng)險(xiǎn)、傳播內(nèi)容風(fēng)險(xiǎn)、用戶安全風(fēng)險(xiǎn)等5個(gè)一級維度指標(biāo)、18個(gè)二級指標(biāo)要素及59個(gè)三級指標(biāo)要素。2.4.1數(shù)智人風(fēng)險(xiǎn)指標(biāo)，包括以下二級及三級指標(biāo)編號二級指標(biāo)三級指標(biāo)1人物信息身份設(shè)置2人物名稱4人物體征外貌5衣著6聲音7人物權(quán)益身份權(quán)益8商業(yè)權(quán)益9用戶隱私10人物行為語言11動作2.4.2時(shí)空風(fēng)險(xiǎn)，包括以下二級及三級指標(biāo)編號二級指標(biāo)三級指標(biāo)1時(shí)空主題主題主線2主題指引3時(shí)空元素場景復(fù)制4時(shí)空標(biāo)識56時(shí)空體驗(yàn)短期體驗(yàn)7長期體驗(yàn)8時(shí)空互動內(nèi)容管理8機(jī)制管理9行為管理11場景應(yīng)用事項(xiàng)籌備13冠名營銷14商務(wù)運(yùn)營15算法服務(wù)2.4.3資產(chǎn)風(fēng)險(xiǎn)，包括以下二級及三級指標(biāo)編號二級指標(biāo)三級指標(biāo)1資產(chǎn)管理資產(chǎn)信息2資產(chǎn)權(quán)益3原生資產(chǎn)4資產(chǎn)流通流通交易5主權(quán)安全6資產(chǎn)服務(wù)分類服務(wù)7安全提示2.4.4傳播風(fēng)險(xiǎn)，包括以下二級及三級指標(biāo)編號二級指標(biāo)三級指標(biāo)1傳播內(nèi)容內(nèi)容導(dǎo)向2內(nèi)容設(shè)置3內(nèi)容屬性4歧視限定5違規(guī)操作6內(nèi)容標(biāo)注7傳播方式感官體驗(yàn)8算法推薦9推薦頁面10算法合規(guī)11水軍防控12搜索呈現(xiàn)13傳播管理合成審核14算法審核15適齡管理16安全管理17用戶記錄18用戶標(biāo)簽19風(fēng)險(xiǎn)標(biāo)注20風(fēng)險(xiǎn)提示2.4.5用戶使用風(fēng)險(xiǎn)，包括以下二級及三級指標(biāo)編號二級指標(biāo)三級指標(biāo)1用戶信息安全身份信息2個(gè)人隱私3未成年人用戶保護(hù)管理模式4適齡服務(wù)5內(nèi)容推送6老年人用戶保護(hù)權(quán)益保護(hù)7防止欺詐2.5評估方法風(fēng)險(xiǎn)評估工作中風(fēng)險(xiǎn)識別、風(fēng)險(xiǎn)分析、風(fēng)險(xiǎn)評估主要應(yīng)用方法包括風(fēng)險(xiǎn)清單分析法、列表檢查法、專家調(diào)查法、結(jié)構(gòu)化訪談法、情景分析法、德爾菲法、專家綜合打分法等。2.6評估流程2.6.1概述元宇宙內(nèi)容風(fēng)險(xiǎn)評估流程一般包括：準(zhǔn)備工作、風(fēng)險(xiǎn)識別、風(fēng)險(xiǎn)分析、風(fēng)險(xiǎn)評估、報(bào)告編制等。2.6.2準(zhǔn)備工作（1）評估機(jī)構(gòu)組成委托一支覆蓋互聯(lián)網(wǎng)治理、網(wǎng)絡(luò)傳播、元宇宙等領(lǐng)域，具有風(fēng)險(xiǎn)評估資質(zhì)的專業(yè)評估機(jī)構(gòu)。（2）評估方案設(shè)計(jì)評估機(jī)構(gòu)依據(jù)評估對象的特點(diǎn)完成方案制定，確定風(fēng)險(xiǎn)評估對象的目標(biāo)、范圍及時(shí)限。（3）風(fēng)險(xiǎn)資料收集基于元宇宙內(nèi)容風(fēng)險(xiǎn)評估指標(biāo)體系評估要素的要求收集相關(guān)材料。2.6.3風(fēng)險(xiǎn)識別對于收集的風(fēng)險(xiǎn)評估材料依據(jù)元宇宙內(nèi)容風(fēng)險(xiǎn)評估指標(biāo)說明開展內(nèi)容風(fēng)險(xiǎn)評估要素歸類識別。識別的路徑主要包括：相關(guān)的法規(guī)、標(biāo)準(zhǔn)；元宇宙技術(shù)資料；元宇宙應(yīng)用場景事故報(bào)告；元宇宙用戶投訴；元宇宙用戶體驗(yàn)媒體報(bào)道；專家意見等。2.6.4風(fēng)險(xiǎn)分析對風(fēng)險(xiǎn)識別后評估要素指標(biāo)的具體情況開展分析，確定元宇宙內(nèi)容風(fēng)險(xiǎn)評估指標(biāo)體系評估指標(biāo)權(quán)重。2.6.5風(fēng)險(xiǎn)評估依據(jù)元宇宙內(nèi)容風(fēng)險(xiǎn)評估指標(biāo)體系構(gòu)架及指標(biāo)權(quán)重及指標(biāo)賦值類型，對評估對象開展內(nèi)容風(fēng)險(xiǎn)評估，給出元宇宙內(nèi)容風(fēng)險(xiǎn)評估結(jié)果。2.6.6評估報(bào)告撰寫據(jù)風(fēng)險(xiǎn)評估結(jié)果，結(jié)合評估目標(biāo)，編制評估報(bào)告，評估報(bào)告內(nèi)容可包括但不限于以下內(nèi)容：評估機(jī)構(gòu)；評估對象；評估目的；評估指標(biāo)體系及權(quán)重；評估方法；評估過程；評估結(jié)果；評估建議。2.7結(jié)果處理2.7.1發(fā)布評估結(jié)果評估機(jī)構(gòu)可依據(jù)委托方要求適時(shí)發(fā)布評估結(jié)果，并對評估結(jié)果發(fā)布的影響和實(shí)效等進(jìn)行跟蹤反饋。2.7.2風(fēng)險(xiǎn)處理方案提出委托方如對風(fēng)險(xiǎn)評估的風(fēng)險(xiǎn)結(jié)果不予接受，評估機(jī)構(gòu)則可基于評估報(bào)告中的評估建議，并依據(jù)委托方的具體需求，提出元宇宙內(nèi)容風(fēng)險(xiǎn)處理方案。三、標(biāo)準(zhǔn)預(yù)期的社會經(jīng)濟(jì)效果本團(tuán)體標(biāo)準(zhǔn)的制定和實(shí)施，對提升元宇宙環(huán)境下的內(nèi)容安全管理，助力網(wǎng)絡(luò)虛擬生態(tài)內(nèi)容治理具有重要意義。通過針對元宇宙內(nèi)容風(fēng)險(xiǎn)評估指標(biāo)體系的構(gòu)建，將規(guī)范元宇宙環(huán)境下的產(chǎn)品研發(fā)、場景應(yīng)用及用戶交流和沉浸體驗(yàn)，筑牢元宇宙虛擬環(huán)境內(nèi)容安全的“護(hù)城墻”，協(xié)助互聯(lián)網(wǎng)管理機(jī)構(gòu)、平臺企業(yè)共同構(gòu)建風(fēng)清氣正、健康發(fā)展的元宇宙內(nèi)容環(huán)境新生態(tài)；同時(shí)也將有助于規(guī)范元宇宙領(lǐng)域的知識產(chǎn)權(quán)的應(yīng)用與轉(zhuǎn)化，指導(dǎo)元宇宙環(huán)境下自然人與虛擬環(huán)境及虛擬人物的交流和互動，促進(jìn)互聯(lián)網(wǎng)元宇宙產(chǎn)業(yè)應(yīng)用場景的不斷創(chuàng)新和拓展，實(shí)現(xiàn)元宇宙經(jīng)濟(jì)在虛擬環(huán)境與現(xiàn)實(shí)環(huán)境下有效對接，構(gòu)建“共建、公融、共享、共生、共贏”元宇宙產(chǎn)業(yè)新形態(tài)，支撐“政產(chǎn)學(xué)研金介貿(mào)媒”八位一體的網(wǎng)絡(luò)數(shù)