生成式人工智能服務(wù)管理辦法（征求意見稿）解讀一

生成式人工智能服務(wù)管理辦法（征求意見稿）解讀一短短的幾個(gè)月內(nèi)，人工智能產(chǎn)品突然迎來一個(gè)爆發(fā)期，以ChatGPT/GPT-4為代表的各種大語言模型（LargeLanguageModel）及其應(yīng)用連續(xù)推出，不斷登上全球媒體的頭條，都像變魔術(shù)一樣在各種互動(dòng)場景中生成讓人驚嘆的內(nèi)容，人工智能技術(shù)仿佛被按下了快進(jìn)鍵。快進(jìn)的不僅是技術(shù)，全球的立法者、監(jiān)管者也以罕見的速度對潛在的風(fēng)險(xiǎn)做出了回應(yīng)，例如：意大利數(shù)據(jù)保護(hù)局宣布暫時(shí)禁用ChatGPT，并對其涉嫌違反數(shù)據(jù)保護(hù)要求展開了調(diào)查；加拿大隱私專員辦公室宣布對ChatGPT的開發(fā)者OpenAI公司展開調(diào)查；英國數(shù)據(jù)保護(hù)機(jī)構(gòu)發(fā)布了對使用生成式人工智能（GenerativeAI）的8個(gè)問題；德國聯(lián)邦數(shù)據(jù)保護(hù)發(fā)言人稱，出于數(shù)據(jù)保護(hù)方面的考慮可能會(huì)暫時(shí)禁止在德國使用ChatGPT。我國的監(jiān)管機(jī)構(gòu)顯然也關(guān)注到了新的人工智能產(chǎn)品帶來的風(fēng)險(xiǎn)。4月11日，國家網(wǎng)信辦發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱“生成式AI新規(guī)”）。這是一部“小切口”式立法，以生成式人工智能作為規(guī)制對象。相比“大而全”式立法中容易將風(fēng)險(xiǎn)泛化也不易落地，這種精準(zhǔn)對應(yīng)、快速出臺(tái)的規(guī)制思路，可能也是未來科技領(lǐng)域立法的一個(gè)趨勢。本文將結(jié)合以往的立法脈絡(luò)和執(zhí)法實(shí)踐，嘗試對新規(guī)中的主要制度進(jìn)行解讀。01生成式人工智能帶來的新的風(fēng)險(xiǎn)

在本次生成式AI新規(guī)征求意見之前，國家網(wǎng)信辦等四部委在2021年12月出臺(tái)了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱“《算法規(guī)定》”），于2022年11月又出臺(tái)了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱“《深度合成規(guī)定》”）。其中《算法規(guī)定》主要聚焦在大數(shù)據(jù)殺熟、誘導(dǎo)沉迷網(wǎng)絡(luò)、勞動(dòng)權(quán)益保障、偏見歧視以及未成年人和老年人權(quán)益保障等五個(gè)方面的問題。此前我們的文章（《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》系列解讀一：合規(guī)紅線和義務(wù)清單）也對其中的合規(guī)義務(wù)進(jìn)行了梳理。

生成式AI相比以往的人工智能技術(shù)，其可以直接利用自然語言和計(jì)算機(jī)進(jìn)行交互、使用的門檻更低，用戶體驗(yàn)則更好，而且生成的文本、圖片、聲音、視頻、代碼都和自然人產(chǎn)出的內(nèi)容已非常接近，或質(zhì)量更高，這也讓其一旦被濫用或誤用，迷惑性比以往的人工智能技術(shù)更強(qiáng)，帶來的潛在損害也更大。但技術(shù)本身一旦推出就幾乎無法回卷，只能引導(dǎo)而不能絕對禁止，否則必然會(huì)轉(zhuǎn)入地下，安全風(fēng)險(xiǎn)會(huì)更高。生成式AI新規(guī)整體上采取了務(wù)實(shí)的態(tài)度，將以往的監(jiān)管義務(wù)和監(jiān)管手段進(jìn)行了組合，也更為嚴(yán)格。但考慮到生成式AI由于開發(fā)和運(yùn)營成本較高，其主要開發(fā)者很可能是大型企業(yè)，監(jiān)管要求更高且更細(xì)在某種意義上也是可預(yù)期的。02提供生成式人工智能產(chǎn)品或服務(wù)的合規(guī)義務(wù)

1）新增義務(wù)根據(jù)新規(guī)，生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)，該定義屬于不完全列舉，而并沒有限定于大語言模型、神經(jīng)網(wǎng)絡(luò)或深度合成等技術(shù)路線，核心的限定就是“生成”，尤其是之前并不存在的內(nèi)容。我們認(rèn)為，無論是中文還是英文，生成式人工智能的解釋口徑都比較寬，但也不是一個(gè)可隨意擴(kuò)張解釋的概念，還是要和產(chǎn)業(yè)界從技術(shù)角度的通常理解保持一致。之前《算法規(guī)定》和《深度合成規(guī)定》已對生成合成類算法提出了規(guī)制要求，下表整理了生成式人工智能產(chǎn)品或服務(wù)提供者的新增或細(xì)化義務(wù)。生成式AI新規(guī)相關(guān)規(guī)定新增?

提供者對產(chǎn)品生成內(nèi)容承擔(dān)責(zé)任：利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人（以下稱“提供者”），包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任（第5條）?

預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化數(shù)據(jù)的合法性要求：?

提供者應(yīng)當(dāng)對生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)（第7條）?

提供者能夠保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性（第7條）?

不法內(nèi)容處理機(jī)制：對于運(yùn)行中發(fā)現(xiàn)、用戶舉報(bào)的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過濾等措施外，應(yīng)在3個(gè)月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成（第15條）?

積極指導(dǎo)義務(wù)：提供者應(yīng)當(dāng)指導(dǎo)用戶科學(xué)認(rèn)識和理性使用生成式人工智能生成的內(nèi)容（第18條）細(xì)化?

不得歧視義務(wù)：?

在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取措施防止出現(xiàn)種族、民族、信仰、國別、地域、性別、年齡、職業(yè)等歧視（第4條）?

不得根據(jù)用戶的種族、國別、性別等進(jìn)行帶有歧視性的內(nèi)容生成（第12條）《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第6條《算法規(guī)定》第7條、第8條?

防止生成虛假信息義務(wù)：生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息（第4條）《算法規(guī)定》第13條、《深度合成規(guī)定》第6條?

人工標(biāo)注相關(guān)義務(wù)：生成式人工智能產(chǎn)品研制中采用人工標(biāo)注時(shí)，提供者應(yīng)當(dāng)（第8條）?

制定清晰、具體、可操作的標(biāo)注規(guī)則?

對標(biāo)注人員進(jìn)行必要培訓(xùn)?

抽樣核驗(yàn)標(biāo)注內(nèi)容的正確性《算法規(guī)定》第16條、《深度合成規(guī)定》第10條?

信息公開義務(wù)：?

明確并公開其服務(wù)的適用人群、場合、用途（第10條）?

提供可以影響用戶信任、選擇的必要信息，包括預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的來源、規(guī)模、類型、質(zhì)量等描述，人工標(biāo)注規(guī)則，人工標(biāo)注數(shù)據(jù)的規(guī)模和類型，基礎(chǔ)算法和技術(shù)體系等（第17條）《深度合成規(guī)定》第16條、第17條、第18條?

防范用戶過分依賴或沉迷：采取適當(dāng)措施防范用戶過分依賴或沉迷生成內(nèi)容（第10條）不得設(shè)置誘導(dǎo)用戶沉迷的算法模型：《算法規(guī)定》第8條?

個(gè)人信息保護(hù)義務(wù)：（第11條）?

提供者對用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)?

不得非法留存能夠推斷出用戶身份的輸入信息?

不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫像?

不得向他人提供用戶輸入信息《算法規(guī)定》第7條、第29條，《深度合成規(guī)定》第7條、第14條?

用戶投訴接收處理機(jī)制：（第13條）?

及時(shí)處置個(gè)人關(guān)于更正、刪除、屏蔽其個(gè)人信息的請求?

發(fā)現(xiàn)、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權(quán)、名譽(yù)權(quán)、個(gè)人隱私、商業(yè)秘密，或者不符合本辦法要求時(shí)，應(yīng)當(dāng)采取措施，停止生成，防止危害持續(xù)?！端惴ㄒ?guī)定》第6條、第23條，《深度合成規(guī)定》第6條、第12條2）安全評估生成式AI新規(guī)要求在利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》（下稱“《安全評估規(guī)定》”）向國家網(wǎng)信部門申報(bào)安全評估。《安全評估規(guī)定》由國家網(wǎng)信辦和公安部于2018年11月聯(lián)合發(fā)布，是一項(xiàng)非常重要的制度，但由于被實(shí)際觸發(fā)或公開報(bào)道的情況并不是太多，因此引起的重視程度也不夠?！熬哂休浾搶傩曰蛏鐣?huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)”是指開辦論壇、博客、微博客、聊天室、通訊群組、公眾賬號、短視頻、網(wǎng)絡(luò)直播、信息分享、小程序等信息服務(wù)或者附設(shè)相應(yīng)功能，以及開辦提供公眾輿論表達(dá)渠道或者具有發(fā)動(dòng)社會(huì)公眾從事特定活動(dòng)能力的其他互聯(lián)網(wǎng)信息服務(wù)。根據(jù)我們在實(shí)務(wù)中與相關(guān)機(jī)構(gòu)溝通的經(jīng)驗(yàn)，媒體和社交屬性較強(qiáng)的的互聯(lián)網(wǎng)產(chǎn)品，通常都落入該范疇，尤其是用戶量較大的產(chǎn)品。需要進(jìn)行評估的情形和評估事項(xiàng)如下表：安全評估情形具有輿論屬性或社會(huì)動(dòng)員能力的信息服務(wù)上線或者增設(shè)相關(guān)功能的使用新技術(shù)新應(yīng)用，使信息服務(wù)的功能屬性、技術(shù)實(shí)現(xiàn)方式、基礎(chǔ)資源配置等發(fā)生重大變更，導(dǎo)致輿論屬性或者社會(huì)動(dòng)員能力發(fā)生重大變化的用戶規(guī)模顯著增加，導(dǎo)致信息服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力發(fā)生重大變化的發(fā)生違法有害信息傳播擴(kuò)散，表明已有安全措施難以有效防控網(wǎng)絡(luò)安全風(fēng)險(xiǎn)等情形地市級以上網(wǎng)信部門或者公安機(jī)關(guān)書面通知需要進(jìn)行安全評估的其他情形安全評估事項(xiàng)落實(shí)安全管理負(fù)責(zé)人或機(jī)構(gòu)用戶真實(shí)身份核驗(yàn)以及注冊信息留存措施用戶操作日志、發(fā)布內(nèi)容的留存措施對違法有害信息的防范處置和記錄保存措施個(gè)人信息保護(hù)和管控違法信息傳播的技術(shù)措施建立投訴舉報(bào)渠道建立協(xié)助網(wǎng)信部門、公安、國安等監(jiān)管的工作機(jī)制；——在2019年1月，國家網(wǎng)信辦即依據(jù)《互聯(lián)網(wǎng)新聞信息服務(wù)新技術(shù)新應(yīng)用安全評估管理規(guī)定》和《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》，先后約談四款社交類新功能新應(yīng)用企業(yè)負(fù)責(zé)人，責(zé)成有關(guān)企業(yè)履行和完善安全機(jī)制程序。——2021年3月，國家網(wǎng)信辦、公安部曾指導(dǎo)北京、天津、上海、浙江、廣東等地方網(wǎng)信部門、公安機(jī)關(guān)依法約談11家未履行安全評估程序的語音社交軟件和涉“深度偽造”技術(shù)應(yīng)用的企業(yè)，督促其按照《網(wǎng)絡(luò)安全法》《安全評估規(guī)定》等法律法規(guī)及政策要求，認(rèn)真開展安全評估，完善風(fēng)險(xiǎn)防控機(jī)制和措施，并對安全評估中發(fā)現(xiàn)的安全隱患及時(shí)采取有效整改措施，切實(shí)履行企業(yè)信息內(nèi)容安全主體責(zé)任?！?022年全年，網(wǎng)信部門針對具有輿論屬性或社會(huì)動(dòng)員能力的44款A(yù)PP存在未按要求開展安全評估等違法違規(guī)行為，依法對其予以下架處置?！栋踩u估規(guī)定》主要是對企業(yè)進(jìn)行“事前規(guī)制”，相比事后監(jiān)管，更偏向于強(qiáng)調(diào)守住紅線，使企業(yè)在申報(bào)中提高重視程度，及時(shí)發(fā)現(xiàn)安全隱患。由于生成式人工智能這類新技術(shù)新應(yīng)用可能導(dǎo)致輿論屬性或者社會(huì)動(dòng)員能力發(fā)生重大變化，要求該類新技術(shù)新應(yīng)用相關(guān)產(chǎn)品向公眾提供服務(wù)前進(jìn)行安全評估，亦符合監(jiān)管部門一直以來對新技術(shù)新應(yīng)用以及網(wǎng)絡(luò)信息內(nèi)容生態(tài)進(jìn)行監(jiān)管的要求。3）算法備案生成式AI新規(guī)要求在利用相關(guān)產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照《算法規(guī)定》履行算法備案和變更、注銷備案手續(xù)，算法規(guī)定對算法備案制度進(jìn)行了規(guī)定。自《算法規(guī)定》實(shí)施以來，國家網(wǎng)信辦于2022年8月、10月及2023年1月先后三次公布了《境內(nèi)互聯(lián)網(wǎng)信息服務(wù)算法備案清單》，發(fā)布了200余項(xiàng)算法備案，其中包括了多家頭部互聯(lián)網(wǎng)公司的算法。本文對算法備案制度和流程進(jìn)行簡單介紹，具體分析以及需要準(zhǔn)備的申報(bào)材料、備案內(nèi)容請見此前我們的文章（《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》系列解讀二：算法備案的制度要求與具體流程）。算法備案主體**為公眾輿論提供表達(dá)渠道的服務(wù)提供者，如微信、微博、抖音、豆瓣等論壇、博客、通訊群組等**

具有發(fā)動(dòng)社會(huì)公眾從事特定活動(dòng)的互聯(lián)網(wǎng)信息服務(wù)商算法備案主體制度要求**

算法備案主體進(jìn)行算法備案填報(bào)時(shí)應(yīng)當(dāng)對落實(shí)算法安全主體責(zé)任的情況進(jìn)行說明**

在進(jìn)行算法備案前，企業(yè)應(yīng)設(shè)置算法安全機(jī)構(gòu)，建立完善的公司內(nèi)部規(guī)章制度，主要包括算法安全自評估制度、算法安全監(jiān)測制度、算法安全事件應(yīng)急處置制度、算法違法違規(guī)處置制度算法備案流程**

企業(yè)應(yīng)當(dāng)在提供服務(wù)之日起10個(gè)工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)進(jìn)行填報(bào)，履行備案手續(xù)**

填報(bào)信息主要包括：算法主體信息、產(chǎn)品及功能信息、算法信息**

企業(yè)可以根據(jù)業(yè)務(wù)變化進(jìn)行變更備案信息或注銷備案處罰未履行備案手續(xù)的，將被網(wǎng)信部門予以警告、通報(bào)批評、責(zé)令限期改正，拒