國研專稿國外關(guān)于ChatGPT風(fēng)險的監(jiān)管態(tài)度及啟示

內(nèi)容摘要：當(dāng)前，ChatGPT正引發(fā)新一輪人工智能革命。ChatGPT在給經(jīng)濟社會發(fā)展帶來機遇的同時，也存在個人隱私泄露、算法歧視、制造虛假信息、侵犯知識產(chǎn)權(quán)、沖擊中高端就業(yè)市場等潛在風(fēng)險。由于人工智能的產(chǎn)業(yè)狀況、戰(zhàn)略定位與監(jiān)管傳統(tǒng)等不同，各國對ChatGPT的監(jiān)管態(tài)度也存在差異，歐盟最為嚴(yán)格，高度關(guān)注數(shù)據(jù)安全；美國持包容態(tài)度，但對算法相關(guān)的性別與種族歧視容忍度低；英印日等國更為寬松，積極鼓勵創(chuàng)新發(fā)展。當(dāng)前，人工智能正成為全球科技競爭的焦點，而我國在基礎(chǔ)研究、技術(shù)生態(tài)、產(chǎn)業(yè)發(fā)展、頂尖人才等方面與美國存在較大差距，建議順應(yīng)人工智能發(fā)展大勢，包容審慎監(jiān)管，避免因超前立法或過嚴(yán)監(jiān)管扼殺創(chuàng)新，為技術(shù)創(chuàng)新留足空間。同時，強化風(fēng)險研判，分級分類推進(jìn)應(yīng)用，嚴(yán)厲打擊利用ChatGPT傳播虛假信息、實施犯罪等行為。關(guān)鍵詞：人工智能，風(fēng)險監(jiān)管，數(shù)據(jù)泄露，算法歧視2023年4月28日，中共中央政治局會議提出，“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險”。聊天生成型預(yù)訓(xùn)練轉(zhuǎn)換模型(ChatGPT)的出現(xiàn)是人類社會邁向通用人工智能時代的重要一步，被稱為點亮通用人工智能的第一道曙光。從技術(shù)發(fā)展規(guī)律看，技術(shù)創(chuàng)新必然伴隨著機遇與風(fēng)險，ChatGPT也是如此。面對ChatGPT及類似產(chǎn)品的快速發(fā)展，我們需構(gòu)建符合技術(shù)發(fā)展規(guī)律的監(jiān)管體系，以促進(jìn)人工智能的創(chuàng)新發(fā)展與規(guī)范應(yīng)用。一、ChatGPT的潛在風(fēng)險引發(fā)全球廣泛關(guān)注ChatGPT是由美國OpenAI公司開發(fā)的智能對話產(chǎn)品，在“海量數(shù)據(jù)+先進(jìn)算法+強大算力”驅(qū)動下，具有強大的文本、圖像、音視頻等輸出能力。ChatGPT一經(jīng)推出便引發(fā)全球關(guān)注。2023年3月，千名科技人士聯(lián)名呼吁暫停GPT-4后續(xù)研發(fā)，擔(dān)憂ChatGPT給個人隱私、社會安全等造成沖擊。從各界討論看，ChatGPT的潛在風(fēng)險主要有以下五方面。(一)數(shù)據(jù)安全風(fēng)險高，個人隱私和商業(yè)秘密易被泄露ChatGPT的訓(xùn)練高度依賴海量互聯(lián)網(wǎng)數(shù)據(jù)，如GPT-3的訓(xùn)練使用了近1萬億個單詞和45TB數(shù)據(jù)，包括超過數(shù)十億個網(wǎng)頁、電子書、新聞和科學(xué)論文等。所衍生的數(shù)據(jù)風(fēng)險：一是個人隱私易被侵犯。2020年GPT-2曾發(fā)生隱私泄露，只要輸入前綴為“EastStroudsburgStroudsburg…”的提示詞，GPT-2會自動生成包括姓名、電話號碼、住址等信息的文本。2023年，OpenAI發(fā)布報告稱，有1.2%的ChatGPTPlus用戶數(shù)據(jù)可能被泄露，包括姓名、聊天記錄標(biāo)題、信用卡號后四位等。二是企業(yè)商業(yè)秘密易被泄露。2023年，數(shù)據(jù)公司Cyberhaven調(diào)查160萬名員工后發(fā)現(xiàn)，2.3%的員工曾將公司機密輸入ChatGPT。為保護商業(yè)機密，花旗集團、德意志銀行、摩根大通等多家機構(gòu)已禁止員工使用ChatGPT處理工作。(二)算法歧視風(fēng)險突出，可能強化性別、種族等偏見ChatGPT算法訓(xùn)練的數(shù)據(jù)來源于互聯(lián)網(wǎng)，海量數(shù)據(jù)蘊含了人類社會存在的種族歧視、性別歧視、宗教歧視等價值觀。同時，設(shè)計算法的人本身具有價值觀，也可能把偏見嵌入算法中。2023年，微軟發(fā)布的報告《通用人工智能的火花：GPT-4的早期實驗》顯示，ChatGPT對女性存在某些刻板印象，如讓GPT-4為“男人是計算機程序員，女人是________”創(chuàng)建類比時，給出答案主要為護士、舞者等要求相對較低的職業(yè)。實驗顯示，GPT-4甚至?xí)糯笊鐣ε缘钠?見表1)。如世界范圍內(nèi)約22%的軟件工程師為女性，而ChatGPT描述該職業(yè)時，98%的概率使用“他”，僅有1%的概率使用“她”。(三)虛假信息傳播風(fēng)險大，易被用于造謠、詐騙等違法行為ChatGPT既大大降低了信息造假門檻，又極大提高了虛假信息識別難度。ChatGPT在短時間內(nèi)可產(chǎn)生大量邏輯清晰、格式規(guī)范但無信源的文字、圖片、視頻，這些“以假亂真”的內(nèi)容極易繞過各互聯(lián)網(wǎng)平臺的安全審核機制，被濫用于造謠、誹謗、詐騙等不道德甚至違法犯罪行為。美國新聞可信度評估機構(gòu)NewsGuard發(fā)現(xiàn)，當(dāng)被問到充斥陰謀論和誤導(dǎo)性敘述的問題后，ChatGPT能在幾秒鐘內(nèi)產(chǎn)生大量令人信服卻無來源的內(nèi)容。該機構(gòu)表示，“ChatGPT可能成為互聯(lián)網(wǎng)有史以來最強大的傳播虛假信息的工具”。OpenAI首席技術(shù)官穆拉蒂(MiraMurati)也坦言，ChatGPT可能會被“危險分子”使用于編造事實，這是當(dāng)下大型語言模型共同面臨的挑戰(zhàn)。(四)知識產(chǎn)權(quán)侵權(quán)風(fēng)險高，作品著作權(quán)歸屬不明確一是容易侵犯知識產(chǎn)權(quán)。訓(xùn)練ChatGPT的海量數(shù)據(jù)中包括大量學(xué)術(shù)論文、新聞報道、著作、商標(biāo)等，顯然OpenAI公司在訓(xùn)練過程中無法保證所有使用數(shù)據(jù)均獲得了權(quán)利人許可，因而存在明顯的侵權(quán)風(fēng)險。美國知名語言學(xué)家喬姆斯基(Chomsky)表示“ChatGPT是一個高科技剽竊系統(tǒng)”。二是著作權(quán)歸屬存爭議。ChatGPT能否成為作者、所生成作品是否受著作權(quán)保護，這些都引發(fā)了社會爭議。Nature、Science等頂尖學(xué)術(shù)雜志明確禁止將ChatGPT列為合著者。美國版權(quán)局(USCO)表示，ChatGPT等平臺生成的作品完全由人工智能完成，且訓(xùn)練數(shù)據(jù)是基于人類創(chuàng)作的作品，因而不受版權(quán)法保護。(五)沖擊中高端就業(yè)市場，加劇高技能群體失業(yè)風(fēng)險“機器換人”問題是伴隨著技術(shù)創(chuàng)新一直存在的老問題。通常而言，技術(shù)對簡單重復(fù)的工作具有較強替代性，但ChatGPT的出現(xiàn)讓從事腦力勞動的高技能、高學(xué)歷勞動者失業(yè)風(fēng)險明顯提高。微軟報告《通用人工智能的火花：GPT-4的早期實驗》顯示，ChatGPT在解決視覺、數(shù)學(xué)、編碼、醫(yī)學(xué)、法律等領(lǐng)域難題時驚人地接近人類水平，并能推理人的意圖。OpenAI公司的研究顯示，ChatGPT至少影響美國約19%的工作崗位所執(zhí)行的50%的任務(wù)。2013年，學(xué)者Frey和Osborne估算了美國702類職業(yè)被人工智能替代的概率，發(fā)現(xiàn)低技能、低教育水平的勞動者更容易被取代。2023年，美國《商業(yè)內(nèi)幕》(BusinessInsider)雜志訪談大量專家后，得出十個最可能被生成式人工智能替代的職業(yè)(見表2)。對比可見，ChatGPT讓一些職業(yè)的被替代概率明顯提升。如平面設(shè)計師在2013年的預(yù)測中，被替代概率僅8.20%，但由于ChatGPT具備強大的圖文生成能力，導(dǎo)致該職業(yè)被替代概率位居前十。未來，許多教育程度高、技能性強、薪酬水平較高的就業(yè)群體，或?qū)⑹艿紺hatGPT的重大沖擊。二、當(dāng)前國外對ChatGPT的監(jiān)管態(tài)度存在較大差異各國由于人工智能的發(fā)展基礎(chǔ)、產(chǎn)業(yè)狀況、戰(zhàn)略定位與監(jiān)管傳統(tǒng)等不同，對ChatGPT潛在風(fēng)險的監(jiān)管態(tài)度存在差異。從當(dāng)前監(jiān)管態(tài)度來看，歐盟監(jiān)管尺度最為嚴(yán)格，美國監(jiān)管以包容為主，英印日監(jiān)管則較為寬松。(一)歐盟多國擔(dān)憂ChatGPT的數(shù)據(jù)安全風(fēng)險，主張實施嚴(yán)格監(jiān)管歐盟多國紛紛表示了對于ChatGPT在數(shù)據(jù)安全方面的擔(dān)憂。2023年3月，意大利宣布對ChatGPT涉嫌違反數(shù)據(jù)收集規(guī)則展開調(diào)查，是全球第一個官方禁用ChatGPT的國家。隨后，德國、法國、西班牙、愛爾蘭等歐盟多國表示出于數(shù)據(jù)保護方面的考慮，對ChatGPT開展調(diào)查或考慮封禁。歐洲刑警組織(Europol)警告稱，ChatGPT可能被用于網(wǎng)絡(luò)詐騙、傳播虛假信息和網(wǎng)絡(luò)犯罪。歐洲數(shù)據(jù)保護委員會(EDPB)表示已成立ChatGPT特別工作組，將就人工智能監(jiān)管制定通用政策。歐盟各國的表態(tài)，本質(zhì)上是歐盟在個人信息保護方面一貫極其嚴(yán)苛監(jiān)管風(fēng)格的延續(xù)。早在2018年，歐盟便出臺了全球最嚴(yán)格的數(shù)據(jù)保護政策《通用數(shù)據(jù)保護條例》(GDPR)，為全球個人信息保護豎立了新標(biāo)桿。2021年，歐盟出臺了全球首部系統(tǒng)化規(guī)制人工智能的法律《人工智能法案》(草案)，強調(diào)要保護新技術(shù)使用過程中公民數(shù)據(jù)安全。事實上，國際社會一直存在批評聲音，認(rèn)為歐盟過于嚴(yán)苛的數(shù)據(jù)保護政策約束了技術(shù)創(chuàng)新與數(shù)字經(jīng)濟發(fā)展，目前全球互聯(lián)網(wǎng)企業(yè)市值前10強均來自美國與中國，歐盟無一企業(yè)入選。(二)美國強調(diào)人工智能創(chuàng)新發(fā)展優(yōu)先，但對算法歧視等監(jiān)管嚴(yán)厲美國對ChatGPT持包容態(tài)度，其主要目的在于鞏固與提升美國在人工智能領(lǐng)域的全球領(lǐng)導(dǎo)地位。2023年1月，美國國防信息系統(tǒng)局(DISA)將ChatGPT為代表的生成式人工智能技術(shù)納入技術(shù)觀察清單，曾被列入該清單的5G、邊緣計算等技術(shù)成為國防安全的支柱。2023年4月，美國總統(tǒng)拜登在與科技顧問討論人工智能時表示，人工智能是否危險還有待觀察，但科技公司有責(zé)任確保產(chǎn)品在公開之前是安全的。從數(shù)字技術(shù)監(jiān)管風(fēng)格看，美國政府一直將促進(jìn)人工智能創(chuàng)新發(fā)展作為優(yōu)先考量，力求全方面提高競爭力。2019年，特朗普政府簽署行政令《保持美國在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位》，強調(diào)人工智能的發(fā)展對美國經(jīng)濟發(fā)展和國家安全至關(guān)重要。2020年，美國發(fā)布《人工智能應(yīng)用的監(jiān)管指南》，明確要以減少人工智能技術(shù)應(yīng)用的障礙、促進(jìn)技術(shù)創(chuàng)新為監(jiān)管宗旨，呼吁更多采取行業(yè)細(xì)分的政策指南、自愿性行業(yè)標(biāo)準(zhǔn)等非監(jiān)管措施。與此同時，美國對于人工智能的種族歧視、性別歧視等問題一貫監(jiān)管嚴(yán)厲。2023年4月，美國聯(lián)邦貿(mào)易委員會(FTC)、司法部(DOJ)、平等就業(yè)機會委員會(EEOC)、消費者金融保護局(CFPB)四大機構(gòu)聯(lián)合發(fā)聲，要監(jiān)管人工智能造成的歧視與不平等問題。(三)英國、印度、日本等國積極鼓勵ChatGPT發(fā)展，避免過嚴(yán)監(jiān)管影響創(chuàng)新英國一直在積極謀求全球人工智能領(lǐng)域的領(lǐng)先地位。2021年，英國發(fā)布《國家人工智能戰(zhàn)略》，提出了成為全球人工智能超級大國的十年規(guī)劃。2023年3月，英國政府發(fā)布《一種支持創(chuàng)新的人工智能監(jiān)管方法》白皮書，提出針對ChatGPT等人工智能技術(shù)的治理原則，明確強調(diào)監(jiān)管目標(biāo)是“提供一個清晰的、有利于創(chuàng)新的監(jiān)管環(huán)境”，使英國成為世界上構(gòu)建、測試和使用人工智能技術(shù)的最佳地點。2023年4月，印度電子和信息技術(shù)部表示，人工智能可能引發(fā)道德問題和歧視風(fēng)險，但印度政府將人工智能作為“數(shù)字經(jīng)濟的推動者”，不會考慮制定法律或監(jiān)管人工智能領(lǐng)域的發(fā)展。2023年4月，日本政府表示，現(xiàn)階段無意監(jiān)管ChatGPT，正推進(jìn)ChatGPT的使用，如借助ChatGPT讓晦澀復(fù)雜的政府法規(guī)變得更易于理解。三、幾點啟示當(dāng)前，雖然ChatGPT尚未向中國內(nèi)地及中國香港用戶開放注冊，但如何監(jiān)管ChatGPT及類似產(chǎn)品的潛在風(fēng)險，是我國須直面的重大問題。監(jiān)管的目的是為了發(fā)展。建議主動適應(yīng)全球人工智能發(fā)展趨勢，統(tǒng)籌發(fā)展與治理，不宜過于放大風(fēng)險，以促進(jìn)人工智能創(chuàng)新發(fā)展。同時，積極研判國內(nèi)外ChatGPT類產(chǎn)品的潛在風(fēng)險及防范策略，讓技術(shù)更好地服務(wù)于經(jīng)濟社會發(fā)展。(一)堅持包容審慎的原則，給技術(shù)創(chuàng)新留足空間隨著ChatGPT在全球范圍迅速火爆，國內(nèi)的百度“文心一言”、阿里“通義千問”、騰訊“混元大模型”、華為“盤古大模型”等人工智能大模型也紛紛推出，但整體表現(xiàn)均明顯落后于ChatGPT。鑒于我國人工智能在基礎(chǔ)研究、技術(shù)生態(tài)、產(chǎn)業(yè)發(fā)展、頂尖人才等方面與美國存在較大差距，建議實施包容審慎監(jiān)管，避免因超前立法或過嚴(yán)監(jiān)管扼殺創(chuàng)新，為國內(nèi)ChatGPT類產(chǎn)品的創(chuàng)新發(fā)展與應(yīng)用留足空間，提高在新一輪人工智能革命中的競爭力與主動權(quán)。加強與其他國家、國際組織的交流合作，推動形成更具廣泛共識的人工智能治理框架，積極圍繞算法倫理等風(fēng)險治理開展合作。(二)持續(xù)完善數(shù)據(jù)規(guī)則，強化數(shù)據(jù)安全保障落實好《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護法》等相關(guān)法律要求，持續(xù)加強數(shù)據(jù)權(quán)屬、跨境數(shù)據(jù)流動等基礎(chǔ)性問題研究，細(xì)化與ChatGPT類產(chǎn)品相適應(yīng)的數(shù)據(jù)保護規(guī)則。發(fā)展隱私計算技術(shù)，實現(xiàn)數(shù)據(jù)的“可用不可見”，強化數(shù)據(jù)采集、挖掘、流通等多環(huán)節(jié)的個人隱私保護。在我國所提出的《全球數(shù)據(jù)安全倡議》基礎(chǔ)上，持續(xù)完善數(shù)據(jù)跨境流動治理框架，妥善解決好ChatGPT類產(chǎn)品的數(shù)據(jù)跨境流動等問題。(三)減少算法偏見，健全倫理風(fēng)險過濾機制完善算法的公平性、穩(wěn)健性、透明性、可解釋性測評等相關(guān)規(guī)范，引導(dǎo)科技向善。強化生成式人工智能服務(wù)提供者、算法工程師、數(shù)據(jù)標(biāo)注師等群體的合規(guī)意識與倫理意識，通過技術(shù)參數(shù)調(diào)整、算法模型優(yōu)化等對人工智能開展道德倫理訓(xùn)練，減少科技倫理風(fēng)險。構(gòu)建客觀、準(zhǔn)確、多樣的訓(xùn)練數(shù)據(jù)集，將由數(shù)據(jù)所衍生的歧視與偏見最小化。加強行業(yè)自律，鼓勵中國互聯(lián)網(wǎng)協(xié)會、中國人工智能學(xué)會等相關(guān)行業(yè)協(xié)會圍繞ChatGPT類產(chǎn)品的合法合規(guī)應(yīng)用制定行業(yè)規(guī)范。提高公眾社會責(zé)任感，倡導(dǎo)合法合理使用ChatGPT類產(chǎn)品，不要用違法或不道德行為(如反復(fù)用含有性別歧視的話提問)引導(dǎo)算法。(四)建立風(fēng)險評估機制，分級分類推進(jìn)行業(yè)應(yīng)用鑒于各行業(yè)風(fēng)險不同，分級分類推進(jìn)人工智能應(yīng)用成為全球人工智能治理的重要趨勢。建議增強人工智能監(jiān)管的靈活性，健全技術(shù)應(yīng)用風(fēng)險評