AI社會(huì)責(zé)任影響

提綱

01. 概要02.AI對(duì)社會(huì)的積極影響03.AI的隱患與威脅04. 應(yīng)對(duì)措施05.未來(lái)展望06. 風(fēng)險(xiǎn)提示核心觀點(diǎn)本報(bào)告探討了AI的社會(huì)影響和AI與ESG投資間的聯(lián)系。首先介紹概要，隨后分析AI對(duì)社會(huì)的積極影響和對(duì)人類的威脅與隱患，最終提出應(yīng)對(duì)措施和未來(lái)展望。盡管AI能夠在ESG投資等諸多領(lǐng)域產(chǎn)生積極影響，但同時(shí)也可能引發(fā)潛在風(fēng)險(xiǎn)，如勞動(dòng)力市場(chǎng)沖擊、隱私泄露、算法歧視等。未來(lái)需要找到發(fā)揮AI優(yōu)勢(shì)和解決AI隱患之間的平衡。31.1

人工智能的發(fā)展現(xiàn)狀5GPT的預(yù)期發(fā)展技術(shù)和策略局限現(xiàn)狀（2022年）評(píng)價(jià)內(nèi)容生成模型的可用性、可靠性和效率難以指定和繼續(xù)執(zhí)行任務(wù)輸出可能是不連貫的，或者是捏造的事實(shí)從零開始構(gòu)建模型可能會(huì)花費(fèi)數(shù)百萬(wàn)美元；微調(diào)的有效性仍在探索不同的能力訓(xùn)練以更好地遵循指示定期對(duì)更新鮮的數(shù)據(jù)進(jìn)行再培訓(xùn)硬件、軟件和工程進(jìn)度難以發(fā)展與影響行動(dòng)有關(guān)的新的和更一般的能力可以產(chǎn)生推文，短篇新聞文章很少有互動(dòng)或遠(yuǎn)程對(duì)話未針對(duì)影響進(jìn)行優(yōu)化（通過(guò)點(diǎn)擊率等代理）擴(kuò)大與更大的模型和更多的數(shù)據(jù)使用影響指標(biāo)來(lái)訓(xùn)練模型將模型與非ML軟件管道和人工審查員結(jié)合起來(lái)對(duì)人工智能的影響的興趣和投資；文本生成工具的可訪問性領(lǐng)先的人工智能研發(fā)，主要由少數(shù)國(guó)家的行業(yè)實(shí)驗(yàn)室和學(xué)術(shù)機(jī)構(gòu)完成沒有免費(fèi)的在線工具來(lái)生成任意規(guī)模的最先進(jìn)的文本國(guó)家投資或調(diào)整人工智能以適應(yīng)影響市場(chǎng)營(yíng)銷行業(yè)采用了語(yǔ)言模式最先進(jìn)的語(yǔ)言模型在線發(fā)布與一個(gè)簡(jiǎn)單的用戶界面，對(duì)任何人免費(fèi)使用近年來(lái)，隨著深度學(xué)習(xí)等技術(shù)的發(fā)展，人工智能已成為全球熱門領(lǐng)域。具體表現(xiàn)為以下方面：深度學(xué)習(xí)技術(shù)的快速發(fā)展：已成為人工智能領(lǐng)域核心技術(shù)之一，應(yīng)用范圍不斷擴(kuò)大，如計(jì)算機(jī)視覺、自然語(yǔ)言處理、語(yǔ)音識(shí)別等。機(jī)器學(xué)習(xí)技術(shù)的廣泛應(yīng)用：機(jī)器學(xué)習(xí)是一種廣泛應(yīng)用的人工智能技術(shù)，其被廣泛應(yīng)用于數(shù)據(jù)挖掘、圖像識(shí)別、推薦系統(tǒng)等領(lǐng)域。自然語(yǔ)言處理技術(shù)的進(jìn)展：自然語(yǔ)言處理技術(shù)一直以來(lái)都是人工智能領(lǐng)域的研究熱點(diǎn)，如機(jī)器翻譯、語(yǔ)音識(shí)別、文本生成等。人工智能與物聯(lián)網(wǎng)的結(jié)合：物聯(lián)網(wǎng)技術(shù)不斷發(fā)展，人工智能與物聯(lián)網(wǎng)的結(jié)合已成趨勢(shì)，智能家居、智能城市等領(lǐng)域得到快速發(fā)展。在醫(yī)療、金融等領(lǐng)域的應(yīng)用：人工智能技術(shù)在醫(yī)療、金融等領(lǐng)域的應(yīng)用也越來(lái)越廣泛，如醫(yī)學(xué)影像診斷、智能客服、風(fēng)險(xiǎn)管理等。圖表1：生成模型（

Generative

Models）的預(yù)期發(fā)展：GenerativeLanguageModelsandAutomatedInfluenceOperations:EmergingThreatsandPotential

Mitigations1.2

人工智能的未來(lái)趨勢(shì)人工智能在未來(lái)的發(fā)展趨勢(shì)主要包括以下幾個(gè)方面：更深層次的學(xué)習(xí)：隨著計(jì)算能力的提升和數(shù)據(jù)量的增加，人工智能將能夠進(jìn)行更深層次的學(xué)習(xí)和理解，實(shí)現(xiàn)更加智能化的應(yīng)用。多模態(tài)智能：未來(lái)將逐漸擁有多模態(tài)的感知和理解能力，不僅可以識(shí)別圖像、文字和語(yǔ)音等單一模態(tài)的信息，還能夠?qū)⒍喾N模態(tài)信息進(jìn)行融合，提高整體的智能水平。自主決策：將逐漸具備自主決策的能力，而不是僅通過(guò)規(guī)則做出響應(yīng)。這種能力將會(huì)使人工智能能夠更好地適應(yīng)不同的場(chǎng)景和任務(wù)。長(zhǎng)期記憶：未來(lái)人工智能將擁有更好的長(zhǎng)期記憶能力，使其能夠更好地記住過(guò)去的信息并利用這些信息進(jìn)行更加精準(zhǔn)的決策。邊緣計(jì)算和云計(jì)算的結(jié)合：未來(lái)將結(jié)合邊緣計(jì)算和云計(jì)算技術(shù)，實(shí)現(xiàn)更加高效和智能的數(shù)據(jù)處理和分析。人工智能與物聯(lián)網(wǎng)的深度融合：將與物聯(lián)網(wǎng)技術(shù)深度融合，使得物聯(lián)網(wǎng)設(shè)備能夠更加智能化地工作，并且將從物聯(lián)網(wǎng)設(shè)備中獲取更多的數(shù)據(jù)，提高自身的智能水平。總體上，未來(lái)人工智能將會(huì)更加智能化、全面化、多樣化，使得其能夠更好地適應(yīng)不同的場(chǎng)景和任務(wù)，為人類生活和產(chǎn)業(yè)發(fā)展帶來(lái)更大的便利和創(chuàng)新。圖表2：對(duì)語(yǔ)言模型的人工反饋進(jìn)行微調(diào)：Traininglanguagemodelstofollow

instructionswithhumanfeedback，中信建投61.3 人工智能對(duì)社會(huì)發(fā)展的重要意義人工智能對(duì)社會(huì)發(fā)展具有重要意義，體現(xiàn)為：提高效率和生產(chǎn)力：實(shí)現(xiàn)自動(dòng)化、智能化，可以提高工作效率和生產(chǎn)力，為社會(huì)帶來(lái)更多的財(cái)富和福利。促進(jìn)產(chǎn)業(yè)升級(jí)：幫助企業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型和智能化升級(jí)，提高企業(yè)的競(jìng)爭(zhēng)力和創(chuàng)新能力，推動(dòng)整個(gè)產(chǎn)業(yè)向更高層次發(fā)展。優(yōu)化社會(huì)資源配置：分析和優(yōu)化社會(huì)資源的配置，提高資源的利用效率和社會(huì)效益，從而促進(jìn)社會(huì)的可持續(xù)發(fā)展。改善人類生活品質(zhì)：幫助人類解決一些重復(fù)、枯燥或危險(xiǎn)的工作，從而提高生活品質(zhì)，讓人們更多地關(guān)注生活的質(zhì)量和幸福感。推動(dòng)科學(xué)技術(shù)進(jìn)步：作為重要的科學(xué)技術(shù)，其發(fā)展和應(yīng)用能夠促進(jìn)科學(xué)技術(shù)的進(jìn)步，推動(dòng)人類社會(huì)向更高層次發(fā)展。人工智能是一種重要的技術(shù)和工具，它的發(fā)展和應(yīng)用能夠?yàn)樯鐣?huì)帶來(lái)更多的發(fā)展機(jī)遇和創(chuàng)新動(dòng)力。需要關(guān)注其對(duì)社會(huì)帶來(lái)的影響，加強(qiáng)對(duì)其應(yīng)用的規(guī)范和監(jiān)管，確保人工智能的發(fā)展有益于人類社會(huì)。ESG數(shù)據(jù)分析ESG投資策略ESG風(fēng)險(xiǎn)管理人工智能與ESG：ESG數(shù)據(jù)是金融機(jī)構(gòu)進(jìn)行投資決策、風(fēng)險(xiǎn)控制和管理的重要參考。AI技術(shù)可以對(duì)大量的ESG數(shù)據(jù)進(jìn)行分析和挖掘，發(fā)現(xiàn)其中的規(guī)律和趨勢(shì)，幫助做出更明智的投資決策。ESG投資策略強(qiáng)調(diào)社會(huì)責(zé)任和可持續(xù)發(fā)展，與AI技術(shù)的應(yīng)用有著緊密的聯(lián)系。通過(guò)預(yù)測(cè)和數(shù)據(jù)分析，為ESG投資提供更加準(zhǔn)確和可靠的支持。對(duì)金融機(jī)構(gòu)進(jìn)行ESG風(fēng)險(xiǎn)管理已成為了一項(xiàng)重要任務(wù)。AI技術(shù)可以對(duì)ESG風(fēng)險(xiǎn)進(jìn)行預(yù)測(cè)和分析，幫助金融機(jī)構(gòu)制定更加有效的風(fēng)險(xiǎn)管理策略。金融機(jī)構(gòu)需要向投資者、客戶和監(jiān)管機(jī)構(gòu)披露其ESG表現(xiàn)和政策，以提高透明度和公信力。AI技術(shù)可以幫助金融機(jī)構(gòu)自動(dòng)生成ESG報(bào)告和分析，提高報(bào)告的準(zhǔn)確性和及時(shí)性。ESG報(bào)告和透明度7研究AI與ESG的關(guān)系對(duì)金融應(yīng)用具有重要意義，可以提高金融機(jī)構(gòu)的效率和決策水平，加強(qiáng)對(duì)ESG風(fēng)險(xiǎn)的管理和控制，為實(shí)現(xiàn)可持續(xù)發(fā)展和社會(huì)責(zé)任提供更加有效的支持。2.1 促進(jìn)科技創(chuàng)新與產(chǎn)業(yè)升級(jí)人工智能可以提高生產(chǎn)效率和質(zhì)量，幫助企業(yè)優(yōu)化生產(chǎn)流程、管理資源、降低風(fēng)險(xiǎn)、創(chuàng)新產(chǎn)品等，提升企業(yè)的競(jìng)爭(zhēng)力和盈利能力，促進(jìn)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)和經(jīng)濟(jì)增長(zhǎng)。自動(dòng)化和智能化生產(chǎn)大數(shù)據(jù)分析和應(yīng)用智能化決策和管理創(chuàng)新服務(wù)模式產(chǎn)業(yè)融合和創(chuàng)新AI促進(jìn)科技創(chuàng)新和產(chǎn)業(yè)升級(jí)實(shí)現(xiàn)自動(dòng)化和智能化生產(chǎn)，減少人工勞動(dòng)力的使用，提高生產(chǎn)效率和產(chǎn)品質(zhì)量，降低生產(chǎn)成本。例如機(jī)器人、智能制造等領(lǐng)域。對(duì)大數(shù)據(jù)進(jìn)行分析和挖掘，發(fā)現(xiàn)其中的規(guī)律和趨勢(shì)，幫助企業(yè)更好地理解市場(chǎng)和消費(fèi)者需求，提高產(chǎn)品和服務(wù)的質(zhì)量和競(jìng)爭(zhēng)力。幫助企業(yè)實(shí)現(xiàn)智能化決策和管理，例如智能客服、智能制造、智能供應(yīng)鏈等。加速企業(yè)的反應(yīng)速度，提高決策效率和準(zhǔn)確性。幫助企業(yè)創(chuàng)新服務(wù)模式，例如智能客服、智能營(yíng)銷等。這些服務(wù)模式可以提高企業(yè)的服務(wù)質(zhì)量和效率，滿足消費(fèi)者個(gè)性化的需求。幫助不同行業(yè)和產(chǎn)業(yè)之間實(shí)現(xiàn)融合和創(chuàng)新，例如人工智能和制造業(yè)、醫(yī)療保健等領(lǐng)域的融合，可以創(chuàng)造新的產(chǎn)業(yè)和商業(yè)模式，促進(jìn)科技創(chuàng)新和產(chǎn)業(yè)升級(jí)。92.2 提升社會(huì)服務(wù)和公共服務(wù)水平人工智能可以提高社會(huì)管理水平和公共服務(wù)水平，幫助政府制定政策、監(jiān)督執(zhí)行、預(yù)警應(yīng)急、解決糾紛等，提供智能化、便捷化、精準(zhǔn)化的社會(huì)管理和公共服務(wù)，維護(hù)社會(huì)穩(wěn)定和公共安全。更智能10智能客服和智能助手：人工智能可以幫助企業(yè)和政府機(jī)構(gòu)實(shí)現(xiàn)智能化客服和助手，例如智能機(jī)器人、智能語(yǔ)音助手等。這些技術(shù)可以提高服務(wù)效率和質(zhì)量，減輕人力負(fù)擔(dān)，滿足消費(fèi)者和公眾的服務(wù)需求。智慧城市建設(shè)：人工智能可以應(yīng)用于智慧城市建設(shè)中，例如智能交通、智能公共安全、智能環(huán)境保護(hù)等領(lǐng)域。這些技術(shù)可以提高城市的管理和服務(wù)水平，優(yōu)化城市運(yùn)行和生活環(huán)境。醫(yī)療健康服務(wù)：人工智能可以用于醫(yī)療健康服務(wù)中，例如醫(yī)學(xué)影像分析、健康監(jiān)測(cè)、疾病預(yù)測(cè)和預(yù)防等。這些技術(shù)可以提高醫(yī)療服務(wù)的精準(zhǔn)性和效率，減輕醫(yī)務(wù)人員負(fù)擔(dān)，改善使用者健康狀況。更高效智能政務(wù)服務(wù)：人工智能可以應(yīng)用于政務(wù)服務(wù)中，例如智能行政審批、智能公共服務(wù)等。這些技術(shù)可以提高政務(wù)服務(wù)的效率和便捷性，優(yōu)化政府管理和公共服務(wù)。更精準(zhǔn)社會(huì)治理和安全保障：人工智能可以用于社會(huì)治理和安全保障中，例如公共安全監(jiān)測(cè)、防災(zāi)減災(zāi)、反恐和反詐騙等。這些技術(shù)可以提高社會(huì)治理和安全保障的能力和效率，維護(hù)社會(huì)穩(wěn)定和公共安全。2.3

改善民生福祉人工智能可以為民生福祉提供更智能、更精準(zhǔn)、更便捷的服務(wù)和管理，更好地保障使用者的基本權(quán)益和生活需求，提高使用者的生活質(zhì)量和幸福感。人工智能可以幫助醫(yī)生和病人更準(zhǔn)確地診斷疾病、制定個(gè)性化治療方案、進(jìn)行康復(fù)評(píng)估等，提高醫(yī)療服務(wù)水平和治療效果。此外，人工智能技術(shù)還可以用于智能健康監(jiān)測(cè)、疾病預(yù)防和預(yù)測(cè)等方面，更好地保障使用者的身體健康人工智能可以根據(jù)學(xué)生的學(xué)習(xí)情況和能力，提供個(gè)性化的學(xué)習(xí)內(nèi)容和教學(xué)方式，提高學(xué)習(xí)效果。此外，人工智能還可以用于智能考試監(jiān)管、學(xué)生行為預(yù)測(cè)等方面，提高教育教學(xué)質(zhì)量和管理水平。人工智能可以幫助老年人進(jìn)行智能化養(yǎng)老服務(wù)，例如智能康復(fù)訓(xùn)練、智能生活輔助、智能健康監(jiān)測(cè)等，提高老年人的生活質(zhì)量和健康狀況。人工智能可以幫助政府更準(zhǔn)確地評(píng)估和調(diào)整社會(huì)保障政策，例如智能社保核算、智能就業(yè)指導(dǎo)等，更好地保障使用者的基本生活需求。醫(yī)療健康教育培訓(xùn)養(yǎng)老服務(wù)社會(huì)保障11人工智能還可以用于智能交通、智能公共安全、智能城市管理等方面，提高社會(huì)管理和公共服務(wù)水平，更好地滿足生活需求。123根據(jù)OpenAI在2023年3月23日發(fā)布的《GPTs

are

GPTs:

An

Early

Look

at

the

Labor

Market

Impact

Potential

of

Large

Language

Models》論文中，OpenAI強(qiáng)調(diào)了GPTs的通用潛力對(duì)于美國(guó)勞動(dòng)力市場(chǎng)的顯著影響。該篇文章定義了三種暴露程度，通過(guò)在崗位和技能的數(shù)據(jù)集上進(jìn)行人工標(biāo)注和GPT-4模型生成標(biāo)注的方式，來(lái)對(duì)于不同種類的崗位和勞動(dòng)力在大語(yǔ)言模型之下的暴露程度進(jìn)行分析。3.1 影響勞動(dòng)力市場(chǎng)——GPTs暴露度的定義變量含義E0在相同工作質(zhì)量/工作產(chǎn)出的前提下，使用大語(yǔ)言模型不會(huì)減少工作時(shí)間或未達(dá)到最小工作時(shí)間減少的標(biāo)準(zhǔn)E1在相同工作質(zhì)量/工作產(chǎn)出的前提下，通過(guò)ChatGPT或者OpenAI

playground使用大語(yǔ)言模型可以減少50%的工作時(shí)間E2在相同工作質(zhì)量/工作產(chǎn)出的前提下，只使用大語(yǔ)言模型不會(huì)縮短工作時(shí)間，將大語(yǔ)言模型與額外的軟件搭配使用可以縮短50%的工作時(shí)間圖表3：工作暴露程度定義數(shù)據(jù)來(lái)源：GPTsare

GPTs:

An

Early

Lookatthe

Labor

Market

Impact

PotentialofLarge

Language

Models??13??暴露度變量，用于后續(xù)回歸分析；??等于E1，代表職業(yè)中暴露程度的下限????暴露度變量，用于后續(xù)回歸分析；??等于E1+0.5E2，其中E2的系數(shù)0.5代表將部署GPTs所需技術(shù)和應(yīng)用的額外投資考慮在內(nèi)的權(quán)重????暴露度變量，用于后續(xù)回歸分析；??等于E1+E2，代表職業(yè)中暴露程度的上限圖表4：工作暴露相關(guān)變量的定義3根據(jù)OpenAI研究結(jié)果，人工注釋和GPT-4都表明平均??暴露度在0.14至0.15，表明15%的職業(yè)直接暴露在GPTs下；??和??分別有超過(guò)0.3和0.5的暴露度，可見目前GPT-4與相關(guān)軟件結(jié)合已經(jīng)可以覆蓋超過(guò)50%職業(yè)的工作內(nèi)容。OpenAI預(yù)測(cè)，有超過(guò)80%的工人有至少10%的工作暴露在GPTs下；超過(guò)19%的工人有至少50%工作暴露在GPTs下；此外，不同職業(yè)和工人在GPTs下的暴露度是相似的，表明工人的集中程度與崗位在GPTs下的暴露度無(wú)明顯關(guān)系。3.1 影響勞動(dòng)力市場(chǎng)——GPTs暴露度統(tǒng)計(jì)14圖表5：人工與GPT-4標(biāo)準(zhǔn)結(jié)果統(tǒng)計(jì)圖表6：整體經(jīng)濟(jì)環(huán)境下的職業(yè)（左）和工人（右）在GPTs下的暴露度數(shù)據(jù)來(lái)源：GPTsare

GPTs:

An

Early

Lookatthe

Labor

Market

Impact

PotentialofLarge

Language

Models3在職業(yè)的水平上，人工標(biāo)注和GPT-4標(biāo)注呈現(xiàn)出一定程度的相關(guān)性：暴露度與就業(yè)崗位數(shù)量的關(guān)系上：整體趨勢(shì)為就業(yè)崗位數(shù)量越多的崗位，工作內(nèi)容在GPTs下的暴露度越強(qiáng)；暴露度與崗位薪資的關(guān)系上，盡管存在許多底薪資高暴露度和高薪資低暴露度的崗位，整體上GPTs的暴露度與崗位薪酬成正相關(guān)，薪酬越高的崗位在GPTs下的暴露度越高。3.1 影響勞動(dòng)力市場(chǎng)——崗位數(shù)量和薪酬與暴露度圖表7：暴露度與崗位就業(yè)數(shù)量的關(guān)系【人工（左），GPT-4（右）】圖表8：暴露度與崗位薪資的關(guān)系【人工（左），GPT-4（右）】數(shù)據(jù)來(lái)源：GPTsare

GPTs:

An

Early

Lookatthe

Labor

Market

Impact

PotentialofLarge

Language

Models153不同工作技能對(duì)GPTs的暴露度關(guān)系如下：科學(xué)研究、高效學(xué)習(xí)、批判性思維、監(jiān)管技能都與GPTs暴露度呈現(xiàn)顯著的負(fù)相關(guān)，表明需要此類工作技能的崗位不容易受到GPTs的影響；相反，編程和寫作等技能與GPTs的暴露度呈現(xiàn)顯著的正相關(guān)，表明具有此類的技能的相關(guān)崗位容易受到GPTs的影響。3.1 影響勞動(dòng)力市場(chǎng)——工作技能類型與暴露度圖表9：不同工作技能對(duì)暴露度的回歸結(jié)果數(shù)據(jù)來(lái)源：GPTsare

GPTs:

An

Early

Lookatthe

Labor

Market

Impact

PotentialofLarge

Language

Models163相似的崗位難度有以下特征（1）學(xué)歷要求相似（2）相關(guān)經(jīng)驗(yàn)要求相似（3）崗位所需的培訓(xùn)相似；將工作難度分為5個(gè)區(qū)域，其中區(qū)域1需要最少的準(zhǔn)備量（3個(gè)月），而區(qū)域5需要4年或更長(zhǎng)時(shí)間的準(zhǔn)備量。分析結(jié)果表明：隨著需要的準(zhǔn)備水平的增加，各工作區(qū)的平均收入單調(diào)增加；所有的暴露度測(cè)量結(jié)果（??、??和??）顯示了相同的趨勢(shì)，即從工作區(qū)域1到工作區(qū)域4的暴露量增加，而在工作區(qū)域5則保持相似或減少。平均而言，在工作區(qū)1到5中??暴露大于50%的工人的??比例分別為0.00%（工作區(qū)1）、6.11%（工作區(qū)2）、10.57%（工作區(qū)3）、34.5%（工作區(qū)4）和26.45%（工作區(qū)5）。3.1 影響勞動(dòng)力市場(chǎng)——崗位難度與GPTs暴露度17圖表10：不同暴露度閾值下工人的百分比（按工作難度分組）數(shù)據(jù)來(lái)源：GPTsare

GPTs:

An

Early

Lookatthe

Labor

Market

Impact

PotentialofLarge

Language

Models圖表11：薪酬、暴露度與不同進(jìn)入難度的崗位的關(guān)系3在美國(guó)勞動(dòng)力市場(chǎng)中，目前超過(guò)80%的工人有至少10%的工作暴露在GPTs下；超過(guò)19%的工人有至少50%工作暴露在GPTs下，表明目前GPT模型已經(jīng)在日常工作內(nèi)容中具有廣泛的滲透程度。崗位數(shù)量與崗位薪酬均與GPTs的暴露度呈正相關(guān)；科學(xué)研究、高效學(xué)習(xí)、批判性思維、監(jiān)管技能不容易受到GPTs的影響，而與編程和寫作等技能的相關(guān)崗位容易受到GPTs的影響；崗位難度與GPTs暴露度在一定程度上呈現(xiàn)正相關(guān)，而崗位難度最高的職業(yè)具有一定的GPTs不可替代性；183.1 影響勞動(dòng)力市場(chǎng)——總結(jié)與展望GPT已經(jīng)具有成為通用技術(shù)的三大特征（1）隨時(shí)間而進(jìn)步（2）廣泛滲透于經(jīng)濟(jì)領(lǐng)域（3）產(chǎn)生與其他技術(shù)互補(bǔ)創(chuàng)新的能力。未來(lái)在GPT逐步向通用技術(shù)發(fā)展的過(guò)程中，與科學(xué)研究、批判性思維等技能相關(guān)的工作以及崗位難度較低的工作不易受到GPT的沖擊；而崗位難度適中、與工作經(jīng)驗(yàn)強(qiáng)相關(guān)的崗位容易受到GPT的沖擊。33.2

個(gè)人信息和隱私泄露作為生成式人工智能（generative

AI），ChatGPT本身即具備收集、儲(chǔ)存和使用個(gè)人信息的功能。盡管ChatGPT在回答關(guān)于隱私的問題時(shí)聲稱其不會(huì)記住用戶的任何信息，也不會(huì)主動(dòng)提供用戶個(gè)人信息，但它又表示與用戶對(duì)話的數(shù)據(jù)被存儲(chǔ)在OpenAI或使用的云服務(wù)提供商的數(shù)據(jù)中心；在人機(jī)交互問答中，提問者與ChatGPT分享的隱私和個(gè)人信息可能被用于未來(lái)模型的迭代訓(xùn)練，ChatGPT模型訓(xùn)練中使用的數(shù)據(jù)大多來(lái)自互聯(lián)網(wǎng)，可能包含大量的個(gè)人信息和數(shù)據(jù)，而未經(jīng)用戶同意的數(shù)據(jù)抓取和訓(xùn)練模型強(qiáng)大的推理能力又極大地增加了個(gè)人信息泄露的風(fēng)險(xiǎn)；含有個(gè)人信息的問答內(nèi)容可能成為模型訓(xùn)練的基礎(chǔ)“語(yǔ)料”，這使ChatGPT輸出的內(nèi)容包含用戶提供的個(gè)人信息或重要數(shù)據(jù)。即便泄露用戶個(gè)人信息的概率非常小，但如果加以刻意引導(dǎo)和提示，它仍然可能用來(lái)生成包含個(gè)人信息內(nèi)容的回答。目前三星公司已經(jīng)出現(xiàn)員工因?yàn)槭褂肅hatGPT而泄露公司機(jī)密信息的事故，這表明人工智能在現(xiàn)階段仍不能很好的處理隱私泄露問題。1933.3

算法歧視和偏見在OpenAI發(fā)表的論文《Understanding

the

Capabilities,

Limitations,

and

Societal

Impact

of

Large

Language

Models》中，OpenAI指出GPT-3模型存在種族、性別和宗教等算法偏見。在2022年12月，清華大學(xué)團(tuán)隊(duì)“AI模型性別歧視水平評(píng)估項(xiàng)目”表明GPT-2模型在“中性”職業(yè)上具有極強(qiáng)的性別偏見，其原因主要為以下三個(gè)方面：數(shù)據(jù)集帶來(lái)的偏差，也就是供AI學(xué)習(xí)訓(xùn)練的“教材”本身暗含偏見。設(shè)計(jì)者的局限，有時(shí)也在無(wú)意中形成了“偏見”。硅谷、以及大量的智能應(yīng)用公司都集中在美國(guó)舊金山灣區(qū)，一個(gè)發(fā)達(dá)的大都會(huì)區(qū)，開發(fā)者主要為白人中青年男性，相較主流群體，其對(duì)第三世界、邊緣群體的關(guān)注難說(shuō)到位。算法本身的不足，也加劇了歧視。以目前AI領(lǐng)域備受推崇的“深度學(xué)習(xí)”為例，它會(huì)自行發(fā)展聯(lián)系、分析特征、決定變量權(quán)重，其不透明性，便是人們常說(shuō)的“黑盒”特性，也促使了模型容易對(duì)某一特定領(lǐng)域產(chǎn)生“算法歧視”。圖表12：模型在醫(yī)生職業(yè)的性別偏見程度 圖表13：模型在教師職業(yè)的性別偏見程度數(shù)據(jù)來(lái)源：清華大學(xué)于洋教授研究團(tuán)隊(duì)，《AI模型性別歧視評(píng)估》2033.4

倫理道德隱患圖表14：人工智能倫理問題的分類數(shù)據(jù)來(lái)源：ChangwuHuang，AnOverviewof

ArtificialIntelligenceEthics人工智能倫理問題可以分為個(gè)人層面、社會(huì)層面和環(huán)境層面的倫理問題。個(gè)人層面，人工智能對(duì)個(gè)人的安全、隱私、自主和人格產(chǎn)生了潛在影響；社會(huì)層面，我們關(guān)注人工智能為社會(huì)以及世界各地國(guó)家的福祉帶來(lái)的影響，包括但不限于AI的責(zé)任與問責(zé)、監(jiān)控與數(shù)據(jù)化、民主與公民權(quán)利、工作代替與人際關(guān)系等倫理問題；環(huán)境層面，關(guān)注人工智能對(duì)環(huán)境和地球的影響。例如硬件生產(chǎn)消耗大量的自然資源、硬件丟棄產(chǎn)生的環(huán)境污染、龐大算力所需要的高能耗以及對(duì)人類可持續(xù)發(fā)展目標(biāo)的影響21人類的應(yīng)對(duì)方法2234.1 加強(qiáng)對(duì)AI技術(shù)的監(jiān)管OpenAI在文檔中寫道：“GPT-4表現(xiàn)出一些特別令人擔(dān)憂的能力，例如制定和實(shí)施長(zhǎng)期計(jì)劃的能力，積累權(quán)力和資源（尋求權(quán)力），以及表現(xiàn)出越來(lái)越‘代理’的行為”。對(duì)于AIGC技術(shù)帶來(lái)的潛在風(fēng)險(xiǎn)，各國(guó)不約而同地開始自上而下地監(jiān)管或問責(zé)舉措。中國(guó)：4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等法律法規(guī)起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，文件要求利用AIGC生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會(huì)主義核心價(jià)值觀，防止出現(xiàn)種族、民族等歧視，防止生成虛假信息，防止侵犯知識(shí)產(chǎn)權(quán)等問題；美國(guó)：4月11日美國(guó)商務(wù)部就ChatGPT等人工智能技術(shù)相關(guān)的問責(zé)措施正式公開征求意見，包括具有潛在風(fēng)險(xiǎn)的新型人工智能模型在發(fā)布前是否應(yīng)進(jìn)行核準(zhǔn)認(rèn)證程序；意大利：3月31日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布從即日起禁止使用ChatGPT，限制OpenAI處理意大利用戶信息，并開始立案調(diào)查；德國(guó)：4月3日，德國(guó)數(shù)據(jù)專員表示，德國(guó)可能會(huì)以數(shù)據(jù)安全方面的擔(dān)憂為由，屏蔽OpenAI的聊天機(jī)器人ChatGPT。23324解決AI的倫理問題可分為倫理手段、技術(shù)手段和法律手段。倫理手段：致力于開發(fā)倫理AI系統(tǒng)或智能體，通過(guò)在AI中嵌入倫理道德，使它們能夠根據(jù)倫理理論進(jìn)行推理和決策?，F(xiàn)有的在人工智能中嵌入倫理的方法或途徑可以分為三種主要類型：自上而下的方法、自下而上的方法和混合方法。4.2 加強(qiáng)對(duì)AI技術(shù)的法律和倫理規(guī)范數(shù)據(jù)來(lái)源：

Changwu

Huang，An

Overview

of

Artificial

Intelligence

Ethics圖表15：三種人工智能倫理設(shè)計(jì)范式及其特點(diǎn)比較設(shè)計(jì)范式定義特點(diǎn)預(yù)設(shè)倫理規(guī)則學(xué)習(xí)能力自適應(yīng)性可解釋性自上而下自下而上混合方法嵌入預(yù)設(shè)的倫理理論和道德規(guī)范基于案例，不斷試錯(cuò)自上而下和自下而上的復(fù)合方法是否是無(wú)強(qiáng)強(qiáng)弱強(qiáng)強(qiáng)強(qiáng)差中等34.2 加強(qiáng)對(duì)AI技術(shù)的法律和倫理規(guī)范25數(shù)據(jù)來(lái)源：

Changwu

Huang，An

Overview

of

Artificial

Intelligence

Ethics解決AI的倫理問題可分為倫理手段、法律手段和技術(shù)手段。法律手段：旨在通過(guò)立法來(lái)規(guī)范或管理人工智能的研究、部署、應(yīng)用和其他方面來(lái)避免先前討論的倫理問題。隨著人工智能技術(shù)的應(yīng)用越來(lái)越廣泛，以及人工智能應(yīng)用中出現(xiàn)的倫理問題和風(fēng)險(xiǎn)，政府和組織已經(jīng)制定了許多法律法規(guī)來(lái)規(guī)范人工智能的開發(fā)和應(yīng)用。法律方法已成為解決人工智能倫理問題的一種手段。技術(shù)手段：旨在開發(fā)新技術(shù)（尤其是機(jī)器學(xué)習(xí)技術(shù)），以消除或減輕當(dāng)前AI的缺點(diǎn)，規(guī)避相應(yīng)的倫理風(fēng)險(xiǎn)。例如，對(duì)可解釋機(jī)器學(xué)習(xí)的研究旨在開發(fā)新的方法來(lái)解釋機(jī)器學(xué)習(xí)算法的原理和工作機(jī)制，以滿足透明或可解釋性原則。公平機(jī)器學(xué)習(xí)研究使機(jī)器學(xué)習(xí)能夠做出公平?jīng)Q策或預(yù)測(cè)的技術(shù)，即減少機(jī)器學(xué)習(xí)的偏見或歧視。圖表16：解決五項(xiàng)關(guān)鍵原則的技術(shù)方法總結(jié)原則 代表性研究方向透明度公平正義非惡意責(zé)任與問責(zé)隱私ExplainableAIorInterpretable

AIFair

AISafeAISecure

AIRobust

AIResponsible

AIDifferential

AIFederatedorDistributed

earningHomomorphic

Encryption34.3 加強(qiáng)對(duì)AI技術(shù)的國(guó)際交流與合作在2022年12月9日清華大學(xué)“人工智能韌性治理與未來(lái)科技論壇”指出，基于數(shù)據(jù)驅(qū)動(dòng)的“第四范式”正在從根本上改變傳統(tǒng)的科研范式，釋放出巨大的創(chuàng)新潛能。人工智能技術(shù)需要應(yīng)對(duì)氣候變化、公共衛(wèi)生、數(shù)字鴻溝等重大問題與全球性挑戰(zhàn)，消除全球“治理赤字”，關(guān)鍵在于在AI技術(shù)的國(guó)際合作中考慮不同國(guó)家的公共利益與和社會(huì)責(zé)任，在人工智能倫理原則與標(biāo)準(zhǔn)制定中更加尊重多元文化與不同訴求。聯(lián)合國(guó)開發(fā)計(jì)劃署（UNDP）在《2022-2025年數(shù)字戰(zhàn)略》中制定了“創(chuàng)建數(shù)字技術(shù)助力人類和地球發(fā)展的世界”的雄偉愿景，然而其指出目前誰(shuí)來(lái)設(shè)計(jì)并實(shí)施全球行為準(zhǔn)則和標(biāo)準(zhǔn)體系、如何做出決策以及關(guān)鍵受眾是誰(shuí)等問題尚且不明晰，AI技術(shù)的國(guó)際合作任重道遠(yuǎn)；關(guān)于發(fā)達(dá)國(guó)家與發(fā)展中國(guó)家人工智能應(yīng)用與治理不平衡的問題，聯(lián)合國(guó)助理秘書長(zhǎng)徐浩良表示：AI共治是事關(guān)全球的重要事件，發(fā)達(dá)國(guó)家堅(jiān)持國(guó)家政府主導(dǎo)，在國(guó)際框架、國(guó)際協(xié)議里的承諾范圍內(nèi)幫助其提高能力，縮小他們與現(xiàn)代技術(shù)或現(xiàn)代應(yīng)用技術(shù)、概念治理方面的差距。5.1

與人工智能和諧共存人類與人工智能和諧共處的關(guān)鍵在于建立有效的溝通和合作機(jī)制，促進(jìn)互相理解和尊重。確保負(fù)責(zé)任地開發(fā)人工智能系統(tǒng)：需要預(yù)防和解決合作方之間的集體行動(dòng)問題。（The

Roleof

Cooperation

inResponsible

AI

Development，AmandaAskell，MilesBrundage，Gillian

Hadfield）建立透明的人工智能決策機(jī)制：需要了解AI如何做出決策，以及如何糾正AI的錯(cuò)誤，可以通過(guò)公開透明的AI算法和決策過(guò)程實(shí)現(xiàn)。鼓勵(lì)多樣性和包容性：人工智能系統(tǒng)的設(shè)計(jì)和開發(fā)需要考慮到不同文化、背景、種族和性別的差異。鼓勵(lì)多樣性和包容性可以減少偏見和歧視的風(fēng)險(xiǎn)，并幫助確保AI系統(tǒng)的公正性。保護(hù)隱私和安全：人工智能系統(tǒng)需要通過(guò)加密技術(shù)和訪問控制等安全措施遵守隱私和安全法規(guī)，并保護(hù)用戶的個(gè)人信息。培養(yǎng)人類的技能和素質(zhì)：隨著AI技術(shù)的發(fā)展，許多傳統(tǒng)的工作崗位將會(huì)被自動(dòng)化。人類需要不斷學(xué)習(xí)和提升自己的技能和素質(zhì)，以適應(yīng)新的工作環(huán)境。重視道德和倫理：人工智能系統(tǒng)的設(shè)計(jì)和開發(fā)需要考慮到道德和倫理問題。人們需要深入了解AI系統(tǒng)的運(yùn)作和潛在的影響，以確保其符合道德和倫理標(biāo)準(zhǔn)。推廣人工智能的社會(huì)責(zé)任：人工智能系統(tǒng)的設(shè)計(jì)和使用需要負(fù)起社會(huì)責(zé)任。需要考慮到系統(tǒng)對(duì)社會(huì)和環(huán)境的影響，并采取相應(yīng)的措施來(lái)減少負(fù)面影響。圖表17:對(duì)人工智能賦能行為的的干預(yù)階段：GenerativeLanguageModelsandAutomatedInfluenceOperations:EmergingThreatsandPotentialMitigations285.2 展望人工智能時(shí)代前景與機(jī)遇人工智能時(shí)代將會(huì)給人類帶來(lái)廣泛的前景和機(jī)遇，注意負(fù)面影響的前提下，充分發(fā)揮智慧和創(chuàng)造力，以促進(jìn)人工智