推動人工智能發(fā)展：駕馭風(fēng)險攻克難關(guān)

1、隨著人工智能逐漸深入各行各業(yè)，由此產(chǎn)生的風(fēng)險也引發(fā)出各種顧慮，導(dǎo)致人工智能應(yīng)用放緩。所幸的是，這些顧慮能得到有效緩解和應(yīng)對。概覽人工智能時代已經(jīng)全面來臨。1自2017年開始，德勤每年發(fā)布企業(yè)人工智能應(yīng)用現(xiàn)狀分析報告，以估量人工智能技術(shù)在全球范圍及各行各業(yè)的快速發(fā)展。在 2020年7月發(fā)布的最新一期報告中，大多數(shù)受訪者表示大幅增加了人工智能投資，超過四分之三的受訪者認為人工智能將在未來三年為自己所在的企業(yè)帶來重大變革。此外，人工智能投資也為企業(yè)創(chuàng)造出更多 可衡量的價值：提升流程效率、改善決策、提高員工生產(chǎn)力、改進產(chǎn)品和服務(wù)。2這些價值提升了企業(yè)對人工智能的認知四分之三的受訪者表示，人工智能具有重

2、要戰(zhàn)略意義，較前一次調(diào)研結(jié)果上升10%。但另一方面，對人工智能風(fēng)險的顧慮與這種上升趨勢形成反差：56%的受訪企業(yè)表示，出于對新興風(fēng)險的顧慮，他們已經(jīng)或有計劃放緩人工智能的應(yīng)用。鑒于人工智能的價值和戰(zhàn)略意義已得到普遍認可，這一比率造成了強烈反差。為了更好地理解這些問題，德勤將受訪企業(yè)的顧慮歸總為三類：對人工智能決策流程的信心、人工智能和數(shù)據(jù)使用的倫理規(guī)范，以及市場不確定性。3本文將針對上述問題進行詳細闡述，并提供專業(yè)見解協(xié)助企業(yè)有效管理相關(guān)風(fēng)險。由此，企業(yè)可對內(nèi)加強持續(xù)投資和創(chuàng)新的信心；對外則進一步獲得利益相關(guān)方的信任，確保人工智能戰(zhàn)略得到有效執(zhí)行。出于對新興風(fēng)險的顧慮， 56%的受訪企業(yè)表示已

3、 經(jīng)或計劃放緩人工智能的應(yīng)用。人工智能發(fā)展面臨的挑戰(zhàn)近年來，人工智能風(fēng)險日益引起商業(yè)領(lǐng)袖 和普通民眾的關(guān)注。有關(guān)人工智能是否會 削減或創(chuàng)造工作崗位的爭論從未停止；而 對人工智能偏見或失敗的報道也屢見不鮮。 4 2020年7月，在公眾的一片反對與批評聲中，成立僅五天的人工智能初創(chuàng)公司 Genderify 被迫關(guān)閉。該公司稱其人工智能可以通過分析用戶的名字、用戶名和電子郵件地址來識別其性別，并宣稱這是一種增強客戶數(shù)據(jù)的能力。據(jù)報道，該系統(tǒng)充斥著對性別的誤解，并基于錯誤的假設(shè)做出決定。例如，在包含“科學(xué)家” 的記錄中，識別為女性的概率僅為4.3%。但事實上，如今女性在科學(xué)領(lǐng)域的占比遠高于此。5 而包

4、含“教授”的記錄中，識別為男性的概率高達98.4%，但男性占美國終身教授的比例僅為74%（該比例本身就反映出一種不平等）。6不難想象，諸如此類的事件以及事件曝光之后引發(fā)的公眾抵制，將導(dǎo)致許多企業(yè)高管更為謹慎，重新考慮如何在企業(yè)內(nèi)部、為客戶和員工以及在生態(tài)系統(tǒng)中推行人工智能。為了更準確地了解企業(yè)的最大顧慮源自何處，我們請受訪者對顧慮事項進行評分，評分標準從 “極少”到“極大顧慮”。列出的風(fēng)險歸總為三類：信心、倫理規(guī)范和市場不確定性。信心是指企業(yè)普遍認為一項人工智能工具本身可靠，包括信任人工智能提供的洞察和決策，信任系統(tǒng)的安全性，以及能夠理解、證明或解釋人工智能的決策過程。倫理規(guī)范是指從社會而非企

5、業(yè)的角度審視使用人工智能的益處和正確性，包括數(shù)據(jù)隱私、公平、偏見，以及可能造成的失業(yè)問題。市場不確定性則涵蓋那些不在企業(yè)直接控制范圍內(nèi)的因素，比如監(jiān)管環(huán)境的變化以及公眾或員工的意見。這些因素不一定與人工智能的本質(zhì)相關(guān)，但會影響人工智能的實施和應(yīng)用。圖1反映了在每個類別中，將兩個或兩個以上的顧慮事項評為“重大”或“極大顧慮”的受訪者比例。圖 1對人工智能風(fēng)險的重大與極大顧慮重大顧慮極大顧慮對人工智能風(fēng)險的顧慮兩個或兩個以上 與信心相關(guān)的顧慮兩個或兩個以上與倫理規(guī)范相關(guān)的顧慮兩個或兩個以上與市場不確定性相關(guān)的顧慮73%19%38%37%36%57%18%37%55%注：本圖反映在每個類別中將兩個或

6、兩個以上顧慮事項評為“重大”或“極大顧慮”的受訪者比例。來源：德勤分析信心對人工智能系統(tǒng)的信心是最大的顧慮所在， 73%的受訪企業(yè)高管在信心這一項中選擇 了兩個或兩個以上重大或極大顧慮。而在 計劃放緩人工智能應(yīng)用的受訪者中，有 85%選擇了兩個或兩個以上與信心相關(guān)的 重大或極大顧慮。可以想見，信心不足造成的顧慮會引起不安。這些顧慮與公司產(chǎn)品和服務(wù)的質(zhì)量密切相關(guān)，因此會大大影響一個企業(yè)的聲譽以及公眾對其的看法，進而影響企業(yè)推出的每一個產(chǎn)品。例如，醫(yī)療機構(gòu)可以利用人工智能的巨大潛力來識別癌癥類型并確定最佳治療方案。7 然而，人工智能決策引擎有可能推薦不安全的治療方案或錯誤 識別癌癥類型。這會給患者

7、造成嚴重后果，使企業(yè)面臨風(fēng)險并帶來投資損失。一旦失 敗，則可能讓企業(yè)付出比投資損失更為昂 貴的代價打擊員工持續(xù)創(chuàng)新的信心， 甚至破壞患者和客戶的信任。在上述案例中，該公司據(jù)稱建立了保障措施，以確?；颊甙踩?，從而降低破壞患者信任的可能。另外，相關(guān)錯誤還被用來識別系統(tǒng)故障，改進未來的算法。8如果從一開始就充分規(guī)避風(fēng)險，這將轉(zhuǎn)化為一股積極的力量，推動人工智能發(fā)展成熟。圖 2對人工智能信心的顧慮重大或極大顧慮總體而言，您的企業(yè)對以下人工智能潛在風(fēng)險的顧慮程度如何？73%的受訪者選擇了兩個或以上與信心相關(guān)的顧慮網(wǎng)絡(luò)安全漏洞 62% 影響業(yè)務(wù)運營的人工智能故障 58% 人工智能決策和行動需承擔(dān)的責(zé)任 54

8、% 根據(jù)人工智能建議做出錯誤決策 54% 缺乏透明度 53% 來源：德勤分析人工智能成熟度與企業(yè)管控預(yù)期風(fēng)險的能力整體來看，隨著受訪企業(yè)人工智能能力的成熟度上升，對信心、倫理規(guī)范和市場不確定性的顧慮呈現(xiàn)為鈴型曲線。圖 3成熟度如何改變顧慮程度起步熟練精通在信心方面，至少有兩個“重大”或“極大顧慮”的企業(yè)占比在倫理規(guī)范方面，至少有兩個“重大或“極大顧慮”的企業(yè)占比在市場不確定性方面，至少有兩個 65% 79% 71% 64%”43% 60% 42% 61% 59% “重大”或“極大顧慮”的企業(yè)占比 來源：德勤分析低成熟度和高成熟度的企業(yè)展現(xiàn)出較低程度的顧慮，而中等成熟度的企業(yè)在三個類別中均表現(xiàn)出

9、最高程度的顧慮。原因可能在于低成熟度的企業(yè)還沒有全面看到風(fēng)險，許多項目仍處于概念驗證或試點階段。當(dāng)企業(yè)達到中等成熟度時，這些挑戰(zhàn)逐漸明晰，但企業(yè)尚未具備應(yīng)對這些挑戰(zhàn)所需的能力。最后，當(dāng)企業(yè)達到高度成熟時，也掌握了更多降低這些風(fēng)險的技能，因此顧慮程度往往會相應(yīng)降低。事實上，有證據(jù)表明，隨著企業(yè)的人工智能能力日益成熟，企業(yè)可通過開發(fā)流程、采取行動或提升技能來降低風(fēng)險并實現(xiàn)更積極的成果，其顧慮程度也隨之下降。（參見側(cè)欄“人工智能成熟度與企業(yè)管控預(yù)期風(fēng)險的能力”）。與信心相關(guān)的另一個重大挑戰(zhàn)是，如今的人工智能系統(tǒng)往往存在可解釋性和決策能力之間的權(quán)衡。一些機器學(xué)習(xí)模型異常復(fù)雜，即便是訓(xùn)練有素的數(shù)據(jù)科學(xué)家

10、也難以準確理解算法是如何做出決策的。神經(jīng)網(wǎng)絡(luò)的廣泛運用讓這個挑戰(zhàn)變得更為突出，進一步涉及企業(yè)解釋決策、減少錯誤和滿足監(jiān)管需求的能力。為了解決這個問題，計算機科學(xué)領(lǐng)域正在發(fā)展可解釋的人工智能，旨在開發(fā)能夠更好地進行自我解釋的人工智能模型。目前，可解釋的人工智能可以提供人工智 能程序做出決策的相關(guān)信息，包括人工智 能程序的優(yōu)缺點、制定決策所采用的具體 標準，并針對各類決策的可信度提出建議。美國商務(wù)部最近提出了評估人工智能可解 釋性的四個原則：1. 人工智能系統(tǒng)需要為 每項輸出提供附帶的證據(jù)或理由；2. 人工 智能系統(tǒng)必須為個人用戶提供有意義的、 可理解的解釋；3. 人工智能系統(tǒng)提供的解 釋必須正確

11、反映系統(tǒng)輸出的過程；4. 系統(tǒng) 只應(yīng)在其設(shè)定條件下運行，不應(yīng)在沒有充 足信心的情況下向用戶提供決策。9 掌握了人工智能的可解釋性，企業(yè)也能更好地在符合倫理規(guī)范的前提下運用人工智能。倫理規(guī)范57%的受訪者稱在倫理規(guī)范方面有兩個或圖 4對人工智能倫理規(guī)范的顧慮重大或極大顧慮兩個以上的重大或極大顧慮。而在計劃放緩人工智能應(yīng)用的受訪者中，有73%聲稱在倫理規(guī)范方面至少有兩個重大或極大顧慮。人工智能在倫理規(guī)范方面存在特有的問題，尤其就公平和偏見而言，即人工智能賴以 建立的數(shù)據(jù)本身可能是不完整、有偏見或 不平等的。出于這個原因，即使公司本意 為善，也很難根除數(shù)據(jù)本身自帶的偏見。在構(gòu)建人工智能、分析系統(tǒng)輸出

12、以及應(yīng)用 系統(tǒng)決策的過程中，相關(guān)人員也可能受到 無意識偏見的影響，因此需要采取慎重措 施，盡可能地減少偏見。在最近的一個醫(yī) 療案例中，一個基于醫(yī)療支出的風(fēng)險預(yù)測 算法最終在其結(jié)果中表現(xiàn)出種族偏見，使 白人患者比黑人患者更有可能從額外的醫(yī) 療計劃中獲益。10 雖然該算法準確地反映 了這兩個群體的醫(yī)療支出，但沒有考慮到 黑人患者往往身處經(jīng)濟劣勢，從而影響他 們的醫(yī)療支出：價格高昂的急診室就診費，參保率更低等。11總體而言，您的企業(yè)對以下人工智能潛在風(fēng)險的顧慮程度如何？ 57%的受訪者選擇了兩個或兩個以上與倫理 規(guī)范相關(guān)的顧慮未經(jīng)同意使用個人數(shù)據(jù) 57% 人工智能系統(tǒng)的倫理問題 53% 人工智能自動

13、化可能造成的失業(yè)問題 53% 來源：德勤分析這可能會導(dǎo)致完全不同的需求水平呈現(xiàn)相同的支出水平，而這正是該系統(tǒng)在分析數(shù)據(jù)時所忽略的。在上面的例子中，黑人患者的風(fēng)險評分不準確，被排除在額外醫(yī)療計劃之外的比例更高。重要的是，程序設(shè)計者應(yīng)全面檢測基于代理的決策和創(chuàng)建的變量，制定保障措施來評估這種設(shè)計是否反映了利益相關(guān)者的實際情況。此外，這些例子也表明，有必要納入多元化觀點，并對工程師和決策者開展培訓(xùn)，應(yīng)對算法設(shè)計中可能產(chǎn)生的意外結(jié)果。市場不確定性最后，55%的受訪者表示在市場不確定性 方面有兩個或兩個以上的重大或極大顧慮。這一比例排在第三位，但明顯與投資行為 有著巨大關(guān)聯(lián)。而在有計劃放緩人工智能應(yīng)用的

14、受訪者中，有71%表示至少有兩個與市場不確定性相關(guān)的重大顧慮。對市場不確定性的顧慮涵蓋范圍非常廣，從公眾輿論到監(jiān)管環(huán)境等等。57%的受訪 者表示其重大或極大顧慮與針對人工智能技術(shù)不斷推出的新規(guī)定和法規(guī)有關(guān)，例如數(shù)據(jù)隱私、人臉識別和決策透明度等。12 52%的受訪者表示其重大或極大顧慮在于，客戶一旦發(fā)現(xiàn)人工智能應(yīng)用中存在缺陷或侵犯隱私，就會發(fā)起強烈抵制。還有一半以上的受訪者擔(dān)心，使用人工智能系統(tǒng)將導(dǎo)致員工產(chǎn)生負面想法。如何駕馭人工智能應(yīng)用中的風(fēng)險？人工智能帶來的巨大變革和潛在風(fēng)險似乎令人生畏。我們的調(diào)研中，每十位受訪者圖 5對人工智能市場不確定性的顧慮重大或極大顧慮總體而言，您的企業(yè)對以下人工智

15、能潛在風(fēng)險的顧慮程度如何？的受訪者選擇了兩個或兩個以上與市場 不確定性相關(guān)的顧慮 55%不斷變化的新法規(guī)對人工智能發(fā)展的影響 57% 客戶對人工智能系統(tǒng)應(yīng)用的強烈抵觸 52% 員工對人工智能系統(tǒng)的負面反應(yīng) 52% 來源：德勤分析中僅有四位表示做好了充分準備。13 鑒于 人工智能技術(shù)的快速發(fā)展，這種不確定性 必將在一段時間內(nèi)持續(xù)存在。然而，企業(yè) 可以借鑒現(xiàn)有的一些框架，并從先前的技 術(shù)變革中吸取經(jīng)驗，幫助駕馭當(dāng)前的風(fēng)險。運用可信賴的人工智能，減少對信心和倫理規(guī)范的顧慮在上文分析的三類顧慮中，信心和倫理規(guī) 范是企業(yè)關(guān)注的重點，而這兩點最終都指 向人工智能應(yīng)用是否可信的問題。為了增 強對人工智能的信

16、心，企業(yè)應(yīng)確保其工具 和解決方案是透明、可靠、安全的，并制 定相應(yīng)的問責(zé)制度。要減少對倫理規(guī)范的 顧慮，通常需要評估方案的設(shè)計是否在意 愿上和效果上都實現(xiàn)了公平，以及數(shù)據(jù)的 使用是否遵循了明確的隱私保護標準。企 業(yè)應(yīng)該制定保障措施來管控人工智能風(fēng)險，涵蓋圖6中列出的六大關(guān)鍵維度。圖 6公平、中立管高可信人工智能TM安全、穩(wěn)妥高可信人工智能框架對于信心和倫理規(guī)范的顧慮本質(zhì)上歸結(jié)為企業(yè)對人工智能的運用是否可信。企業(yè)實施這一框架的能力在很大程度上取決于負責(zé)任的數(shù)據(jù)管理、嚴格的治理標準，以及借助全面多樣的觀點集合來識別和應(yīng)對有害假設(shè)。德勤建議：注重數(shù)據(jù)管理和治理對企業(yè)而言，有效處理數(shù)據(jù)對人工智能的質(zhì)

17、量和可解釋性至關(guān)重要，可以提升對人工智 能的信心，并增強企業(yè)管控倫理規(guī)范的能力。即使在今天，40%的受訪企業(yè)仍表示在一系列數(shù)據(jù)實踐中的成熟度為“低”或是“中等”，近三分之一的高管認為與數(shù)據(jù)相關(guān)的挑戰(zhàn)是 阻礙其公司人工智能舉措的三大問題之一。14在數(shù)據(jù)治理方面，僅有五分之一的受訪企業(yè) 將例行監(jiān)測、管理和提高數(shù)據(jù)質(zhì)量作為正式 數(shù)據(jù)治理工作的一部分，而只有12%的企業(yè)認為他們的數(shù)據(jù)是最新的，僅9%的企業(yè)認為他們的數(shù)據(jù)是準確的。15倘若缺少有效的數(shù)據(jù)管理和治理流程，企業(yè)就很難降低風(fēng)險。專注于這兩大基礎(chǔ)要素，企業(yè)才能成功實現(xiàn)可信賴的人工智能所需的六個維度，減少對信心和倫理規(guī)范的顧慮，為人工智能應(yīng)用掃清障

18、礙。德勤建議：納入多元化觀點公司實施保障措施的能力還取決于企業(yè)內(nèi)部技術(shù)方和業(yè)務(wù)方的多元化思維。數(shù)據(jù)能力和治理流程為評估各種標準和法規(guī)的合規(guī)性創(chuàng)建了待查點，但多元化的觀點和思維才能讓重要見解浮出水面。l l來源：德勤“高可信人工智能服務(wù)”多元化觀點有助于在產(chǎn)品的設(shè)計和審查階段發(fā)現(xiàn)潛在問題，而不是在產(chǎn)品推出后才后知后覺。駕馭市場不確定性對市場不確定性的顧慮更多來自于外部環(huán)境中尚不明確的因素，因此需要采取不同的方法進行應(yīng)對。伴隨新興技術(shù)和重大轉(zhuǎn)型出現(xiàn)的是不斷變化的法規(guī)和隨時波動的輿論。雖然企業(yè)不可能完全掌控這些不確定因素，但企業(yè)高管依然可以采取措施，更有效地駕馭風(fēng)險德勤建議：重視變革管理和有效溝通公

19、眾和員工的意見并不會影響人工智能的表現(xiàn)。經(jīng)過深思熟慮的變革管理和有效溝通對于成功駕馭市場不確定性至關(guān)重要。未來幾年，人工智能可能會改變許多工作崗位，因此幫助員工和客戶學(xué)習(xí)新的工作及互動方式至關(guān)重要。Humana就是一個例子，該公司部署了人工智能客服助理來接聽讓人工客服不堪重負的每月數(shù)百萬個來電。Humana開發(fā)了人工智能助理來處理基本的信息請求，占來電總量的60%。事實上，配備自然語言理解能力的人工智能機器人還能做更多：協(xié)助員工在幕后收集信息，然后提供給Humana呼叫中心的工作人員。而這項新技術(shù)被定義為人工客服助手，減輕了員工可能感受到來自人工智能的威脅。該公司專注于利用人工智能來支持而非取

20、 代員工，包括與員工的溝通（例如恰當(dāng)表 達同理心）以及與人工智能協(xié)作解決問題。這些做法有助于最大化地實現(xiàn)成功。16了解員工的看法，同時有計劃地推行技術(shù)以減輕其顛覆程度，往往是獲得認可的關(guān)鍵。企業(yè)可考慮與溝通和營銷團隊合作，確保員工和客戶都能充分理解并看到人工智能帶來的價值。采取以用戶為中心的方法，而不是為了節(jié)約成本強行推進，有助于避免抵觸和反擊。德勤建議：預(yù)測應(yīng)對監(jiān)管變化所需的能力歐洲議會和歐盟于2016年制定通用數(shù)據(jù)保護條例(GDPR)，要求于2018年實施，企業(yè)有兩年時間來了解和籌備。在GDPR生效前的幾個月，對監(jiān)管合規(guī)習(xí)以為常的 行業(yè)，比如金融業(yè)，往往準備得較為充分。這類企業(yè)已經(jīng)建立了相

21、應(yīng)的技能和運營能 力，可應(yīng)對與合規(guī)相關(guān)的必要變革。目前，有關(guān)新出臺人工智能政策和可能推出技術(shù) 法規(guī)的討論日益激烈，企業(yè)應(yīng)積極建立這 些能力，從而既能參與法規(guī)的制定，又能 及時應(yīng)對新法規(guī)的出臺。結(jié)論人工智能蘊含著巨大的變革潛能。本次受訪的技術(shù)高管中，逾九成認為人工智能將是下一次科技革命的核心所在，并且人工智能將逐漸承擔(dān)瑣碎的工作，讓人類有更多自由去追求更富創(chuàng)造性的工作和娛樂。人工智能對當(dāng)今世界的潛在價值不容忽視，商業(yè)領(lǐng)袖不能因過度謹慎而退縮。通過謹 慎地開發(fā)流程和提升能力，可以幫助企業(yè) 減輕對風(fēng)險和挑戰(zhàn)的顧慮。即刻行動，打 造競爭優(yōu)勢，攻克發(fā)展難關(guān)，助力企業(yè)贏 在未來。方法論本次調(diào)研于2019年

22、10月至12月期間開展，九個國家的2737名IT和業(yè)務(wù)線高管參與了調(diào)研。所有受訪企業(yè)都采用了人工智能技術(shù)，受訪者須滿足以下任一條件：負責(zé)確定人工智能技術(shù)的支出和/或批準人工智能投資負責(zé)制定工智能技術(shù)戰(zhàn)略負責(zé)管理或監(jiān)督人工智能技術(shù)的實施是人工智能技術(shù)領(lǐng)域的專家可影響或制定有關(guān)人工智能技術(shù)的決策受訪者中，47%為IT高管，其余為業(yè)務(wù)線高管。70%是首席高管，包括：首席執(zhí)行官、總裁和所有者（35%）；首席信息官和首席技術(shù)官（32%）；以及其他首席高管（3%）。為了更準確地了解企業(yè)最大的顧慮源自何 處，調(diào)研要求受訪者對一系列顧慮事項進 行評分，評分標準從“極少”到“極大”。我們將列出的風(fēng)險分為三類：信

23、心、倫理 規(guī)范和市場不確定性。圖 7對人工智能顧慮的類別類別對人工智能的顧慮缺乏透明度不能解釋人工智能系統(tǒng)如何做出具體決策人工智能決策和行動需承擔(dān)的責(zé)任信心 倫理規(guī)范市場 不確定性根據(jù)人工智能建議做出錯誤決策影響業(yè)務(wù)運營的人工智能故障 網(wǎng)絡(luò)安全漏洞未經(jīng)同意使用個人數(shù)據(jù)人工智能系統(tǒng)的倫理問題人工智能自動化可能造成的失業(yè)問題不斷變化的新法規(guī)對人工智能發(fā)展的影響客戶對人工智能系統(tǒng)應(yīng)用的強烈抵觸員工對人工智能系統(tǒng)的負面反應(yīng)尾注Beena Ammanath, David Jarvis, and Susanne Hupfer, Thriving in the era of pervasive AI: De

24、loittes State of AI in theEnterprise, 3rd Edition, Deloitte Insights, July 14, 2020.Ibid.Ibid.For a deeper look, see Meredith Broussard, Artificial Unintelligence: How Computers Misunderstand the World(Cambridge: MIT Press, 2018).Catalyst, “Women in science, technology, engineering, and mathematics

25、(STEM): Quick take,” August 4, 2020.Bridget Turner Kelly, “Though more women are on college campuses, climbing the professor ladder remainsa challenge,” Brookings Institution, March 29, 2020; Synced, “AI-powered Genderify platform shut down after bias-based backlash,” July 30, 2020.Adam Conner-Simon

26、s and Rachel Gordon, “Using AI to predict breast cancer and personalize care,” MIT News, May 7, 2019.Jo Cavallo, “Confronting the criticisms facing Watson for oncology,” ASCO Post, September 10, 2019.National Institute of Standards and Technology, “NIST asks A.I. to explain itself,” August 18, 2020.Ziad Obermeyer et al., “Dissecting racial bias in an algorithm used to mana