2025面向決策者的負(fù)責(zé)任AI指南智能應(yīng)用最佳做法-Microsoft

MicrosoftAzure滿足打造負(fù)責(zé)任AI的需求第1章負(fù)責(zé)任地使用AI所面臨的障礙如何運(yùn)用八條指南6在智能應(yīng)用中實現(xiàn)負(fù)責(zé)任AI的八條指南“大約三分之一的受訪者認(rèn)為，組織更愿意從供“大約三分之一的受訪者認(rèn)為，組織更愿意從供將內(nèi)部支持與供應(yīng)商提但是，組織需要確保他們對采用AI的渴望不會掩蓋以合乎道德的方式使用AI的責(zé)任。當(dāng)組織開始實施在數(shù)據(jù)驅(qū)動型智能可以重新定義行業(yè)和用戶體驗的同時避免可能造成傷害的行動。對于許多組織來說，創(chuàng)建智能應(yīng)用需要用到機(jī)器學(xué)習(xí)和生成式AI等復(fù)雜技術(shù)。需要思考的問題包括：技術(shù)人才的稀缺、將這些技術(shù)與現(xiàn)有系統(tǒng)集成的挑戰(zhàn)、保護(hù)相關(guān)高質(zhì)量數(shù)據(jù)的需求以及了解AI的廣泛功能和局限性的使用集成的完全托管工具和服務(wù)，簡化復(fù)雜的AI和數(shù)據(jù)分與值得信賴的技術(shù)供應(yīng)商合作，采取可行步驟來研究和了解AI應(yīng)用程序及其對人類的人們對數(shù)據(jù)安全、隱私和保護(hù)存在顧慮，在醫(yī)療保健和金融服務(wù)等受監(jiān)管行業(yè)尤其如此。此外，伴隨由于難以追蹤AI決策過程而帶來的合規(guī)問題，風(fēng)云原生工具和服務(wù)，確保數(shù)據(jù)、應(yīng)用和AI系統(tǒng)在生產(chǎn)和部署的對于許多組織而言，應(yīng)對這些挑戰(zhàn)將是一種全新的體驗。盡管集成AI存在潛在風(fēng)險，但大多數(shù)高管認(rèn)為它所帶來的收益值得組織積極把握這一機(jī)遇?？朔@些認(rèn)知風(fēng)險的關(guān)鍵是實施指南，這樣，你就這些是Microsoft確定的對AI開發(fā)和使用至關(guān)重要的 ““2““3本電子書概述的八條指南側(cè)重于智能應(yīng)用開發(fā)和交付流程，目的是提供一種正式的方法來預(yù)測和降低AI系統(tǒng)的風(fēng)險。由于每個用例具有自身獨特的背景和一系列不同的挑戰(zhàn)，因此本指南不可用作檢查清這些指南根據(jù)應(yīng)用開發(fā)生命周期的關(guān)鍵階段編排結(jié)構(gòu)，同時認(rèn)識到智能應(yīng)用開發(fā)通常會循環(huán)往復(fù)這些或法律遵從性的工具。團(tuán)隊?wèi)?yīng)始終與內(nèi)部相關(guān)部門緊密合作，以確保所創(chuàng)建的AI這些指南根據(jù)應(yīng)用開發(fā)生命周期的關(guān)鍵階段編排結(jié)構(gòu)，同時認(rèn)識到智能應(yīng)用開發(fā)通常會循環(huán)往復(fù)這些 者應(yīng)牢記組織的價值觀和AI倫理原則，只要組織已負(fù)責(zé)任AI確保以尊重人類價值觀、權(quán)這八條指南可以幫助應(yīng)用開發(fā)團(tuán)隊將負(fù)責(zé)任A 組建能夠呈現(xiàn)多元視角的團(tuán)隊，并在團(tuán)隊中明確規(guī)定根據(jù)領(lǐng)域?qū)＜液涂赡苁苡绊懙娜后w的意見評估應(yīng)用的設(shè)計有助于降低對社會和環(huán)境的潛在負(fù)面影響的AI 驗證智能應(yīng)用的性能以確?？煽啃院桶踩?，并測試有評估和準(zhǔn)備設(shè)計、構(gòu)建和記錄驗證和支持每一條指南都附帶一系列問題，可幫助你的團(tuán)隊參與到負(fù)責(zé)任AI中。這些問題可促進(jìn)批判性思維，幫助團(tuán)隊主動發(fā)現(xiàn)風(fēng)險。雖然某些問題對不同應(yīng)用的適用程度并不完全相同，但它們均具備廣泛的適用性。這些問題并非涵蓋所在應(yīng)用開發(fā)的所有階段（例如評估和準(zhǔn)備）中，你應(yīng)定期將應(yīng)用開發(fā)團(tuán)隊召集在一起討論相關(guān)問題，并審查以前的答案。如果團(tuán)隊無法充分回答某個問題，則團(tuán)隊?wèi)?yīng)花一些時間制定具體的行動計劃。應(yīng)用開發(fā)團(tuán)隊?wèi)?yīng)將這些最佳實““通過在開發(fā)過程中盡早設(shè)計和測試人類與A評估和準(zhǔn)備設(shè)計、構(gòu)建和記錄驗證和支持>你的團(tuán)隊是否為多元化（例如性別、年齡、種族）、多領(lǐng)域并且涵蓋各種職能專業(yè)知識的>你缺少哪些視角或?qū)I(yè)知識？如何從各種來源（包括位于團(tuán)隊或組織之外的來源）引入這些>團(tuán)隊是否結(jié)構(gòu)合理，以便領(lǐng)域?qū)＜夷軌蛴绊懡鹑跈C(jī)構(gòu)希望實現(xiàn)貸款申請審批流程的自動化，以提高效率并接觸新的客戶群。由于智能應(yīng)用有可能影響個人的經(jīng)濟(jì)利益和生活質(zhì)量，智能應(yīng)用領(lǐng)導(dǎo)者將會立刻認(rèn)識到他們必評估和準(zhǔn)備設(shè)計、構(gòu)建和記錄驗證和支持評估智能應(yīng)用開發(fā)價值，同時考慮用戶研究人員討論潛在的方法。在通過白板進(jìn)行>應(yīng)將用例設(shè)計為能夠針對接受審查的貸款，預(yù)測申請人在貸款有效期內(nèi)的收入潛力，從而預(yù)測還款的>應(yīng)使用三個KPI來度量業(yè)務(wù)影響：相對于歷史基準(zhǔn)的違約率、貸款總量的增加程度以及批準(zhǔn)/拒絕>歷史數(shù)據(jù)可能會反映種族、性別或其他偏見。探索性數(shù)據(jù)分析需要包括對數(shù)據(jù)集組成內(nèi)容進(jìn)行偏見評>種族、性別和其他受保護(hù)類別的代理變量可能會加劇偏見并影響結(jié)果，從而違背公司在公平性和法律方面的價值觀，這會帶來極大的風(fēng)險。智能應(yīng)用團(tuán)組建能夠呈現(xiàn)多元視角的團(tuán)隊，并在>多名擁有將公平性工具應(yīng)用于機(jī)器學(xué)習(xí)模型的相關(guān)經(jīng)Act)領(lǐng)域?qū)I(yè)知識的律師，以確保團(tuán)隊充分了解監(jiān)管>擁有豐富經(jīng)驗的兩名貸款專員，指導(dǎo)各種客戶完成申請流程。這將促進(jìn)團(tuán)隊設(shè)計能夠增強(qiáng)貸款專員的決策>一位熟知以下事實的智能應(yīng)用領(lǐng)導(dǎo)者：系統(tǒng)將處理敏感的個人身份信息(PII)，因此系統(tǒng)安全和隱私至關(guān)重要。領(lǐng)導(dǎo)者必須獲得批準(zhǔn)，才能聘請具有網(wǎng)絡(luò)安全和AI專業(yè)知識的外部顧問，用以在團(tuán)隊組建過程中就最全程以客戶需求為先，從而使客戶的了解和滿意度與>一位可提高智能應(yīng)用在不同用戶群中的可用性和可訪評估和準(zhǔn)備設(shè)計、構(gòu)建和記錄驗證和支持根據(jù)領(lǐng)域?qū)＜液涂赡苁苡绊懙娜后w的意見評估智能應(yīng)用的潛在影響在初步討論期間，貸款專員分享他們與金融機(jī)構(gòu)有客戶群互動的經(jīng)驗。當(dāng)貸款專員詳細(xì)介紹多年各種客戶的互動時，希望智能應(yīng)用領(lǐng)導(dǎo)者意識到，AI可能會吸引新的客戶群體，這些群體的需求和期>團(tuán)隊聘請了一位經(jīng)濟(jì)學(xué)家，對于銀行業(yè)務(wù)拓展會觸及的人群，這位經(jīng)濟(jì)學(xué)家具有相關(guān)的銀行往來關(guān)系>團(tuán)隊還與供應(yīng)商合作，針對新客戶群體中的潛在借款人部署調(diào)查，以便更好地了解更優(yōu)質(zhì)的信貸渠道可能會給收入潛力帶來怎樣的影響（以基于或不基于歷史數(shù)據(jù)中反復(fù)出現(xiàn)的群體的方式從而了解貸款專員注意到，即使有了新的客戶群，有一件事可能始終不變，那就是貸款申請遭到拒絕是一種令人不智能應(yīng)用在金融服務(wù)和醫(yī)療保健等行業(yè)中具有廣泛的用例，在這些行業(yè)中，需要以高度合乎道德的方式處理個人信息和敏感信息，金融機(jī)構(gòu)：AI算法可實時分析大量的交易數(shù)據(jù)，準(zhǔn)確檢測異常和欺詐活動，從而幫助識保險公司：通過分析歷史索賠數(shù)據(jù)、客戶檔案和外部數(shù)據(jù)源，AI算法可以將可疑索賠標(biāo)記出來進(jìn)行調(diào)查，從而幫助保險公司減少保醫(yī)療保健欺詐檢測：AI模型可以分析病歷、計費(fèi)數(shù)據(jù)和索賠歷史記錄，從而識別違規(guī)行為以及計費(fèi)欺詐、處方欺詐和醫(yī)療保健身份評估和準(zhǔn)備設(shè)計、構(gòu)建和記錄驗證和支持措施：評估數(shù)據(jù)和系統(tǒng)結(jié)果以確保包容性并最大限>你將使用哪些公平性指標(biāo)（例如統(tǒng)計平等性、均等幾率）、測試和運(yùn)輸標(biāo)準(zhǔn)？智能應(yīng)用團(tuán)隊將如何驗>智能應(yīng)用團(tuán)隊將如何衡量在各種可能受影響的群體或交叉群體中，AI應(yīng)用的成果是否滿足選定的目的>智能應(yīng)用團(tuán)隊將如何確保在部署后仍然遵守公平性措施：設(shè)計有助于降低對社會和環(huán)境的潛在負(fù)面影>假設(shè)可能產(chǎn)生負(fù)面影響（例如，系統(tǒng)故障、計劃外使用、濫用、攻擊或正常使用的副作用）。哪些設(shè)>哪些設(shè)計選擇將有助于最大限度地降低智能應(yīng)用輸出和相關(guān)決策對環(huán)境的不利影響？哪些設(shè)計選擇對于確保合法和透明的數(shù)據(jù)收集以及尊重用戶隱私至評估和準(zhǔn)備設(shè)計、構(gòu)建和記錄驗證和支持>團(tuán)隊如何設(shè)計智能應(yīng)用以增強(qiáng)人工決策能力、簡化任務(wù)或提高人工的工作效率？哪些決策或職能需要>哪些機(jī)制（例如可解釋性）可支持最終用戶更好地在零售、電子商務(wù)、旅游和酒店業(yè)中的智能應(yīng)用用例中，需要包容性和透明度的應(yīng)用程在零售環(huán)境中使用互聯(lián)智能應(yīng)用，通過跟蹤庫存水平、向購物者提供基于位置的優(yōu)惠以及提供精簡付款流程的自助結(jié)賬系統(tǒng)來改善智能應(yīng)用支持可擴(kuò)展的事務(wù)處理和庫存管理，航空公司、酒店和預(yù)訂平臺可以使用智能應(yīng)用進(jìn)行大規(guī)模事務(wù)處理，完成預(yù)訂、票務(wù)和評估和準(zhǔn)備評估和準(zhǔn)備設(shè)計、構(gòu)建和記錄驗證和支持一家時裝零售連鎖店希望借助AI來改變其店內(nèi)庫存管理。該公司希望利用歷史銷售數(shù)據(jù)來優(yōu)化商店持有的庫存量，以便最大限度地提高每平方英尺的銷售額。智能應(yīng)用領(lǐng)導(dǎo)者闡明了業(yè)務(wù)目標(biāo)并組建了一支團(tuán)隊，現(xiàn)在將工作重點轉(zhuǎn)移到設(shè)計、構(gòu)建和記錄工作階段上。應(yīng)用第4條指南：評估數(shù)據(jù)和系統(tǒng)結(jié)果以最大限度地降低損害公平性的風(fēng)險對社會和環(huán)境的潛在負(fù)面影響的AI智能應(yīng)用領(lǐng)導(dǎo)者將團(tuán)隊召集在一起，圍繞公平性展開討論。設(shè)計不當(dāng)?shù)闹悄軕?yīng)用可能會導(dǎo)致客戶群中不同群體之間發(fā)生服務(wù)差異，這就違背了公司的價在對潛在的挑戰(zhàn)集思廣益后，團(tuán)隊中的數(shù)據(jù)科學(xué)家指出，零售連鎖店的客戶反饋在大城市地區(qū)的社區(qū)之間存在很大差異。似乎一些位置相對于另一些位置缺貨更為常見，導(dǎo)致在客戶準(zhǔn)備購買時商店無法提供某些產(chǎn)品?；谏鲜隹捶?，團(tuán)隊就下列方法達(dá)>團(tuán)隊決定根據(jù)歷史數(shù)據(jù)中報告的缺貨情況檢查是否存在服務(wù)水平差異。團(tuán)隊可以通過交叉引用結(jié)果和普查數(shù)據(jù)，以評估報告的缺貨情況是否與某>為了防止在特定位置發(fā)生不可接受的低服務(wù)水平，智能應(yīng)用團(tuán)隊為每個位置的每個SKU建立最低庫存水平，以確保達(dá)到最低服務(wù)水平，從而避免缺團(tuán)隊的可持發(fā)展專家詢問小組，系統(tǒng)使用是否可能產(chǎn)生某些二次環(huán)境影響。優(yōu)化庫存水平可以最大限度地提高商店級別的利潤，但更小、更頻繁的庫存補(bǔ)貨將依賴于更廣的空運(yùn)和陸運(yùn)貨物交通。在國家/地區(qū)級別，貨物交通的環(huán)境影響可能很大。此外，由于商店需要退回大量的多余庫存，因此優(yōu)化的庫存水平可能>智能應(yīng)用團(tuán)隊利用內(nèi)部物流數(shù)據(jù)構(gòu)建了一項功能，用以強(qiáng)化庫存水平與商店和區(qū)域級別的運(yùn)輸排放之以人為本的設(shè)計領(lǐng)域的專家注意到，零售商經(jīng)常從一線員工（尤其是商店經(jīng)理）那里了解新趨勢。歷史數(shù)據(jù)的預(yù)測能力有限，無法有效地發(fā)現(xiàn)趨勢。通過對庫存系統(tǒng)啟用人為控制并增強(qiáng)商店經(jīng)理的決策能力，商店可以進(jìn)行動態(tài)調(diào)整，>設(shè)計一種反饋機(jī)制，商店經(jīng)理可以利用該機(jī)制來指明特定位置的新興趨勢和最新受歡迎的產(chǎn)品，從而在全國范圍內(nèi)并測試有無計劃外故障以及智能應(yīng)用特有的可預(yù)>智能應(yīng)用團(tuán)隊?wèi)?yīng)向最終用戶提供哪些信息和說明，>團(tuán)隊將如何根據(jù)技術(shù)標(biāo)準(zhǔn)和基準(zhǔn)驗證AI應(yīng)用的>在哪些目標(biāo)環(huán)境和條件下，此智能應(yīng)用可以正常>如何在日常工作場景和邊緣使用場景下測試和評估系統(tǒng)能否安全和有效的運(yùn)行（例如出現(xiàn)故障但>用于持續(xù)監(jiān)控業(yè)務(wù)、技術(shù)和公平性績效的機(jī)制是>需要采取哪些措施來檢測和防止模型偏移，以確>智能應(yīng)用團(tuán)隊將如何確保最終用戶了解智能應(yīng)用的>如何傳達(dá)系統(tǒng)的輸出以便有助于最終用戶了解系統(tǒng)一家工業(yè)品制造商在接收從供應(yīng)商購買的零件時遭遇關(guān)系。通過向采購經(jīng)理提供可能會發(fā)生延遲的早警，這將使采購經(jīng)理能夠主動與供應(yīng)商接觸，并團(tuán)隊領(lǐng)導(dǎo)者召集應(yīng)用開發(fā)團(tuán)隊，提出了一系列問題，目的是就驗證應(yīng)用性能的方法和應(yīng)對計劃外故障的穩(wěn)>根據(jù)供應(yīng)商承諾的歷史日期測試系統(tǒng)的輸出，以確定模型能否及早發(fā)現(xiàn)可能出現(xiàn)延遲的發(fā)貨，從而避>輸入各種運(yùn)營場景，包括不同的供應(yīng)商和部件類型以及邊緣場景（例如，在歷史數(shù)據(jù)中找不到的零件>對于需要調(diào)整制造計劃的每個測試場景，制定相關(guān)在討論運(yùn)營場景期間，一位團(tuán)隊數(shù)據(jù)科學(xué)家些州的卡車運(yùn)輸能力有限和經(jīng)濟(jì)停工）不會在歷史數(shù)據(jù)中記錄，但可能會影響交貨時間。為了獲取解，智能應(yīng)用團(tuán)隊將COVID案例量集成到供應(yīng)商附雖然此智能應(yīng)用預(yù)期將對運(yùn)營和客戶關(guān)系產(chǎn)生此，他們得出結(jié)論，制造計劃的任何改變都必須與通過與工廠車間領(lǐng)導(dǎo)溝通，團(tuán)隊了解了近期如何>計算置信區(qū)間和估計的交貨時間，使采購經(jīng)理能夠>設(shè)計儀表板，通過預(yù)測的延遲對特定產(chǎn)品的組件進(jìn)行排序，將最終用戶的注意力集中在確定關(guān)鍵產(chǎn)品的優(yōu)先級上，并盡早與存在問題的供應(yīng)商接洽。>確保系統(tǒng)不會自動向客戶更新交貨日期，這是計劃使公司能夠與一直難以按時交付零件的供應(yīng)商進(jìn)行>根據(jù)建議的更改制定工作計劃草案，以支持采購經(jīng)理做出與制造計劃調(diào)整相關(guān)的決策。工廠車間領(lǐng)導(dǎo)必須簽署修訂后的工作計劃，以確保遵守工人安全團(tuán)隊提前確定智能應(yīng)用的最終用戶并與之進(jìn)行接觸智能應(yīng)用可用于提高制造業(yè)、農(nóng)業(yè)和供應(yīng)鏈物流的效率，但在涉及機(jī)械和