大語言模型通識微課課件：提示工程和語境學(xué)習(xí)

大語言模型通識微課

提示工程與語境學(xué)習(xí)大語言模型正在發(fā)展成為人工智能的一項基礎(chǔ)設(shè)施，少數(shù)大廠負(fù)責(zé)預(yù)訓(xùn)練大模型，而大多數(shù)人則會是其用戶。用戶掌握用好大模型的技術(shù)。用好大模型的第一個層次是掌握提示工程，第二個層次是做好大模型的微調(diào)。提示工程關(guān)注提示詞的開發(fā)和優(yōu)化，幫助用戶將大模型用于各場景和研究領(lǐng)域。掌握提示工程相關(guān)技能幫助用戶更好地了解大模型的能力和局限性。另一方面，需要使用指令數(shù)據(jù)對其進(jìn)行微調(diào)。如何構(gòu)造指令數(shù)據(jù)，如何高效低成本地進(jìn)行指令微調(diào)訓(xùn)練，以及如何在語音模型基礎(chǔ)上進(jìn)一步擴大上下文等問題，是大模型在有監(jiān)督微調(diào)階段的核心。微課8.1提示工程與語境學(xué)習(xí)提示工程應(yīng)用于開發(fā)和優(yōu)化提示詞，幫助用戶有效地將語言模型用于各種應(yīng)用場景和研究領(lǐng)域。研究人員可利用提示工程來提高大模型處理復(fù)雜任務(wù)場景的能力，如問答和算術(shù)推理能力以及大模型的安全性。開發(fā)人員可通過提示工程設(shè)計和實現(xiàn)與大模型或其他生態(tài)工具的交互和高效接軌，借助專業(yè)領(lǐng)域知識和外部工具來增強大模型能力。8.1.1什么是提示工程提示不僅是用戶與大模型（如ChatGPT）交互的橋梁，更是一種全新的“編程語言”，用于指導(dǎo)人工智能模型產(chǎn)生特定的輸出。（1）角色轉(zhuǎn)變：用戶通過精心設(shè)計的提示來“編程”人工智能模型，指導(dǎo)其執(zhí)行各種任務(wù)。（2）任務(wù)多樣性：任務(wù)的范圍非常廣泛，從簡單問答、文本生成到復(fù)雜的邏輯推理、數(shù)學(xué)計算和創(chuàng)意寫作等。（3）即時性與互動性：提示通常更加即時和互動。用戶可以直接在模型接口中輸入提示并立即看到結(jié)果。8.1.1什么是提示工程提示工程涉及到如何設(shè)計、優(yōu)化和管理提示內(nèi)容，以確保人工智能模型能夠準(zhǔn)確、高效地執(zhí)行用戶的指令。（1）設(shè)計：需要仔細(xì)選擇詞匯、構(gòu)造清晰的句子結(jié)構(gòu)，并考慮上下文信息，確保大模型能夠準(zhǔn)確理解用戶的意圖并產(chǎn)生符合預(yù)期的輸出。（2）優(yōu)化：可能涉及調(diào)整詞匯選擇、改變句子結(jié)構(gòu)或添加額外的上下文信息，以提高大模型的性能和準(zhǔn)確性。需要多次迭代以達(dá)到最佳效果。（3）管理：管理大量提示內(nèi)容，包括組織、存儲和檢索提示，以便在需要時能夠快速找到并使用它們。同時，還需要定期更新和維護(hù)。8.1.2提示工程的原理以下是設(shè)計提示的一些技巧。（1）從簡單開始。記住設(shè)計提示是一個迭代過程，需要大量實驗來獲得最佳結(jié)果?？梢詮暮唵翁崾鹃_始，隨著目標(biāo)獲得更好的結(jié)果，不斷添加更多的元素和上下文。具體、簡潔和簡明通常會帶來更好的結(jié)果。當(dāng)有一個涉及許多不同子任務(wù)的大任務(wù)時，可以嘗試將任務(wù)分解為更簡單的子任務(wù)，并隨著獲得更好的結(jié)果而不斷構(gòu)建。這避免了在提示設(shè)計過程中一開始就添加過多的復(fù)雜性。8.1.3提示的技巧（2）指令?？梢允褂妹顏碇甘灸Ｐ蛨?zhí)行各種簡單任務(wù)，例如“寫入”“分類”“總結(jié)”“翻譯”“排序”等，為任務(wù)設(shè)計有效的提示。需要進(jìn)行大量的實驗，嘗試使用不同的關(guān)鍵字、上下文和數(shù)據(jù)嘗試不同的指令，看看哪種方法最適合特定的用例和任務(wù)。通常情況下，上下文與要執(zhí)行的任務(wù)越具體和相關(guān)，效果越好。（3）具體性。提示越具體和詳細(xì)，結(jié)果就越好。在提示中提供示例非常有效，可以以特定格式獲得所需的輸出。在設(shè)計提示時，還應(yīng)考慮提示的長度，因為長度有限制。8.1.3提示的技巧（4）避免不精確。通常最好是具體和直接，越直接信息傳遞就越有效。例如，如果有興趣了解提示工程的概念。可以嘗試這樣做：解釋提示工程的概念。保持解釋簡短，只有幾句話，不要過于描述。但更好的提示是非常具體、簡潔和直接的。設(shè)計提示時的另一個技巧是避免說不要做什么，而是說要做什么。鼓勵更具體化，并關(guān)注導(dǎo)致模型產(chǎn)生良好響應(yīng)的細(xì)節(jié)。8.1.3提示的技巧語境學(xué)習(xí)，也稱上下文學(xué)習(xí)，是指模型可以從上下文中的幾個例子中學(xué)習(xí)：向模型輸入特定任務(wù)的一些具體例子（也稱示例）及要測試的樣例，模型可以根據(jù)給定的示例續(xù)寫測試樣例的答案。以情感分類任務(wù)為例，向模型中輸入一些帶有情感極性的句子、每個句子相應(yīng)的標(biāo)簽，以及待測試的句子，模型可以自然地續(xù)寫出它的情感極性為“正面”。

圖8-5語境學(xué)習(xí)示例8.1.4語境學(xué)習(xí)語境學(xué)習(xí)可以看作提示學(xué)習(xí)的一個子類，其中示例是提示的一部分。語境學(xué)習(xí)的關(guān)鍵思想是從類比中學(xué)習(xí)，整個過程并不需要對模型進(jìn)行參數(shù)更新，僅執(zhí)行前向的推理。大模型可以通過語境學(xué)習(xí)執(zhí)行許多復(fù)雜的推理任務(wù)。作為大模型的一種新的范式，語境學(xué)習(xí)具有許多獨特的優(yōu)勢。首先，其示例是用自然語言編寫的，提供了一個可解釋的界面來與大模型進(jìn)行交互。其次，不同于以往的監(jiān)督訓(xùn)練，語境學(xué)習(xí)本身無須參數(shù)更新，這可以大大降低使大模型適應(yīng)新任務(wù)的計算成本。8.1.4語境學(xué)習(xí)在語境學(xué)習(xí)中，示例的標(biāo)簽正確性（輸入和輸出的具體對應(yīng)關(guān)系）并不是有效的關(guān)鍵因素，起到更重要作用的是輸入和樣本配對的格式、輸入和輸出分布等。此外，語境學(xué)