Ai人工智能 第六章 機(jī)器學(xué)習(xí)歸納學(xué)習(xí)

1、Ai人工智能第六章 機(jī)器學(xué)習(xí)歸納學(xué)習(xí)0202歸納學(xué)習(xí)的基本概念歸納學(xué)習(xí)(概念學(xué)習(xí)、經(jīng)驗學(xué)習(xí)）是符號學(xué)習(xí)中研究的最為廣泛的一種方法。給定關(guān)于某個概念的一系列已知的正例與反例，其任務(wù)是從中歸納出一個一般的概念描述。歸納學(xué)習(xí)能夠獲得新的概念，創(chuàng)立新的規(guī)則，發(fā)現(xiàn)新的理論。它的一般操作是泛化(Generalization)和特化(Specialization)。泛化用來擴(kuò)展一假設(shè)的語義信息，以使其能夠包含更多的正例，應(yīng)用于更多的情況。特化是泛化的相反的操作，用于限制概念描述的應(yīng)用范圍。 歸納學(xué)習(xí)指在從大量的經(jīng)驗數(shù)據(jù)中歸納抽取出一般的判定規(guī)則和模式，是從特殊情況推導(dǎo)出一般規(guī)則的學(xué)習(xí)方法。歸納學(xué)習(xí)的目標(biāo)是形

2、成合理的能解釋已知事實和預(yù)見新事實的一般性結(jié)論。 歸納學(xué)習(xí)由于依賴于經(jīng)驗數(shù)據(jù)，因此又稱為經(jīng)驗學(xué)習(xí)(Empirical Learning)，由于歸納依賴于數(shù)據(jù)間的相似性，所以也稱為基于相似性的學(xué)習(xí)(Similarity Based Learning)。02歸納學(xué)習(xí)的基本概念在歸納學(xué)習(xí)中，我們使用訓(xùn)練實例來引導(dǎo)出一般規(guī)則。全體可能的實例構(gòu)成實例空間，全體可能的規(guī)則構(gòu)成規(guī)則空間?；谝?guī)則空間和實例空間的學(xué)習(xí)就是在規(guī)則空間中搜索要求的規(guī)則，并從實例空間中選出一些示教的例子，以便解決規(guī)則空間中某些規(guī)則的二義性問題。學(xué)習(xí)的過程就是完成實例空間和規(guī)則空間之間同時、協(xié)調(diào)的搜索，最終找到要求的規(guī)則。用于歸納學(xué)習(xí)

3、的雙空間模型如右圖所示：02歸納學(xué)習(xí)的基本概念依據(jù)雙空間模型建立的歸納學(xué)習(xí)系統(tǒng)，其執(zhí)行過程可以大致描述為：首先由施教者給實例空間提供一此初始示教例子，由于示教例子在形式上往往和規(guī)則形式不同，因此需要對這些例子進(jìn)行轉(zhuǎn)換，解釋為規(guī)則空間接受的形式，然后利用解釋后的例子搜索規(guī)則空間。由于一般情況下不能一次就從規(guī)則空間中搜索到要求的規(guī)則，因此還要尋找一些新的示教例子，這個過程就是實例選擇。程序會選擇對搜索規(guī)則空間最有用的例子，對這些示教例子重復(fù)上述循環(huán)。如此循環(huán)多次,直到找到所要求的例子。02歸納學(xué)習(xí)的基本概念歸納學(xué)習(xí)按監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)又可分為示例學(xué)習(xí)及觀察與發(fā)現(xiàn)學(xué)習(xí)。示例學(xué)習(xí)，又稱實例學(xué)習(xí)或叫概

4、念獲取，是指給定關(guān)于某個概念的一系列已知的正例與反例，其任務(wù)是從中歸納出一個一般的概念描述。示例學(xué)習(xí)根據(jù)分類好的正反例進(jìn)行學(xué)習(xí)，因此是有監(jiān)督學(xué)習(xí)。觀察與發(fā)現(xiàn)學(xué)習(xí)是無監(jiān)督學(xué)習(xí)，目標(biāo)是產(chǎn)生解釋所有或大多數(shù)觀察的規(guī)律和規(guī)則，包括概念聚類、發(fā)現(xiàn)定理、形成理論等，是無監(jiān)督學(xué)習(xí)。02歸納學(xué)習(xí)的基本概念歸納學(xué)習(xí)按所學(xué)習(xí)的概念類型可以劃分為單概念學(xué)習(xí)和多概念學(xué)習(xí)兩類。這里的概念指用某種描述語言表示的謂詞，當(dāng)應(yīng)用于概念的正實例時，謂詞為真，應(yīng)用于負(fù)實例時為假。從而概念謂詞將實例空間劃分為正、反兩個子集。對于單概念學(xué)習(xí)，學(xué)習(xí)的目的是從概念空間（即規(guī)則空間）中尋找某個與實例空間一致的概念。對于多概念學(xué)習(xí)任務(wù)，是從概

5、念空間中找出若干概念描述，對于每個概念描述，實例空間中均有相應(yīng)的空間與之對應(yīng)。多概念學(xué)習(xí)與單概念學(xué)習(xí)的差別在于多概念學(xué)習(xí)方法必須解決概念之間的沖突問題。02變形空間學(xué)習(xí)變型空間學(xué)習(xí)方法(Learning by Version Space)，也稱為變型空間學(xué)習(xí)法。變型空間法是一種數(shù)據(jù)驅(qū)動型的學(xué)習(xí)方法。該方法以整個規(guī)則空間為初始的假設(shè)規(guī)則集合H。依據(jù)示教例子中的信息，系統(tǒng)對集合H進(jìn)行一般化或特殊化處理，逐步縮小集合H。最后使得H收斂到只含有要求的規(guī)則。由于被搜索的空間H逐漸縮小，故稱為變型空間法。02變形空間學(xué)習(xí)變形空間的結(jié)構(gòu) 在變型空間中，表示規(guī)則的點與點之間存在著一種由一般到特殊的偏序關(guān)系。我

6、們定義為覆蓋，例如，color(X,Y)覆蓋color(ball,Z)，于是又覆蓋color(ball,red)。(more general than 更一般)作為一個簡單的例子，考慮有這樣一些屬性和值的對象域：Colors=red, ,blueShapes=ball, cube這些對象可以用謂詞obj(Colors, Shapes)來表示。 02變形空間學(xué)習(xí)右圖表示了一個變型空間偏序的關(guān)系。整個變型空間包含9個假設(shè),假設(shè)之間的箭頭表示more general than（更一般）的偏序關(guān)系，只要給定集合S和G，就可以列舉出變形空間中的所有成員，方法是使用一般到特殊偏序結(jié)構(gòu)來生成S和G集合之間的所有假設(shè)。(x, y)(red, y)(blue, y)(x, ball)(x, cube)(blue, cube)(blue, ball)(red, cube)(red, ball)GS02變形空間學(xué)習(xí)假設(shè)空間H由兩個子集G和S所限定，子集G中的元素表示H中的最一般的概念，子集S中的元素表示H中的最特殊的概念，假設(shè)空間H的確切組成是：G中包含的假設(shè)，S中包含的假設(shè)以及G和S之間偏序結(jié)構(gòu)所規(guī)定的假設(shè)。即：H=GS k | G K S式中“”表示變型空間中的偏序關(guān)系。學(xué)習(xí)正例時，對S進(jìn)行泛化