人工智能課學(xué)習(xí)課件

第五章機(jī)器學(xué)習(xí)概述實(shí)例學(xué)習(xí)第一頁(yè)，共五十二頁(yè)。第五章機(jī)器學(xué)習(xí)概述實(shí)例學(xué)習(xí)第二頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述什么是機(jī)器學(xué)習(xí)？Simon（1983）：學(xué)習(xí)就是系統(tǒng)中的變化，這種變化使系統(tǒng)比以前更有效地去做同樣的工作。Minsky(1985)：學(xué)習(xí)是在我們頭腦中（心里內(nèi)部）進(jìn)行有用的變化。學(xué)習(xí)是一種具有多側(cè)面的現(xiàn)象。學(xué)習(xí)的過(guò)程有：獲取新的陳述性知識(shí)、通過(guò)教育或?qū)嵺`發(fā)展機(jī)械技能和認(rèn)知能力、將新知識(shí)組織成為通用化和有效的表達(dá)形式、借助觀察和實(shí)驗(yàn)發(fā)現(xiàn)新的事實(shí)和新的理論。第三頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述基本形式知識(shí)獲取和技能求精。學(xué)習(xí)的本質(zhì)就是獲取新的知識(shí)。包括物理系統(tǒng)和行為的描述和建模，構(gòu)造客觀現(xiàn)實(shí)的表示。——知識(shí)獲取通過(guò)實(shí)踐逐漸改造機(jī)制和認(rèn)知技能。例：騎自行車。這些技能包括意識(shí)的或機(jī)制的協(xié)調(diào)。這種改進(jìn)又是通過(guò)反復(fù)實(shí)踐和從失敗的行為中糾正偏差來(lái)進(jìn)行的。——技能求精第四頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述基本形式知識(shí)獲取的本質(zhì)可能是一個(gè)自覺(jué)的過(guò)程，其結(jié)果是產(chǎn)生新的符號(hào)知識(shí)結(jié)構(gòu)和智力模型。而技能求精則是下意識(shí)地借助于反復(fù)地實(shí)踐來(lái)實(shí)現(xiàn)的。本章只涉及學(xué)習(xí)的知識(shí)獲取問(wèn)題。第五頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述為什么要研究機(jī)器學(xué)習(xí)？人工智能主要是為了研究人的智能，模仿其機(jī)理將其應(yīng)用于工程的科學(xué)。在這個(gè)過(guò)程中必然會(huì)問(wèn)道：“人類怎樣做才能獲取這種特殊技能（或知識(shí)）？”。.......….第六頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述為什么要研究機(jī)器學(xué)習(xí)？

.......….當(dāng)前人工智能研究的主要障礙和發(fā)展方向之一就是機(jī)器學(xué)習(xí)。包括學(xué)習(xí)的計(jì)算理論和構(gòu)造學(xué)習(xí)系統(tǒng)。現(xiàn)在的人工智能系統(tǒng)還完全沒(méi)有或僅有很有限的學(xué)習(xí)能力。系統(tǒng)中的知識(shí)由人工編程送入系統(tǒng)，知識(shí)中的錯(cuò)誤也不能自動(dòng)改正。也就是說(shuō)，現(xiàn)有的大多數(shù)人工智能是演繹的、沒(méi)有歸納推理，因而不能自動(dòng)獲取和生成知識(shí)。.......….第七頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述為什么要研究機(jī)器學(xué)習(xí)？

………..未來(lái)的計(jì)算機(jī)將有自動(dòng)獲取知識(shí)的能力，它們直接由書(shū)本學(xué)習(xí)，通過(guò)與人談話學(xué)習(xí)，通過(guò)觀察學(xué)習(xí)。它們通過(guò)實(shí)踐自我完善，克服人的存儲(chǔ)少、效率低、注意力分散、難以傳送所獲取得知識(shí)等局限性。一臺(tái)計(jì)算機(jī)獲取的知識(shí)很容易復(fù)制給任何其它機(jī)器。第八頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述實(shí)現(xiàn)的困難：

預(yù)測(cè)難：學(xué)習(xí)后知識(shí)庫(kù)發(fā)生了什么變化，系統(tǒng)功能的變化的預(yù)測(cè)。歸納推理：現(xiàn)有的歸納推理只保證假，不保證真。演繹推理保真。而且，歸納的結(jié)論是無(wú)限多的，其中相當(dāng)多是假的，給生成的知識(shí)帶來(lái)不可靠性。機(jī)器目前很難觀察什么重要、什么有意義。第九頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述發(fā)展歷史

神經(jīng)系統(tǒng)模型和決策理論50年代開(kāi)始。其特點(diǎn)是對(duì)開(kāi)始與無(wú)初始結(jié)構(gòu)和面向作業(yè)知識(shí)的通用學(xué)習(xí)系統(tǒng)感興趣。包括構(gòu)造多種具有隨機(jī)或部分隨機(jī)的初始結(jié)構(gòu)的基于神經(jīng)模型的機(jī)器。這些系統(tǒng)一般稱為神經(jīng)網(wǎng)絡(luò)或自組織系統(tǒng)。由于當(dāng)時(shí)計(jì)算機(jī)技術(shù)狀態(tài)，多停留在理論和硬件上。這些元件類似于神經(jīng)元，他們實(shí)現(xiàn)簡(jiǎn)單的邏輯功能?！谑?yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述發(fā)展歷史神經(jīng)系統(tǒng)模型和決策理論………1965年左右，神經(jīng)網(wǎng)絡(luò)經(jīng)驗(yàn)?zāi)Ｊ綄?dǎo)致了模式識(shí)別這一新學(xué)科以及機(jī)器學(xué)習(xí)的決策理論方法。這種方法中學(xué)習(xí)就是從給定的一組經(jīng)過(guò)選擇的例子中獲得判斷函數(shù)，有線性的、多項(xiàng)式的、或相關(guān)的形式。當(dāng)時(shí)，Samuel(1059-1963)的跳棋程序是最著名的成功的學(xué)習(xí)系統(tǒng)之一。達(dá)到了跳棋大師的水平。第十一頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述符號(hào)概念獲取1975年左右提出的。這類學(xué)習(xí)過(guò)程通過(guò)分析一些概念的正例和反例構(gòu)造出這些概念的符號(hào)表示。表示的形式一般是邏輯表達(dá)式、決策樹(shù)、產(chǎn)生式規(guī)則或語(yǔ)義網(wǎng)絡(luò)。代表有Winston的ARCH。第十二頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述知識(shí)加強(qiáng)和論域?qū)Ｓ脤W(xué)習(xí)此方法是70年代中期開(kāi)始，沿著符號(hào)主義路線進(jìn)行的。在原有基礎(chǔ)上逐步加強(qiáng)、重于專業(yè)的專用性。強(qiáng)調(diào)使用面向任務(wù)的知識(shí)和它對(duì)學(xué)習(xí)過(guò)程的引導(dǎo)作用。系統(tǒng)包括預(yù)先確定的概念、知識(shí)結(jié)構(gòu)、輪域約束、啟發(fā)式規(guī)則和論域有關(guān)的變換。系統(tǒng)在開(kāi)始并不具有所有的屬性或概念，在學(xué)習(xí)過(guò)程中系統(tǒng)應(yīng)得到一些新的屬性或概念。沒(méi)有絕對(duì)的學(xué)習(xí)方法。許多系統(tǒng)體現(xiàn)出上述途徑的組合。第十三頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述機(jī)器學(xué)習(xí)進(jìn)入新階段的重要表現(xiàn)：（近十年）

機(jī)器學(xué)習(xí)已成為新的邊緣科學(xué)并在高校形成一門課程。它綜合應(yīng)用心理學(xué)、生物學(xué)和神經(jīng)生理學(xué)以及數(shù)學(xué)、自動(dòng)化和計(jì)算機(jī)科學(xué)形成機(jī)器學(xué)習(xí)理論基礎(chǔ)。第十四頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述機(jī)器學(xué)習(xí)進(jìn)入新階段的重要表現(xiàn)：（近十年）結(jié)合各種學(xué)習(xí)方法，取長(zhǎng)補(bǔ)短的多種形式的集成學(xué)習(xí)系統(tǒng)的研究正在興起。特別是連接學(xué)習(xí)，符號(hào)學(xué)習(xí)的耦合可以更好地解決連續(xù)性信號(hào)處理中知識(shí)與技能的獲取與求精問(wèn)題而受到重視。第十五頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述機(jī)器學(xué)習(xí)進(jìn)入新階段的重要表現(xiàn)：（近十年）機(jī)器學(xué)習(xí)與人工智能各種基礎(chǔ)問(wèn)題的統(tǒng)一性觀點(diǎn)正在形成。例如：學(xué)習(xí)與問(wèn)題求解結(jié)合進(jìn)行，知識(shí)表達(dá)便于學(xué)習(xí)的觀點(diǎn)產(chǎn)生了通用智能系統(tǒng)SOAR的組塊學(xué)習(xí)。類比學(xué)習(xí)與問(wèn)題求解結(jié)合的基于案例學(xué)習(xí)已成為經(jīng)驗(yàn)學(xué)習(xí)的重要方向。

第十六頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述機(jī)器學(xué)習(xí)進(jìn)入新階段的重要表現(xiàn)：（近十年）各種學(xué)習(xí)方法的應(yīng)用范圍不斷擴(kuò)大，一部分已形成商品。歸納學(xué)習(xí)的知識(shí)獲取工具已在診斷分類性專家系統(tǒng)中廣泛應(yīng)用。連接學(xué)習(xí)在聲圖文識(shí)別中占優(yōu)勢(shì)。分析學(xué)習(xí)用于設(shè)計(jì)綜合性專家系統(tǒng)。遺傳算法與強(qiáng)化學(xué)習(xí)在工程控制中有較好的應(yīng)用前景。與符號(hào)系統(tǒng)耦合的神經(jīng)網(wǎng)絡(luò)連接學(xué)習(xí)將在企業(yè)的智能管理與智能機(jī)器人運(yùn)動(dòng)規(guī)劃中發(fā)揮作用。第十七頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—概述機(jī)器學(xué)習(xí)進(jìn)入新階段的重要表現(xiàn)：（近十年）與機(jī)器學(xué)習(xí)有關(guān)的學(xué)術(shù)活動(dòng)空前活躍。國(guó)際上除每年一次的機(jī)器學(xué)習(xí)研究會(huì)外，還有計(jì)算機(jī)學(xué)習(xí)理論會(huì)議及遺傳算法會(huì)議。

第十八頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—

概述機(jī)器學(xué)習(xí)模型學(xué)習(xí)是建立理論、形成假設(shè)和進(jìn)行歸納推理的過(guò)程。整個(gè)過(guò)程包括：信息的存儲(chǔ)、知識(shí)的處理兩部分環(huán)境學(xué)習(xí)環(huán)節(jié)知識(shí)庫(kù)

執(zhí)行環(huán)節(jié)第十九頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—

概述分類：按學(xué)習(xí)策略機(jī)械是學(xué)習(xí)和直接輸入新知識(shí)（記憶學(xué)習(xí)） 學(xué)習(xí)這不需要進(jìn)行任何推理或知識(shí)轉(zhuǎn)換，將知識(shí)直接裝進(jìn)機(jī)器中。根據(jù)示教學(xué)習(xí)（傳授學(xué)習(xí)、指點(diǎn)學(xué)習(xí)） 從老師或其它有結(jié)構(gòu)的事物獲取知識(shí)。要求學(xué)習(xí)者將輸入語(yǔ)言的知識(shí)轉(zhuǎn)換成它本身的內(nèi)部表示形式。并把新的信息和它原有的知識(shí)有機(jī)地結(jié)合為一體。……….第二十頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—

概述……….通過(guò)類推學(xué)習(xí)（演繹學(xué)習(xí)） 學(xué)習(xí)者找出現(xiàn)有知識(shí)中所要產(chǎn)生的新概念或技能十分類似的部分。將它們轉(zhuǎn)換或擴(kuò)大成適合新情況的形式，從而取得新的事實(shí)或技能。從例子中學(xué)習(xí)（歸納學(xué)習(xí)） 給學(xué)習(xí)者提供某一概念的一組正例和反例，學(xué)習(xí)者歸納出一個(gè)總的概念描述，是它適合于所有的正例且排除所有的反例。（目前研究較多的一種方法）……….第二十一頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—

概述 ……….類比學(xué)習(xí) 演繹學(xué)習(xí)與歸納學(xué)習(xí)的組合。匹配不同論域的描述、確定公共的結(jié)構(gòu)。以次作為類比映射的基礎(chǔ)。尋找公共子結(jié)構(gòu)是歸納推理，而實(shí)現(xiàn)類比映射是演繹推理。第二十二頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—

概述研究目的希望得到通用的算法研究了解學(xué)習(xí)知識(shí)的模型、認(rèn)知模型解決實(shí)際問(wèn)題的知識(shí)庫(kù)域系統(tǒng)，達(dá)到工程目標(biāo)研究特點(diǎn)不可預(yù)測(cè)性第二十三頁(yè)，共五十二頁(yè)。第五章機(jī)器學(xué)習(xí)概述實(shí)例學(xué)習(xí)第二十四頁(yè)，共五十二頁(yè)。第五章機(jī)器學(xué)習(xí)概述實(shí)例學(xué)習(xí)第二十五頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)概述50年代興起的實(shí)例學(xué)習(xí)是歸納學(xué)習(xí)的一種。目前實(shí)例學(xué)習(xí)在某些系統(tǒng)中的應(yīng)用已成為機(jī)器學(xué)習(xí)走向?qū)嵺`的先導(dǎo)。環(huán)境提供給系統(tǒng)一些特殊的實(shí)例，這些實(shí)例事先由施教者劃分為正例和反例。實(shí)例學(xué)習(xí)系統(tǒng)由此進(jìn)行歸納推理得到一般規(guī)則。環(huán)境提供給學(xué)習(xí)環(huán)節(jié)的正例和反例是低水平的信息，這是特殊情況下執(zhí)行環(huán)節(jié)的行為。學(xué)習(xí)環(huán)節(jié)歸納出的規(guī)則是高水平的信息，可以在一般情況下用這些規(guī)則指導(dǎo)執(zhí)行環(huán)節(jié)的工作。第二十六頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)實(shí)例學(xué)習(xí)的兩個(gè)空間模型例子空間規(guī)則空間選擇例子解釋例子第二十七頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－兩個(gè)空間模型描述例子空間的描述語(yǔ)言可以描述所有例子；規(guī)則空間的可以描述所有規(guī)則。例如：紙牌，同花5張正例：{(2,c),(3,c),(5,c),(J,c),(A,c)},其中c，草花club規(guī)則：描述一手牌的全部謂詞表達(dá)式的集合。符號(hào)：SUIT(花色)，RANK（點(diǎn)數(shù)）常量：A,2,3,…,10.J,Q,K,clubs(草花),diamonds(方塊),hearts（紅桃）,spades(黑桃)合取連接詞∧，存在量詞所以有規(guī)則：對(duì)c1,c2,c3,c4,c5SUIT(c1,*)∧SUIT(c2,*)∧SUIT(c3,*)∧SUIT(c4,*)∧SUIT(c5,*)

第二十八頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－兩個(gè)空間模型例子空間示教例子的質(zhì)量。不能有錯(cuò)，同時(shí)提供正例和反例，逐步分批由選擇地送入。選擇的條件：最有力地劃分規(guī)則空間；證實(shí)肯定假設(shè)規(guī)則的集合；否定否定假設(shè)規(guī)則的集合。搜索方法。第二十九頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－兩個(gè)空間模型解釋例子解釋例子的目的是從例子中提出用于搜索空間的信息。把示教離子變換成易于進(jìn)行符號(hào)歸納的形式。例如：Winston的積木世界中的“拱”的概念。第三十頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－兩個(gè)空間模型規(guī)則空間最根本，真正學(xué)習(xí)的部分。定義：一套符號(hào)來(lái)規(guī)定表示規(guī)則的算符、術(shù)語(yǔ)，所有的描述都在其中。歸納方法：從特殊到一般的推理常量化為變量。例P189，從幾個(gè)正例中找到共性的部分改成變量。去掉條件。同上例。去掉牌點(diǎn)數(shù)這個(gè)條件增加選擇（析取）。例人臉牌。從RANK(c1,J),RANK(c2,K)推出還有RANK(c3,Q)曲線擬合。幾組值，解方程或用最小二乘法擬合成一條曲線或曲面。第三十一頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－兩個(gè)空間模型（規(guī)則空間）不管是去掉還是增加，都是擴(kuò)大范圍。把已有的知識(shí)總結(jié)歸納推廣。但是要小心。越快越強(qiáng)的方法越容易出錯(cuò)。原因是歸納推理方法是保假不保真。實(shí)際上沒(méi)有很嚴(yán)格的具體方法。因此，用歸納方法的過(guò)程就是搜索過(guò)程。找到包含在少數(shù)例子中的正確信息。歸納出錯(cuò)就要回溯。要經(jīng)常檢驗(yàn)，用新例子去否定歸納出的錯(cuò)誤規(guī)則。即解釋例子和選擇例子的反復(fù)，反復(fù)于例子空間和規(guī)則空間之間。第三十二頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－兩個(gè)空間模型（規(guī)則空間）對(duì)規(guī)則空間的要求表示用適應(yīng)于歸納。如：有謂詞才可以增減；有狀態(tài)空間才能擬合。不同的歸納方法要求不同的規(guī)則表示方法。如果規(guī)則空間描述的語(yǔ)言的表達(dá)能力較弱，可以使用的歸納方法就比較少，規(guī)則空間的搜索反謂就比較小，搜索就比較容易。但解決的問(wèn)題就較少。因此，設(shè)計(jì)是在規(guī)則空間表達(dá)能力與規(guī)則空間搜索難度之間進(jìn)行權(quán)衡。表示和例子的一致。如相差很大，解釋例子和選擇例子的過(guò)程就很復(fù)雜。引入新術(shù)語(yǔ)（規(guī)則空間）。當(dāng)表示語(yǔ)言不能描述學(xué)習(xí)過(guò)程中產(chǎn)生的新?tīng)顟B(tài)時(shí)，要產(chǎn)生新的術(shù)語(yǔ)。第三十三頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－兩個(gè)空間模型（規(guī)則空間）搜索規(guī)則空間的方法 最終的目的是為了搜索，先建立一個(gè)假設(shè)空間，在其中進(jìn)行搜索。 方法：怎樣改進(jìn)假設(shè)規(guī)則機(jī)，以便求得要求的規(guī)則。變形空間法Version-space：數(shù)據(jù)驅(qū)動(dòng)改進(jìn)假設(shè)法Hypothesis-refinement：數(shù)據(jù)驅(qū)動(dòng)產(chǎn)生與測(cè)試GenerateandTest：模型驅(qū)動(dòng)方案示例法SchemaInstantiation：模型驅(qū)動(dòng)選擇例子。選擇合適的例子，以能更好的搜索。第三十四頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)實(shí)例學(xué)習(xí)的分類按搜索方法分類： 變形空間法；改進(jìn)假設(shè)法；產(chǎn)生與測(cè)試法；方案示例法按論域分類：數(shù)字表示：多用于電子工程、系統(tǒng)理論和模式分析 知識(shí)：多項(xiàng)式、矩陣；系統(tǒng)：自適應(yīng)系統(tǒng)；任務(wù)：模式分類、自適應(yīng)控制、濾波等。符號(hào)表示：AI領(lǐng)域主要研究對(duì)象。 知識(shí)：符號(hào)的特征向量、一階謂詞、產(chǎn)生式規(guī)則、框架、語(yǔ)義網(wǎng)絡(luò)；第三十五頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－實(shí)例學(xué)習(xí)的分類按任務(wù)復(fù)雜程度分類：學(xué)習(xí)單個(gè)概念：最基本的學(xué)習(xí)多個(gè)概念：歸納出多個(gè)相互獨(dú)立的概念學(xué)習(xí)執(zhí)行多步任務(wù)： 一個(gè)操作序列去完成任務(wù)，即執(zhí)行環(huán)節(jié)對(duì)任務(wù)要規(guī)劃。第三十六頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)學(xué)習(xí)單個(gè)概念概念：采用謂詞邏輯的知識(shí)表示時(shí)，一個(gè)概念就是一個(gè)謂詞公式。 學(xué)習(xí)單個(gè)概念就是給系統(tǒng)一個(gè)概念的若干正例合反例，系統(tǒng)由此歸納出表示這個(gè)概念的謂詞公式。過(guò)程：給定：概念的表示語(yǔ)言；正例和反例尋找：一條規(guī)則。覆蓋全部正例，不覆蓋全部反例。第三十七頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－學(xué)習(xí)單個(gè)概念變形空間法變形空間方法以整個(gè)規(guī)則空間為初始的假設(shè)規(guī)則集合H。依據(jù)示教例子中的信息，對(duì)集合H進(jìn)行一般化或特殊化處理。逐步縮小集合H，最后使H收斂為只含有要求的規(guī)則由于被搜索的空間H逐步縮小，故稱為變形空間。例:p.198

變形空間圖第三十八頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－學(xué)習(xí)單個(gè)概念（變形空間法）搜索：使用一個(gè)可能合理的假設(shè)規(guī)則的集合H，H是規(guī)則空間的子集，是規(guī)則空間中間的一段。H中最一般的元素組成的子集稱為G集合，最特殊的元素組成的子集稱為S集合。（H是上界G和下界S之間的一段。）學(xué)習(xí)基本思想：盡可能合理的進(jìn)行特殊化和一般化處理，通過(guò)搜索減小H，找到一個(gè)假設(shè)規(guī)則。具體方法：消除候選元素法，見(jiàn)p.199例子：p.200第三十九頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－學(xué)習(xí)單個(gè)概念（變形空間法）結(jié)論S是規(guī)則充分條件，G是規(guī)則必要條件的集合。學(xué)習(xí)結(jié)束時(shí)找到的應(yīng)是充分必要條件。正例的主要工作是對(duì)S一般化，反例是對(duì)G特殊化。搜索的過(guò)程是在例子的引導(dǎo)下，數(shù)據(jù)驅(qū)動(dòng)。遵循的是變量?jī)?yōu)先的原則。

第四十頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－學(xué)習(xí)單個(gè)概念（變形空間法）變形空間法的優(yōu)缺點(diǎn)：搜索空間太大，有可能引起計(jì)算爆炸問(wèn)題（規(guī)則總地來(lái)說(shuō)是越擴(kuò)越多）抗干擾性差，所有數(shù)據(jù)驅(qū)動(dòng)方法的通病。解決方法：例子一組一租地給。采用析取規(guī)則，即此算法不可能發(fā)現(xiàn)“或”的關(guān)系。第四十一頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－學(xué)習(xí)單個(gè)概念改進(jìn)假設(shè)方法也是數(shù)據(jù)驅(qū)動(dòng)的方法。用改進(jìn)操作來(lái)修改規(guī)則空間中的假設(shè)。然后根據(jù)示教例子用啟發(fā)式方法選擇這些操作。例子：p.205優(yōu)點(diǎn)： 能發(fā)現(xiàn)實(shí)質(zhì)變量間關(guān)系缺點(diǎn)： 僅能在特殊情況下才能使用操作。變量的選樣，對(duì)例子的提供很敏感第四十二頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－學(xué)習(xí)單個(gè)概念產(chǎn)生與測(cè)試方法模型驅(qū)動(dòng)的方法。例子：見(jiàn)p.207優(yōu)點(diǎn)：比變形空間法更快，存儲(chǔ)量更少，抗干擾。即使例子中有干擾，就選覆蓋大多數(shù)例子的規(guī)則即可。缺點(diǎn)：沒(méi)有很完善的模型指導(dǎo)修剪和結(jié)束搜索。同時(shí)，因?yàn)樾藜羲圆煌陚?，不一定能找到全部合格的概念。而且一次需要全部例子，不適合于逐步學(xué)習(xí)。第四十三頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)－學(xué)習(xí)單個(gè)概念方案示例方法模型驅(qū)動(dòng)的方法。常用于理解性任務(wù)。如：圖像、語(yǔ)音、自然語(yǔ)言理解。例子：見(jiàn)p.211優(yōu)點(diǎn)： 可以很快找到要求規(guī)則，抗干擾性好缺點(diǎn)： 難以劃分出幾種方案。有的規(guī)則不能被現(xiàn)有的方案覆蓋。每個(gè)方案要專門研究，使用不同的解釋方法。第四十四頁(yè)，共五十二頁(yè)。實(shí)例學(xué)習(xí)學(xué)習(xí)多個(gè)概念單個(gè)規(guī)則：可存在規(guī)則將空間一分為二規(guī)則集合有相交，主要問(wèn)題是重疊部分。學(xué)習(xí)多步任務(wù)多步學(xué)習(xí)就是選擇一系列規(guī)則，去完成一系列步驟。如下棋，積分。難點(diǎn)多規(guī)則一起使用，規(guī)則之間的相互聯(lián)系，影響。獎(jiǎng)罰分配問(wèn)題透明度例子：見(jiàn)p.229

第四十五頁(yè)，共五十二頁(yè)。第五章機(jī)器學(xué)習(xí)

TheEnd.第四十六頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—

概述環(huán)境：工作對(duì)象，外部環(huán)境信息水平。高水平的抽象，需具體化成為知識(shí)；低水平的特殊（實(shí)例），需一般化成為知識(shí)。 信息質(zhì)量。正確無(wú)干擾的；適當(dāng)選樣例子合適的；（學(xué)習(xí)）次序合適。 信息質(zhì)量對(duì)學(xué)習(xí)難度有明顯影響。如施教者向系統(tǒng)提供準(zhǔn)確的施教例子，而且提供例子的次序也有利于學(xué)習(xí)，則容易進(jìn)行歸納。反之難以歸納。第四十七頁(yè)，共五十二頁(yè)。機(jī)器學(xué)習(xí)—

概述知識(shí)庫(kù)