機(jī)器學(xué)習(xí)基于實(shí)例的學(xué)習(xí)課件

1、2022/10/41 第8章 基于實(shí)例的學(xué)習(xí)8.1簡介8.2 k一近鄰算法8.3局部加權(quán)回歸8.4徑向基函數(shù)8.5基于案例的推理8.6對消極學(xué)習(xí)和積極學(xué)習(xí)的評論8.7小結(jié)和補(bǔ)充讀物2022/10/42 8.1簡介（1/3）思想：基于實(shí)例的學(xué)習(xí)方法先把訓(xùn)練樣例存儲起來。泛化的工作被推遲到必須分類新的實(shí)例時(shí)。每當(dāng)學(xué)習(xí)器遇到一個(gè)新的查詢實(shí)例，它分析這個(gè)新實(shí)例與以前存儲的實(shí)例的關(guān)系，并據(jù)此把一個(gè)目標(biāo)函數(shù)值賦給新實(shí)例。基于實(shí)例的學(xué)習(xí)方法有時(shí)被稱為消極(lazy)學(xué)習(xí)法，因?yàn)樗鼈儼烟幚砉ぷ餮舆t到必須分類新的實(shí)例時(shí)。與其相對的方法稱為積極的（eager)。延遲的或消極的學(xué)習(xí)方法有一個(gè)關(guān)鍵的優(yōu)點(diǎn)，即它們不是在

2、整個(gè)實(shí)例空間上一次性地估計(jì)目標(biāo)函數(shù)，而是針對每個(gè)待分類新實(shí)例作出局部的和相異的估計(jì)。2022/10/438.1簡介（2/3）基于實(shí)例的學(xué)習(xí)方法包括最近鄰法(nearest neighbor NN) 和局部加權(quán)回歸(locally weighted regression LWR)法，它們都假定實(shí)例可以被表示為歐氏空間中的點(diǎn)。基于實(shí)例的學(xué)習(xí)方法還包括基于案例的推理(case-based reasoning CBR）它對實(shí)例采用更復(fù)雜的符號表示。2022/10/44 8.1簡介（3/3）基于實(shí)例方法的一個(gè)不足是，分類新實(shí)例的開銷可能很大。這是因?yàn)閹缀跛械挠?jì)算都發(fā)生在分類時(shí)，而不是在第一次遇到訓(xùn)練樣

3、例時(shí)。所以如何有效地索引訓(xùn)練樣例，以減少查詢時(shí)所需的計(jì)算是一個(gè)重要的實(shí)踐問題。第二個(gè)不足是(尤其對于最近鄰法)，當(dāng)從存儲器中檢索相似的訓(xùn)練樣例時(shí)，它們一般考慮實(shí)例的所有屬性。如果目標(biāo)概念僅依賴于很多屬性中的幾個(gè)時(shí)，那么真正最“相似”的實(shí)例之間很可能相距甚遠(yuǎn)。2022/10/45 8.2 k一近鄰算法（1/5）k一近鄰算法假定所有的實(shí)例對應(yīng)于n維空間Rn中的點(diǎn)。一個(gè)實(shí)例的最近鄰是根據(jù)標(biāo)準(zhǔn)歐氏距離定義的。即把任意實(shí)例x表示為下面的特征向量: 其中,ar(x)表示實(shí)例x的第r個(gè)屬性值。那么，兩個(gè)實(shí)例xi和xj 間的距離定義為d(xi,xj)，其中:2022/10/478.2 k一近鄰算法（2/5）

4、下圖圖解了一種簡單情況下的k一近鄰算法，在這里實(shí)例是二維空間中的點(diǎn)，目標(biāo)函數(shù)具有布爾值。正反訓(xùn)練樣例用“+”和“-”分別表示。圖中也畫出了一個(gè)查詢點(diǎn)xq 。1一近鄰算法把xq分類為正例，然而5一近鄰算法把xq分類為反例。2022/10/488.2 k一近鄰算法（3/5） k-近鄰算法隱含考慮的假設(shè)空間H的特性:k-近鄰算法并不形成關(guān)于目標(biāo)函數(shù)f的明確的一般假設(shè)。它僅在需要時(shí)計(jì)算每個(gè)新查詢實(shí)例的分類。隱含的一般函數(shù)是什么?或者說，如果保持訓(xùn)練樣例不變，并用X中的每個(gè)可能實(shí)例查詢算法，會得到什么樣的分類?2022/10/4108.2 k一近鄰算法（5/5） 對k一近鄰算法作簡單的修改，它可被用于逼

5、近連續(xù)值的目標(biāo)函數(shù)。讓算法計(jì)算k個(gè)最接近樣例的平均值，而不是計(jì)算其中的最普遍的值。更精確地講，為了逼近一個(gè)實(shí)值目標(biāo)函數(shù) ，我們使用公式:2022/10/4118.2.1距離加權(quán)最近鄰算法（1/3） 對k一近鄰算法的一個(gè)改進(jìn)是對k個(gè)近鄰的貢獻(xiàn)加權(quán)，根據(jù)它們相對查詢點(diǎn)xq的距離，將較大的權(quán)值賦給較近的近鄰。在逼近離散目標(biāo)函數(shù)的算法中，可以根據(jù)每個(gè)近鄰與xq的距離平方的倒數(shù)加權(quán)這個(gè)近鄰的“選舉權(quán)”: 當(dāng)xq=xi ，將導(dǎo)致分母d(xq xi)2為0，此時(shí)令 。如果有多個(gè)這樣的訓(xùn)練樣例，我們使用它們中占多數(shù)的分類。2022/10/4128.2.1距離加權(quán)最近鄰算法（2/3）對實(shí)值目標(biāo)函數(shù)進(jìn)行距離加權(quán)，

6、用下式： 其中，wi的定義與前式中相同。注意該式中的分母是一個(gè)常量，它將不同權(quán)值的貢獻(xiàn)歸一化(例如，它保證如果對所有的訓(xùn)練樣例xi，f(xi)c，那么， 。2022/10/4148.2.2對k-近鄰算法的說明（1/6） 按距離加權(quán)的k一近鄰算法是一種非常有效的歸納推理方法。它對訓(xùn)練數(shù)據(jù)中的噪聲有很好的健壯性，而且當(dāng)給定足夠大的訓(xùn)練集合時(shí)也非常有效。注意，通過取k個(gè)近鄰的加權(quán)平均，可以消除孤立的噪聲樣例的影響。k一近鄰算法的歸納偏置對應(yīng)于假定:一個(gè)實(shí)例的分類xq與在歐氏空間中它附近的實(shí)例的分類相似。2022/10/4158.2.2對k-近鄰算法的說明（2/6）應(yīng)用k一近鄰算法的一個(gè)實(shí)踐問題是，實(shí)

7、例間的距離是根據(jù)實(shí)例的所有屬性(也就是包含實(shí)例的歐氏空間的所有坐標(biāo)軸)計(jì)算的?？紤]把k一近鄰算法應(yīng)用到這樣一個(gè)問題: 每個(gè)實(shí)例由20個(gè)屬性描述，但在這些屬性中僅有2個(gè)與它的分類有關(guān)。在這種情況下，這兩個(gè)相關(guān)屬性的值一致的實(shí)例可能在這個(gè)20維的實(shí)例空間中相距很遠(yuǎn)。結(jié)果，依賴這20個(gè)屬性的相似性度量會誤導(dǎo)k一近鄰算法的分類。2022/10/4178.2.2對k-近鄰算法的說明（4/6）具體做法如下：首先，假定使用加權(quán)因子zj，伸展(乘)第j個(gè)根坐標(biāo)軸，選擇zj的各個(gè)值z1 zn ，以使學(xué)習(xí)算法的真實(shí)分類錯(cuò)誤率最小化。其次，這個(gè)真實(shí)錯(cuò)誤率可以使用交叉驗(yàn)證來估計(jì)。交叉驗(yàn)證:隨機(jī)選取現(xiàn)有數(shù)據(jù)的一個(gè)子集作

8、為訓(xùn)練樣例，然后決定z1 zn 的值使剩余樣例的分類錯(cuò)誤率最小化。通過多次重復(fù)這個(gè)處理過程，可以使加權(quán)因子的估計(jì)更加準(zhǔn)確。這種伸展坐標(biāo)軸以優(yōu)化k一近鄰算法的過程，提供了一種抑制無關(guān)屬性影響的機(jī)制。2022/10/4188.2.2對k-近鄰算法的說明（5/6）另外一種更強(qiáng)有力的方法從實(shí)例空間中完全消除最不相關(guān)的屬性。這等效于設(shè)置某個(gè)縮放因子zj為0。注意，上面的兩種方法都可以被看作以某個(gè)常量因子伸展坐標(biāo)軸。另外一種可選的做法是使用一個(gè)在實(shí)例空間上變化的值伸展坐標(biāo)軸。這樣增加了算法重新定義距離度量的自由度，然而也增加了過度擬合的風(fēng)險(xiǎn)。所以，局部伸展坐標(biāo)軸的方法是不太常見的。2022/10/4198

9、.2.2對k-近鄰算法的說明（6/6）應(yīng)用k一近鄰算法的另外一個(gè)實(shí)踐問題是如何建立高效的索引。因?yàn)閗一近鄰算法推遲所有的處理，直到接收到一個(gè)新的查詢，所以處理每個(gè)新查詢可能需要大量的計(jì)算。一種索引方法是kd-tree，它把實(shí)例存儲在樹的葉結(jié)點(diǎn)內(nèi)，鄰近的實(shí)例存儲在同一個(gè)或附近的結(jié)點(diǎn)內(nèi)。通過測試新查詢xq的選定屬性，就可以把查詢xq排列到相關(guān)的葉結(jié)點(diǎn)。2022/10/4208.2.3術(shù)語注解回歸(Regression)的含義是逼近一個(gè)實(shí)數(shù)值的目標(biāo)函數(shù)。殘差(Residual)是逼近目標(biāo)函數(shù)時(shí)的誤差核函數(shù)(Kernel function)是一個(gè)距離函數(shù)，它用來決定每個(gè)訓(xùn)練樣例的權(quán)值。換句話說，核函數(shù)

10、就是使 wi=K(d(xi,xq)的函數(shù)K。2022/10/4218.3局部加權(quán)回歸（1/2）最近鄰方法可以被看作在單一的查詢點(diǎn)x= xq上逼近目標(biāo)函數(shù)f(x)。（沒有明確的目標(biāo)函數(shù)，只有目標(biāo)值）局部加權(quán)回歸是最近鄰方法的推廣。它在環(huán)繞xq的局部區(qū)域內(nèi)為目標(biāo)函數(shù)f建立明確的逼近。使用附近的或距離加權(quán)的訓(xùn)練樣例來形成這種對f的局部逼近。可以使用線性函數(shù)、二次函數(shù)、多層神經(jīng)網(wǎng)絡(luò)或者其他函數(shù)形成在環(huán)繞xq的鄰域內(nèi)逼近目標(biāo)函數(shù)?！熬植考訖?quán)回歸”名稱中，“局部”是指目標(biāo)函數(shù)的逼近僅僅根據(jù)查詢點(diǎn)附近的數(shù)據(jù); “加權(quán)”是指每一個(gè)訓(xùn)練樣例的貢獻(xiàn)是由它與查詢點(diǎn)間的距離加權(quán)的; “回歸”表示逼近實(shí)數(shù)值函數(shù)。202

11、2/10/4228.3局部加權(quán)回歸（2/2） 給定一個(gè)新的查詢實(shí)例，局部加權(quán)回歸的一般方法是：建立一個(gè)逼近 ，使 擬合環(huán)繞xq的鄰域內(nèi)的訓(xùn)練樣例。(可以使用歸納學(xué)習(xí)等方法）然后用這個(gè)逼近來計(jì)算 的值，也就是為查詢實(shí)例估計(jì)的目標(biāo)值輸出。然后， 的描述被刪除，因?yàn)閷τ诿恳粋€(gè)獨(dú)立的查詢實(shí)例都會計(jì)算不同的局部逼近。2022/10/4248.3.1局部加權(quán)線性回歸(2/3) 修改這個(gè)過程來推導(dǎo)出局部逼近方法是:重新定義誤差準(zhǔn)則E以著重于擬合局部訓(xùn)練樣例。下面給出了三種可能的誤差準(zhǔn)則。1)只對在k個(gè)近鄰上的誤差平方最小化:2)使整個(gè)訓(xùn)練樣例集合D上的誤差平方最小化，但對每個(gè)訓(xùn)練樣例加權(quán)，權(quán)值為關(guān)于相距xq

12、距離的某個(gè)遞減函數(shù)K:3)綜合1和2:2022/10/4258.3.1局部加權(quán)線性回歸(3/3) 使用上面的準(zhǔn)則3，并使用與第4章相同的推理方式重新推導(dǎo)梯度下降法則，可以得到以下訓(xùn)練法則: 注意，這個(gè)新的法則和全局逼近給出的法則的差異是:實(shí)例x對權(quán)值更新的貢獻(xiàn)現(xiàn)在乘上了一個(gè)距離懲罰項(xiàng)K( d(xq，x)僅對k個(gè)最鄰近的訓(xùn)練實(shí)例的誤差求和。2022/10/4278.4徑向基函數(shù)（1/7） 在使用徑向基函數(shù)方法中，最常用所待學(xué)習(xí)的假設(shè)是一個(gè)以下形式的函數(shù): 其中，每個(gè)xu是X中一個(gè)實(shí)例，核函數(shù)K（ d(xu，x)被定義為隨距離d(xu，x) 的增大而減小。這里的k是用戶提供的常量，用來指定要包含的

13、核函數(shù)的數(shù)量。盡管 是對f(x)的全局逼近，但來自每個(gè)Ku(d(xu,x) 項(xiàng)的貢獻(xiàn)被局部化到點(diǎn)xu附近的區(qū)域。2022/10/428 一種很常見的做法是選擇每個(gè)核函數(shù)Ku（d(xu，x)為高斯函數(shù),高斯函數(shù)的中心點(diǎn)為xu，方差是 。每個(gè)核函數(shù)Ku（d(xu，x)取為高斯函數(shù)時(shí)，函數(shù)：能夠以任意小的誤差逼近任何函數(shù)，只要高斯的核數(shù)量足夠大，并且可以分別制定每個(gè)核的寬度。8.4徑向基函數(shù)（2/7）2022/10/4298.4徑向基函數(shù)（3/7）函數(shù)：可以被看作是描述了一個(gè)兩層的網(wǎng)絡(luò)：第一層計(jì)算不同的Ku（d(xu，x) 第二層計(jì)算第一層單元值的線性組合。2022/10/4308.4徑向基函數(shù)（4

14、/7） 輸入第一步選取xu和 ，按下式計(jì)算： 使用 ，訓(xùn)練wu：下圖畫出了一個(gè)徑向基函數(shù)(RRF)網(wǎng)絡(luò)的例子。2022/10/4318.4徑向基函數(shù)（5/7） 人們已經(jīng)提出了幾種方法來選取適當(dāng)?shù)碾[藏單元或者說核函數(shù)的數(shù)量。第一種方法是為每一個(gè)訓(xùn)練樣例分配一個(gè)高斯核函數(shù)，此高斯核函數(shù)的中心點(diǎn)被設(shè)為xi。所有高斯函數(shù)的寬度2可被賦予同樣的值。選擇核函數(shù)的一個(gè)優(yōu)點(diǎn)是它允許RBF網(wǎng)絡(luò)精確地?cái)M合訓(xùn)練數(shù)據(jù)。即，對于任意m個(gè)訓(xùn)練樣例集合，合并m個(gè)高斯核函數(shù)的權(quán)值w0 wm可以被設(shè)置為使得對于每一個(gè)訓(xùn)練樣例都滿足 ，此時(shí)也可以有m個(gè)輸出。 2022/10/4328.4徑向基函數(shù)（6/7）第二種方法是選取一組數(shù)

15、量少于訓(xùn)練樣例數(shù)量的核函數(shù)。這種方法在訓(xùn)練樣例的數(shù)量巨大的時(shí)候比第一種方法更有效。核函數(shù)被分布在整個(gè)實(shí)例空間X上，它們的中心之間有均勻的間隔?；蛘?，也可以非均勻地分布核函數(shù)中心，特別是在實(shí)例本身在X上非均勻分布的時(shí)候?；蛘?，先求出訓(xùn)練樣例的原始聚類，然后以每個(gè)聚類為中心加入一個(gè)核函數(shù)。第6.12.1節(jié)討論的EM算法提供了一種從k個(gè)高斯函數(shù)的混合中選擇均值，以最佳擬合觀測到實(shí)例的方法。2022/10/4338.4徑向基函數(shù)（7/7）用多個(gè)局部核函數(shù)的線性組合表示的徑向基函數(shù)網(wǎng)絡(luò)提供了一種目標(biāo)函數(shù)的全局逼近。僅當(dāng)輸入x落入某個(gè)核函數(shù)的中心和寬度所定義的區(qū)域內(nèi)時(shí)，這個(gè)核函數(shù)的值才是不可忽略的。因此，

16、RBF網(wǎng)絡(luò)可以被看作目標(biāo)函數(shù)的多個(gè)局部逼近的平滑線性組合。RBF網(wǎng)絡(luò)的一個(gè)重要優(yōu)點(diǎn)是，與反向傳播算法訓(xùn)練的前饋網(wǎng)絡(luò)相比，它的訓(xùn)練更加高效。這是因?yàn)镽BF網(wǎng)絡(luò)的輸入層和輸出層可以被分別訓(xùn)練。RBF網(wǎng)絡(luò)是一種積極的學(xué)習(xí)方法。2022/10/4348.5基于案例的推理（1/6）k一近鄰算法和局部加權(quán)回歸都是基于實(shí)例的方法，它們具有三個(gè)共同的關(guān)鍵特性。第一，是消極學(xué)習(xí)方法，都把在訓(xùn)練數(shù)據(jù)之外的泛化推遲至遇到一個(gè)新的查詢實(shí)例時(shí)才進(jìn)行。第二，通過分析相似的實(shí)例來分類新的查詢實(shí)例，而忽略與查詢極其不同的實(shí)例。第三，把實(shí)例表示為n維歐氏空間中的實(shí)數(shù)點(diǎn)?；诎咐耐评?case-based reasoning,

17、 CBR) 基于前兩個(gè)原則，但不包括第3個(gè)原則。在CBR中，一般使用更豐富的符號描述來表示實(shí)例;相應(yīng)地，用來檢索實(shí)例的方法也更加復(fù)雜。2022/10/4358.5基于案例的推理（2/6） 考慮基于案例的推理系統(tǒng)的一個(gè)例子。2022/10/4368.5基于案例的推理（3/6） 2022/10/4378.5基于案例的推理（4/6） 給定新設(shè)計(jì)問題的功能說明，CADET從它的案例庫中搜索存儲的案例，使它的功能描述和新設(shè)計(jì)問題相匹配。如果發(fā)現(xiàn)了一個(gè)精確的匹配，那么可以返回這個(gè)案例作為新設(shè)計(jì)問題的建議方案。如果沒有發(fā)現(xiàn)精確的匹配，CADET可能找到匹配所需功能的不同子圖的案例。使它匹配設(shè)計(jì)規(guī)格說明的相應(yīng)

18、部分。通過檢索匹配不同子圖的多個(gè)案例，有時(shí)可以拼接得到整個(gè)設(shè)計(jì)。一般來說，從多個(gè)檢索到的案例產(chǎn)生最終方案的過程可能很復(fù)雜。需要從頭設(shè)計(jì)系統(tǒng)的各個(gè)部分，也可能需要回溯以前的設(shè)計(jì)子目標(biāo)，從而丟棄前面檢索到的案例。系統(tǒng)還可以根據(jù)領(lǐng)域或一般知識加工原始的功能說明圖，產(chǎn)生等價(jià)的子圖以匹配更多的案例。如：A B重寫為：A x B2022/10/4388.5基于案例的推理（5/6）基于案例的推理系統(tǒng)與k一近鄰方法的區(qū)別:實(shí)例或案例可以用豐富的符號描述表示，就像CADET中使用的功能圖。這需要不同于歐氏距離的相似性度量，比如兩個(gè)功能圖的最大可共享子圖的大小。檢索到的多個(gè)案例可以合并形成新問題的解決方案。這與k

19、一近鄰方法相似多個(gè)相似的案例用來構(gòu)成對新查詢的回答。然而，合并多個(gè)檢索到的案例的過程與k一近鄰有很大不同，它依賴于知識推理，而不是統(tǒng)計(jì)方法。案例檢索、基于知識的推理和問題求解間是緊密藕合在一起的。例如CADET系統(tǒng)在嘗試找到匹配的案例過程中，它使用有關(guān)物理感應(yīng)的一般知識重寫了功能圖。案例檢索和合并過程依賴于知識推理和搜索密集的問題求解方法。2022/10/4398.5基于案例的推理（6/6）目前關(guān)于基于案例的推理研究的一個(gè)課題是改進(jìn)索引案例的方法?；诎咐耐评碇行膯栴}是句法相似度量(例如，功能圖之間的子圖同構(gòu))僅能近似地指出特定案例與特定問題的相關(guān)度。當(dāng)CBR系統(tǒng)試圖復(fù)用檢索到的案例時(shí)，它可

20、能遇到句法相似度量中沒有捕捉到的難點(diǎn)。此時(shí)，CBR系統(tǒng)可回溯搜索另外的案例以適應(yīng)現(xiàn)有的案例，或者求助于其他的問題求解方法。2022/10/4408.6對消極學(xué)習(xí)和積極學(xué)習(xí)的評論(1/4)三種消極學(xué)習(xí)(lazy learning)方法:k一近鄰算法、局部加權(quán)回歸和基于案例的推理。之所以稱這些方法是消極的，是因?yàn)樗鼈冄舆t了如何從訓(xùn)練數(shù)據(jù)中泛化的決策，直到遇到一個(gè)新的查詢案例時(shí)才進(jìn)行。一種積極學(xué)習(xí)方法:學(xué)習(xí)徑向基函數(shù)網(wǎng)絡(luò)的方法。之所以稱這種方法是積極的(eager)，是因?yàn)樗谝姷叫碌牟樵冎熬妥龊昧朔夯墓ぷ髟谟?xùn)練時(shí)提交了定義其目標(biāo)函數(shù)逼近的網(wǎng)絡(luò)結(jié)構(gòu)和權(quán)值。根據(jù)同樣的理解，本書其他章節(jié)討論的所有其

21、他算法都是積極學(xué)習(xí)算法(例如，反向傳播算法、C4.5 )。2022/10/4418.6對消極學(xué)習(xí)和積極學(xué)習(xí)的評論(2/4)在算法能力方面，消極方法和積極方法有重要兩種差異:計(jì)算時(shí)間的差異和對新查詢的分類差異。在計(jì)算時(shí)間方面：消極方法在訓(xùn)練時(shí)一般需要較少的計(jì)算，但在預(yù)測新查詢的目標(biāo)值時(shí)需要更多的計(jì)算時(shí)間。積極方法正好相反。在新查詢的分類方面：消極方法在決定如何從訓(xùn)練數(shù)據(jù)D中泛化時(shí)考慮查詢實(shí)例xq；積極方法不能做到這一點(diǎn)，因?yàn)樵谝姷讲樵儗?shí)例xq前，它們已經(jīng)選取了對目標(biāo)函數(shù)的(全局)逼近。2022/10/4428.6對消極學(xué)習(xí)和積極學(xué)習(xí)的評論(3/4)對學(xué)習(xí)器的泛化精度的影響如果要求消極的和積極的學(xué)

22、習(xí)器采用同一個(gè)假設(shè)空間H，那么答案是肯定的。消極的學(xué)習(xí)器可以通過很多局部逼近的組合(隱含地)表示目標(biāo)函數(shù)。積極的學(xué)習(xí)器必須在訓(xùn)練時(shí)提交單個(gè)的全局逼近。積極學(xué)習(xí)和消極學(xué)習(xí)之間的差異意味著對目標(biāo)函數(shù)的全局逼近和局部逼近的差異。2022/10/4438.6對消極學(xué)習(xí)和積極學(xué)習(xí)的評論(4/4)使用多個(gè)局部逼近的積極方法（如RBF)，可以產(chǎn)生與消極方法（局部加權(quán)回歸）的局部逼近同樣的效果嗎? 消極學(xué)習(xí)方法可以對于每一個(gè)查詢實(shí)例選擇不同的假設(shè)(或目標(biāo)函數(shù)的局部逼近)。使用同樣假設(shè)空間的積極方法是更加受限制的，因?yàn)樗鼈儽仨毺峤灰粋€(gè)覆蓋整個(gè)實(shí)例空間的單一假設(shè)。當(dāng)然，積極的方法可以使用合并了多個(gè)局部逼近的假設(shè)空間，就像RBF網(wǎng)絡(luò)可以被看作是對這個(gè)目標(biāo)的嘗試。RBF學(xué)習(xí)方法是在訓(xùn)練時(shí)提交目標(biāo)函數(shù)全局逼近的積極方法。2022/10/4448.7小結(jié) (1)基于實(shí)例的學(xué)習(xí)方法不同于其他的函數(shù)逼近方法，因?yàn)樗鼈兺七t處理訓(xùn)練樣例，直到必須分類一個(gè)新查詢實(shí)例