神經(jīng)網(wǎng)絡(luò)BP算法案例

1神經(jīng)網(wǎng)絡(luò)BP算法案例2【例】

假設(shè)訓(xùn)練樣本s的屬性值為｛1，0，1｝，實(shí)際類別分別為1，兩層前饋神經(jīng)網(wǎng)絡(luò)NT如圖1所示，NT中每條有一向加權(quán)邊的權(quán)重、每個(gè)隱藏層與輸出層單元的偏置如表1所示，學(xué)習(xí)率為0.9。寫出輸入S訓(xùn)練NT的過(guò)程。神經(jīng)網(wǎng)絡(luò)BP算法案例圖1兩層前饋神經(jīng)網(wǎng)絡(luò)3首先算出單元4、5、6的輸入、輸出，具體結(jié)果見(jiàn)表1，然后計(jì)算4、5、6的誤差，見(jiàn)表2；NT中每條有向加權(quán)邊的新權(quán)重、每個(gè)隱藏層與輸出層單元的新偏置見(jiàn)表3。圖2兩層前饋神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)BP算法案例4表1權(quán)重、單元的偏置神經(jīng)網(wǎng)絡(luò)BP算法案例5單元j輸入Ij輸出Oj40.2×1+0.4×0+(-0.5)×1+(-0.4)=-0.71/(l+e-(-0.7))=0.3325(-0.3)×l+0.1×0+0.2×1+0.2=0.11/(l+e-0.1)=0.5256(-0.3)×0.332+(-0.2)×0.525+0.1=-0.1051/(l+e-(-0.105))=0.474表2隱藏層與輸出層每個(gè)單元的輸入、輸出神經(jīng)網(wǎng)絡(luò)BP算法案例6表3隱藏層與輸出層每個(gè)單元的誤差單元j誤差

60.474×(1-0.474)×(l-0.474)=0.131150.525×(l-0.525)×(0.1311×(-0.2))=-0.006540.332×(l-0.332)×(0.1311×(-0.3))=-0.0087神經(jīng)網(wǎng)絡(luò)BP算法案例7表4有向加權(quán)邊的新權(quán)重、每個(gè)隱藏層與輸出層單元的新偏置W46-0.3+0.9×0.1311×0.332=-0.261W56-0.2+0.9×0.1311×0.525=-0.138W140.2+0.9×(-0.00087)×1=0.192W15-0.3+0.9×(-0.0065)×1=-0.306W240.4+0.9×(-0.0087)×0=0.4W250.1+0.9×(-0.0065)×0=0.1W34-0.5+0.9×(-0.0087)×1=-0.508W350.2+0.9×(-0.0065)×1=0.194

60.1+0.9×0.1311=0.218

50.2+0.9×(-0.0065)=0.194

4-0.4+0.9×(-0.0087)=-0.408神經(jīng)網(wǎng)絡(luò)BP算法案例由Apriori關(guān)聯(lián)算法

推算牛奶可以搭配哪些商品從一家公司的銷售記錄中我們找到以下8條消費(fèi)記錄，并以3作為最小支持度，也就是說(shuō)出現(xiàn)頻率在3次以下的記錄是被我們所忽略的。

所有滿足最小支持度3的1項(xiàng)頻繁集如下〔其中巧克力、香蕉、葡萄的支持度為1，不滿足條件〕支持度銷售內(nèi)容3冰淇淋4咖啡4果醬5牛奶7面包所有滿足最小支持度3的2項(xiàng)頻繁集如下：遞歸執(zhí)行支持度銷售內(nèi)容3面包咖啡3面包冰淇淋4面包牛奶4面包果醬所有滿足最小支持度3的3項(xiàng)頻繁集只剩下一條：

再次遞歸執(zhí)行支持度銷售內(nèi)容3面包果醬牛奶那么｛牛奶，果醬，面包｝就是我們要的滿足最小支持度3的3項(xiàng)頻繁集，也就是說(shuō)牛奶、果醬和面包這三種是最被經(jīng)常一起買的。然而，在研究挖掘關(guān)聯(lián)規(guī)那么的過(guò)程中，許多學(xué)者發(fā)現(xiàn)在實(shí)際應(yīng)用中，對(duì)于很多應(yīng)用來(lái)說(shuō)，由于數(shù)據(jù)分布的分散性，數(shù)據(jù)比較少，所以很難在數(shù)據(jù)最細(xì)節(jié)的層次上發(fā)現(xiàn)一些強(qiáng)關(guān)聯(lián)規(guī)那么。要想在原始的概念層次上發(fā)現(xiàn)強(qiáng)的〔strong〕和有意義的〔interesting〕關(guān)聯(lián)規(guī)那么是比較困難的。當(dāng)我們引入概念層次后，就可以在較高的層次上進(jìn)行挖掘。所以數(shù)據(jù)挖掘應(yīng)該提供這樣一種在多個(gè)層次上進(jìn)行挖掘的功能。

概念層次〔ConceptHierarchy〕是指將大量的概念用層次化的方法組織起來(lái)，使得子概念所包含的意義比它的父親更加特殊，可以被其父概念所概括。概念層次在要挖掘的數(shù)據(jù)庫(kù)中經(jīng)常是存在的，比方在一個(gè)超市中會(huì)存在這樣的概念層次：蒙牛牌牛奶是牛奶，伊利牌牛奶是牛奶，王子牌餅干是餅干，康師傅牌餅干是餅干等。

可以用有向無(wú)環(huán)圖(directedacyclicgraph)表示概念層次，如下：從有向無(wú)環(huán)圖(directedacyclicgraph

)可以看出——如果我們只是在數(shù)據(jù)根本層開掘關(guān)系，｛蒙牛牌牛奶，王子牌餅干｝，｛蒙牛牌牛奶，康師傅牌餅干｝，｛伊利牌牛奶，王子牌餅干｝，｛伊利牌牛奶，康師傅牌餅干｝都不符合最小支持度。不過(guò)如果我們上升一個(gè)層級(jí)，可能會(huì)發(fā)現(xiàn)｛牛奶，餅干｝的關(guān)聯(lián)規(guī)那么是有一定支持度的。這樣我們就可以在較高的概念層次上發(fā)現(xiàn)關(guān)聯(lián)規(guī)那么。

關(guān)聯(lián)規(guī)那么同層關(guān)聯(lián)規(guī)那么層間關(guān)聯(lián)規(guī)那么單維關(guān)聯(lián)規(guī)那么多維關(guān)聯(lián)規(guī)那么關(guān)聯(lián)規(guī)則的分類同層關(guān)聯(lián)規(guī)那么可以采用兩種支持度策略：

統(tǒng)一的最小支持度：對(duì)于不同的層次，都使用同一個(gè)最小支持度。這樣比較容易，但是弊端也是顯