



下載本文檔
版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、 因?yàn)?sigmoid 函數(shù)是值域在(0,1區(qū)間的遞增函數(shù),而輸入樣本為只有一位為 1 的八位二進(jìn)制 碼, 顯然通過(guò)訓(xùn)練可以得到從第一個(gè)輸入單元到第八個(gè)輸入單元與隱藏單元的遞增的連接權(quán) 重,從而使隱藏單元對(duì)于 10000000,01000000,00000001 八種不同的輸入產(chǎn)生遞增的 0.1,0.2,0.8 的隱藏單元輸出編碼。 2、不可能存在這樣的輸出單元權(quán)值,能夠?qū)σ陨习朔N不同的輸入進(jìn)行正確的解碼。 因?yàn)楦鶕?jù)目標(biāo)輸出結(jié)果,首先考慮第一種輸入:10000000,對(duì)應(yīng) 0.1 的隱藏單元編碼, 隱藏單元與第一個(gè)輸出單元的權(quán)值應(yīng)為最大,而隱藏單元與其他輸出單元的權(quán)值相對(duì)較??; 再考慮第二種輸
2、入:01000000,它對(duì)應(yīng) 0.2 的隱藏單元編碼,隱藏單元與第二個(gè)輸出單元的 權(quán)值應(yīng)最大,而隱藏單元與其他輸出單元的權(quán)值相對(duì)較??;其他輸入情況與此類似。而因?yàn)?只有一個(gè)隱藏單元,它到每個(gè)輸出單元的權(quán)值只有一個(gè),所以這些權(quán)值的要求是相互沖突、 無(wú)法實(shí)現(xiàn)的。 3、由 2 可知,如果用梯度下降法尋找最優(yōu)權(quán)值,對(duì)于不同的輸入,權(quán)值將會(huì)被反復(fù)地向不 同方向調(diào)整,而最終無(wú)法收斂,解不存在。 習(xí)題 6.1 解:根據(jù)題意有: P(cancer=0.008, P(cancer=0.992 |cancer=0.98, |cancer=0.02 P( P( |cancer=0.03, |cancer=0.97
3、P( P( 第一次化驗(yàn)有其極大后驗(yàn)假設(shè)為: |cancer P(cancer0.98×0.0080.0078 P( |cancerP(cancer0.03×0.9920.0298 P( 則第一次化驗(yàn)后確切的后驗(yàn)概率是: 0.0078/(0.00780.0298)0.21 P(A=P(cancer | 0.0298/(0.00780.0298)0.79 P(B=P(cancer | 因?yàn)閮纱蔚幕?yàn)是相互獨(dú)立的,根據(jù)乘法原理有: P(A×P(A0.21×0.210.0441 P(cancer | P(B×P(B0.79×0.790.624
4、1 P(cancer | 習(xí)題 6.3 hMAP=argmaxhH P(h|D=argmaxhH P(D|hP(h/P(D=argmaxhH P(D|hP(h hML=argmaxhH P(D|h 為了使 FindG 保證輸出 MAP 假設(shè),則應(yīng)該使 P(h=1/|H|,即無(wú)先驗(yàn)知識(shí)。 為了使 FindG 不保證輸出 MAP 假設(shè),則應(yīng)該使假設(shè) P(h不全相等,即存在先驗(yàn)知識(shí),使得 P(h不全等于 1/|H|。 為了使 FindG 輸出的是 ML 假設(shè)而不是 MAP 假設(shè),則應(yīng)該使得每個(gè)假設(shè)的概率 P(h不全相 等,但對(duì)任意一個(gè)假設(shè)成立的條件下所得到的結(jié)果是正類的概率相等,即 P(D|h相等(
5、對(duì)所 有的假設(shè),樣例為正類和負(fù)類的概率均一樣) 。 8.1 給出公式 8.7 的推導(dǎo)過(guò)程 解:使用誤差準(zhǔn)則為如下公式: 6 E3 ( xq º 2 Ù 1 ( f(x - f (x ) K (d ( xq , x å 2 xÎxq的k 個(gè)近鄰 Vwi = -h 因?yàn)椋?¶E3 ¶wi 所以: 2 Ù ¶E3 ¶ 1 = ( ( f(x - f (x ) K ( d( xq, x å ¶w i ¶w i 2 xÎxq的k 個(gè)近鄰 Ù w 在整個(gè)表達(dá)式中 i
6、盡能通過(guò) f (x 來(lái)影響整個(gè)網(wǎng)絡(luò)則上式可轉(zhuǎn)化為 Ù ¶E3 ¶E ¶ f (x 1 ¶ f (x = Ù 3 = - ´ 2 å (f(x - f (x) K ( d ( xq, x ¶w i ¶ f (x ¶w i 2 xÎxq的k 個(gè)近鄰 ¶w i Ù Ù Ù (1 ¶ f (x ¶w i 除了實(shí)例 x 的第 i 個(gè)屬性值有非零值外其他值都為,則有: 又因?yàn)閷?duì)于 ¶ f (x = ai ( x
7、82;w i Ù ¶E3 ¶E ¶ f (x = Ù 3 = - å (f(x - f (x) K ( d ( xq , x ai ( x ¶w i ¶ f (x ¶w i xÎxq的k 個(gè)近鄰 代入(1式有: Ù ¶E3 = -h (- å (f(x - f (x) K ( d ( xq , x ai ( x ¶w i xÎxq的k 個(gè)近鄰 Ù Ù Vw i = -h 習(xí)題 8.3 決策樹(shù)學(xué)習(xí)算法 ID3 的消極版本,我覺(jué)得
8、可以借鑒 k-近鄰算法思想,先不構(gòu)造決策樹(shù),當(dāng) 有一個(gè)新樣例時(shí),找到 k 個(gè)離新樣例最近的樣例,按照 ID3 算法,生成決策樹(shù),再由此樹(shù) 判別新樣例是正例還是反例。 優(yōu)點(diǎn): 可以把決策樹(shù)建立的過(guò)程放到需要預(yù)測(cè)時(shí)再進(jìn)行, 所以初始建立決策樹(shù)的時(shí)間省略了, 并且在需要預(yù)測(cè)時(shí)只是選取最近的 k 個(gè)建立決策樹(shù), 所需時(shí)間較少。 當(dāng)需要預(yù)測(cè)樣例遠(yuǎn)小于 已有樣例時(shí)效率比較高。 缺點(diǎn):加大了預(yù)測(cè)時(shí)的時(shí)間開(kāi)銷,積極版本只需初始時(shí)建立一顆決策樹(shù),后面預(yù)測(cè)只要驗(yàn)證 一下即可,但消極版本每次均需重新建立決策樹(shù),當(dāng)需要預(yù)測(cè)的樣例太多時(shí)效率十分低下。 9.1 (1 對(duì) PlayTennis 問(wèn)題描述: 7 EQ DU MT MS DU NOT NOT CS CS NN NN 交叉算子的操作過(guò)程示例如下圖: EQ EQ DU MT
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 推動(dòng)民營(yíng)經(jīng)濟(jì)助力高質(zhì)量發(fā)展的策略與路徑探索
- 2025實(shí)習(xí)培訓(xùn)合同樣本
- 吉首大學(xué)張家界學(xué)院《高級(jí)德語(yǔ)II》2023-2024學(xué)年第二學(xué)期期末試卷
- 吉林警察學(xué)院《道路與橋梁發(fā)展新技術(shù)》2023-2024學(xué)年第二學(xué)期期末試卷
- 云南經(jīng)濟(jì)管理學(xué)院《建筑制圖與基礎(chǔ)》2023-2024學(xué)年第一學(xué)期期末試卷
- 2025YY委托貸款借款合同示范文本
- 2025年中外合資企業(yè)租賃合同范本
- 2025屆貴州省百校大聯(lián)考學(xué)業(yè)水平測(cè)試模擬歷史試題含解析
- 山東省濟(jì)南市高新區(qū)學(xué)卷B2025年數(shù)學(xué)三下期末監(jiān)測(cè)模擬試題含解析
- 茂名職業(yè)技術(shù)學(xué)院《大學(xué)人文專題教育》2023-2024學(xué)年第二學(xué)期期末試卷
- 2022年袋鼠數(shù)學(xué)競(jìng)賽真題一二年級(jí)組含答案
- 市場(chǎng)營(yíng)銷策劃(本)-形考任務(wù)一(第一 ~ 四章)-國(guó)開(kāi)(CQ)-參考資料
- 精神病學(xué)(中南大學(xué))智慧樹(shù)知到期末考試答案2024年
- 人民版四年級(jí)下冊(cè)勞動(dòng)教案全冊(cè)2024
- 2023年《房屋建筑學(xué)》考試復(fù)習(xí)題庫(kù)大全(含答案)
- 寄生蟲(chóng)科普講座課件
- 四新技術(shù)培訓(xùn)課件
- 《社會(huì)保險(xiǎn)法解讀》課件
- 浙江嘉華晶體纖維有限公司年產(chǎn)300噸超高溫陶瓷纖維棉及600噸高溫陶瓷纖維棉制品環(huán)境影響報(bào)告表
- 滲碳滲氮的作用及氮碳共滲和碳氮共滲的區(qū)別
- 中國(guó)高鐵發(fā)展史
評(píng)論
0/150
提交評(píng)論