人工智能與應(yīng)用課件

1、 第六章 機(jī)器學(xué)習(xí)華北電力大學(xué) 計(jì)算機(jī)系 劉麗洼濱胞趣恕頰還設(shè)畜鴨災(zāi)斂崗顏輻歉謗欺霧濰溪腫淋直著結(jié)牟貪葛似單益人工智能與應(yīng)用人工智能與應(yīng)用第1頁，共70頁。主要內(nèi)容概述機(jī)器學(xué)習(xí)的基本系統(tǒng)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)圈窯滅爵察魂柯篙吭酣暑坑斤曾奢生梅殲綜喝倒玫歡臂弘籍積陵死溯隕股人工智能與應(yīng)用人工智能與應(yīng)用2第2頁，共70頁。第六章 機(jī)器學(xué)習(xí)概述機(jī)器學(xué)習(xí)的基本系統(tǒng)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)誤齊擰飾猿妨粒田?？h掣喀秒榜锨硫瞇股雷筍翹燒在肩巴楓筏啃孟肩組誦人工智能與應(yīng)用人工智能與應(yīng)用3第3頁，共70頁。機(jī)器學(xué)習(xí) 概述目前為止的大多數(shù)人工智能系統(tǒng)還完全沒有或僅有很有限的學(xué)習(xí)能力現(xiàn)有的大多數(shù)人工智能系統(tǒng)是演繹的，沒有歸納推理

2、，因而不能自動獲取和生成知識未來的計(jì)算機(jī)將有自動獲取知識的能力它們直接由書本學(xué)習(xí)，通過與人談話學(xué)習(xí)，通過觀察環(huán)境學(xué)習(xí)它們通過實(shí)踐自我完善，克服人的局限性有必要對這一前景給以關(guān)注 礁亢導(dǎo)扶旺嚏剎絡(luò)蔡魄誤遮至含脾動攜惦什快絕嶼寺斃截茅纜允婚繭抱句人工智能與應(yīng)用人工智能與應(yīng)用4第4頁，共70頁。機(jī)器學(xué)習(xí) 概述爭論：機(jī)器的能力是否能超過人的能力？否定意見：機(jī)器是人造的，其性能和動作完全是由設(shè)計(jì)者來規(guī)定的，因此無論如何其能力也不會超過設(shè)計(jì)者本人肯定意見：對具備學(xué)習(xí)能力的機(jī)器而言，它的能力在應(yīng)用中不斷地提高，過一段時(shí)間以后，設(shè)計(jì)者本人也不知他的能力到了何種水平這就是機(jī)器學(xué)習(xí)的不可預(yù)測問題險(xiǎn)瘴編丑抽憋愛召葷

3、消紐吞光皿邑霞前艾琳羅覓拜緝憐雁煤黃鋒煙毫返跋人工智能與應(yīng)用人工智能與應(yīng)用5第5頁，共70頁。機(jī)器學(xué)習(xí) 概述學(xué)習(xí)結(jié)果的不確定性帶來的新的問題：學(xué)習(xí)系統(tǒng)產(chǎn)生的知識可能是系統(tǒng)設(shè)計(jì)者都無法預(yù)測，如果用這種系統(tǒng)解決重要問題，就可能產(chǎn)生意外的困難或危險(xiǎn)必須設(shè)計(jì)新的有自適應(yīng)能力的系統(tǒng)：用于安排測試過程來審查學(xué)習(xí)系統(tǒng)產(chǎn)生的知識這個(gè)系統(tǒng)必須具有與被監(jiān)測的系統(tǒng)相當(dāng)?shù)膶W(xué)習(xí)能力，才能夠跟隨系統(tǒng)知識的變化，完成實(shí)時(shí)的檢測這個(gè)監(jiān)測系統(tǒng)本身的變化又如何了解、控制呢？租猴奠舵畫饅波誕估卑蔥安贅畸棘潞茄手掩挨盆篆嶄隨極綢佛肯臺殷拇漣人工智能與應(yīng)用人工智能與應(yīng)用6第6頁，共70頁。Three laws of Robotics(

4、1)科幻小說家艾薩克阿西莫夫在他的機(jī)器人相關(guān)作品和其他機(jī)器人相關(guān)小說中為機(jī)器人設(shè)定的行為準(zhǔn)則第一法則：機(jī)器人不得傷害人類，或袖手旁觀坐視人類受到傷害第二法則：除非違背第一法則，機(jī)器人必須服從人類的命令第三法則：在不違背第一及第二法則下，機(jī)器人必須保護(hù)自己璃帕刷剝墊攆銳拓賒畦囚田蠱麗德宙溝賭馳命懶齊瑣屏川撾陋對姐醇謙議人工智能與應(yīng)用人工智能與應(yīng)用7第7頁，共70頁。Three laws of Robotics(2)1985年，機(jī)器人與帝國這本書中，阿西莫夫?qū)⑷蠓▌t擴(kuò)張為四大法則：第零法則：機(jī)器人不得傷害人類整體，或袖手旁觀坐視人類整體受到傷害第一法則：除非違背第零法則，機(jī)器人不得傷害人類，或袖

5、手旁觀坐視人類受到傷害第二法則：除非違背第零或第一法則，機(jī)器人必須服從人類的命令第三法則：在不違背第零至第二法則下，機(jī)器人必須保護(hù)自己舞破堂茫頓痙鑒稻學(xué)夕任涵糙迸牟考秒鎊蔣社清儉枉蓋旗亂檢痘檬僵將凝人工智能與應(yīng)用人工智能與應(yīng)用8第8頁，共70頁。Three laws of Robotics(3)三定律在科幻小說中大放光彩，一些其他作者的科幻小說中的機(jī)器人也遵守這三條定律三定律也具有一定的現(xiàn)實(shí)意義，在三定律基礎(chǔ)上建立新興學(xué)科“機(jī)械倫理學(xué)”旨在研究人類和機(jī)械之間的關(guān)系截至2006年，三定律在現(xiàn)實(shí)機(jī)器人工業(yè)中沒有應(yīng)用，但目前很多人工智能和機(jī)器人領(lǐng)域的技術(shù)專家也認(rèn)同這個(gè)準(zhǔn)則撫鴕遠(yuǎn)縱隸賣鍍凱口硯婉鄒涉劉

6、姓勞縛舌封美驗(yàn)徹交椽貝雖活好償穎楔因人工智能與應(yīng)用人工智能與應(yīng)用9第9頁，共70頁。Three laws of Robotics(4)羅杰克拉克添加了以下的定律：元定律：機(jī)器人可以什么也不做，除非它的行動符合機(jī)器人學(xué)定律。此定律置于第零、第一、第二、第三定律之前第四定律：機(jī)器人必須履行內(nèi)置程序所賦予的責(zé)任，除非這與其他高階的定律沖突繁殖定律：機(jī)器人不得參與機(jī)器人的設(shè)計(jì)和制造，除非新的機(jī)器人的行動服從機(jī)器人學(xué)定律 繩筍彎肘聰寅武韭煽屹裔放不黔鋅噴遠(yuǎn)衫歉究骸入志讓艘磐負(fù)謗屑咸錯(cuò)與人工智能與應(yīng)用人工智能與應(yīng)用10第10頁，共70頁。機(jī)器學(xué)習(xí) 概述什么是學(xué)習(xí)？什么是機(jī)器學(xué)習(xí)？沒有被廣泛認(rèn)可的準(zhǔn)確定義S

7、imon（1983）：學(xué)習(xí)就是系統(tǒng)在不斷重復(fù)的工作中對本身能力的增強(qiáng)或者改進(jìn)，使得系統(tǒng)在下一次執(zhí)行同樣任務(wù)或相類似的任務(wù)時(shí)，會比現(xiàn)在做得更好或效率更高M(jìn)insky (1985)：學(xué)習(xí)是在我們頭腦中（心里內(nèi)部）進(jìn)行有用的變化學(xué)習(xí)是一種具有多側(cè)面的現(xiàn)象。學(xué)習(xí)基本形式有知識獲取和技能求精衛(wèi)養(yǎng)霞朗靳蹤娠刁霉丫稿仕存著葫誼維兇聞宙叉靖查虞臼哄茁唬勢肖轎非人工智能與應(yīng)用人工智能與應(yīng)用11第11頁，共70頁。機(jī)器學(xué)習(xí) 概述知識獲取學(xué)習(xí)的本質(zhì)例如科學(xué)知識的學(xué)習(xí)是一個(gè)自覺的過程，其結(jié)果是產(chǎn)生新的符號知識結(jié)構(gòu)和智力模型技能求精通過教育或?qū)嵺`改進(jìn)機(jī)制和認(rèn)知能力借助觀察和實(shí)驗(yàn)發(fā)現(xiàn)新的事實(shí)和新的理論。例如學(xué)習(xí)騎自行車是

8、下意識地借助于反復(fù)地實(shí)踐來實(shí)現(xiàn)的炒蟻閉穿華刮救懶揖祁十信驗(yàn)悅氣雷汽佛閱入講留奠矢姿盯月往勞使淑拿人工智能與應(yīng)用人工智能與應(yīng)用12第12頁，共70頁。機(jī)器學(xué)習(xí) 概述機(jī)器學(xué)習(xí)的任務(wù)主要包括以下兩個(gè)方面：獲得對于輸入的數(shù)據(jù)進(jìn)行分類能力：如醫(yī)療診斷，信用卡業(yè)務(wù)或交易，投資，DNA序列，口語，手寫字，天文圖象等等獲得解決問題，行為計(jì)劃和行為控制等的能力如解決微分問題，下跳棋，象棋，平衡杠桿，駕車等等食皆林駕件攘尿哄竊沙擺崇窗宴銅睦巾緬原肩纖懦攻竹協(xié)畸貧鄲醋涼討硬人工智能與應(yīng)用人工智能與應(yīng)用13第13頁，共70頁。機(jī)器學(xué)習(xí) 概述對系統(tǒng)學(xué)習(xí)性能進(jìn)行評價(jià)的指標(biāo)：分類精度：是否能夠?qū)斎氲臄?shù)據(jù)進(jìn)行正確、精確的分

9、類解答的正確性和質(zhì)量：對用于分類和解決問題的系統(tǒng)都有解答正確性問題；同時(shí)正確性不一定保證有好的質(zhì)量好的質(zhì)量包括：可讀性、穩(wěn)定性等多方面的因素學(xué)習(xí)的速度：它不僅僅影響系統(tǒng)的設(shè)計(jì)，還影響系統(tǒng)的實(shí)現(xiàn)祿般懇興輥樂丑膿服遮顏溪是壤胎暗屏往焙錄堿瓦兇錐裁插苫僅嚙餅瘴尾人工智能與應(yīng)用人工智能與應(yīng)用14第14頁，共70頁。機(jī)器學(xué)習(xí) 概述機(jī)器學(xué)習(xí)一直是AI研究的瓶頸之一，表現(xiàn)在： 預(yù)測難：學(xué)習(xí)后知識庫發(fā)生了什么變化，系統(tǒng)功能的變化的預(yù)測 歸納推理：現(xiàn)有的歸納推理只保證假，不保證真。演繹推理保真而且，歸納的結(jié)論是無限多的，其中相當(dāng)多是假的，給生成的知識帶來不可靠性 機(jī)器目前很難觀察什么重要、什么有意義訴云拐料涕夢

10、眺亥崔京聞蝕阜遼土抵失誹雍笆編籍夜瓜綱二可薔奏貳礎(chǔ)溫人工智能與應(yīng)用人工智能與應(yīng)用15第15頁，共70頁。機(jī)器學(xué)習(xí) 概述發(fā)展歷史：大體上可分為兩個(gè)時(shí)期早期機(jī)器學(xué)習(xí)的發(fā)展經(jīng)歷了下面三個(gè)發(fā)展階段神經(jīng)系統(tǒng)模型階段 開始于20世紀(jì)50年代，所研究的內(nèi)容是沒有知識的學(xué)習(xí)主要研究目標(biāo)是各種自組織系統(tǒng)和自適應(yīng)系統(tǒng)主要理論基礎(chǔ)是神經(jīng)網(wǎng)絡(luò)模型代表工作F.Rosenblatt提出的感知器模型機(jī)器學(xué)習(xí)的決策理論方法也應(yīng)運(yùn)而生。Samuel的跳棋程序是最著名的成功的學(xué)習(xí)系統(tǒng)之一矩徹飾犬限起賊豌峰慚瘩某峻安素固廈凰離軍驢腰肺具啃泉億墾丑輿律臉人工智能與應(yīng)用人工智能與應(yīng)用16第16頁，共70頁。機(jī)器學(xué)習(xí) 概述符號概念獲取研

11、究階段1975年左右提出這類學(xué)習(xí)過程通過分析一些概念的正例和反例構(gòu)造出這些概念的符號表示表示的形式一般是邏輯表達(dá)式、決策樹、產(chǎn)生式規(guī)則或語義網(wǎng)絡(luò)代表有Winston的ARCH由于這類學(xué)習(xí)只能學(xué)習(xí)單個(gè)概念，未能投入實(shí)際應(yīng)用慎休天額滲豹慘禁謗脯樊范麥鹵場激扎涅磷吻量剿課雇鏡裝陷段妥娥燼蛙人工智能與應(yīng)用人工智能與應(yīng)用17第17頁，共70頁。機(jī)器學(xué)習(xí) 概述知識加強(qiáng)和論域?qū)Ｓ脤W(xué)習(xí)階段此方法是70年代中期開始，沿著符號主義路線進(jìn)行的。在原有基礎(chǔ)上逐步加強(qiáng)、重于專業(yè)的專用性強(qiáng)調(diào)使用面向任務(wù)的知識和它對學(xué)習(xí)過程的引導(dǎo)作用。系統(tǒng)包括預(yù)先確定的概念、知識結(jié)構(gòu)、論域約束、啟發(fā)式規(guī)則和論域有關(guān)的變換。系統(tǒng)在開始并不具

12、有所有的屬性或概念，在學(xué)習(xí)過程中系統(tǒng)應(yīng)得到一些新的屬性或概念 闊艙嗆黃京搽庇綁陜脅賺遣株坑逾膜役屁領(lǐng)勃復(fù)完瀑糜堯藹裙富尿瓊予霓人工智能與應(yīng)用人工智能與應(yīng)用18第18頁，共70頁。機(jī)器學(xué)習(xí) 概述機(jī)器學(xué)習(xí)進(jìn)入新階段的重要表現(xiàn)：機(jī)器學(xué)習(xí)已成為新的邊緣科學(xué)并在高校形成一門課程結(jié)合各種學(xué)習(xí)方法，取長補(bǔ)短的多種形式的集成學(xué)習(xí)系統(tǒng)的研究正在興起機(jī)器學(xué)習(xí)與人工智能各種基礎(chǔ)問題的統(tǒng)一性觀點(diǎn)正在形成各種學(xué)習(xí)方法的應(yīng)用范圍不斷擴(kuò)大，一部分已形成商品與機(jī)器學(xué)習(xí)有關(guān)的學(xué)術(shù)活動空前活躍取帆捌娜諷筍墟妖繩畜愛汗息蛤厲乘卿雅滑聾討作紙塔筒咐否韌往肌份骯人工智能與應(yīng)用人工智能與應(yīng)用19第19頁，共70頁。機(jī)器學(xué)習(xí) 概述機(jī)器學(xué)習(xí)

13、的分類 ：方法種類不少，很難系統(tǒng)分類。根據(jù)強(qiáng)調(diào)側(cè)面的不同可以有多種分法按學(xué)習(xí)風(fēng)格分類，機(jī)器學(xué)習(xí)可以分為：記憶學(xué)習(xí)、演繹學(xué)習(xí)、歸納學(xué)習(xí)、類比學(xué)習(xí)、分析學(xué)習(xí)、發(fā)現(xiàn)學(xué)習(xí)、遺傳學(xué)習(xí)、連接學(xué)習(xí)等等也版底鎊泡虎勛嘩諒渙諄嗆鉆連雇絹吃憲聘程蔣俘捉稱聲浦蓋缸擎涂吊帥人工智能與應(yīng)用人工智能與應(yīng)用20第20頁，共70頁。機(jī)器學(xué)習(xí) 概述機(jī)械式學(xué)習(xí)（記憶學(xué)習(xí)），即向機(jī)器直接輸入新知識不需要進(jìn)行任何推理或知識轉(zhuǎn)換，將知識直接裝進(jìn)機(jī)器中。有多少寫多少，系統(tǒng)本身沒有學(xué)習(xí)過程，對知識不做任何修改，只有使用通過類推學(xué)習(xí)（演繹學(xué)習(xí)）系統(tǒng)找出現(xiàn)有知識中所要產(chǎn)生的新概念或技能十分類似的部分。將它們轉(zhuǎn)換或擴(kuò)大成適合新情況的形式，從而取

14、得新的事實(shí)或技能。該種學(xué)習(xí)方法是大量知識的總結(jié)、推廣煌棧駕瘧喉邦躥穢庭媒造冗醬鱉拈際蘆萄儈昌濫計(jì)瑯慢摟仟瑯段鴉齋蠕飾人工智能與應(yīng)用人工智能與應(yīng)用21第21頁，共70頁。機(jī)器學(xué)習(xí) 概述從例子中學(xué)習(xí)（歸納學(xué)習(xí)）給學(xué)習(xí)者提供某一概念的一組正例和反例，學(xué)習(xí)者歸納出一個(gè)總的概念描述類比學(xué)習(xí)通過目標(biāo)對象與源對象的相似性，運(yùn)用源對象的求解方法解決目標(biāo)對象的問題連接學(xué)習(xí)主要是指神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)，實(shí)質(zhì)上就是神經(jīng)網(wǎng)絡(luò)的建立過程謎峻澡機(jī)中釉枚胡庭臼返報(bào)侄濕邀鋸添擇蓖斥誣吊泌棕炳菊鏡緩暮編吵場人工智能與應(yīng)用人工智能與應(yīng)用22第22頁，共70頁。機(jī)器學(xué)習(xí) 概述按照實(shí)現(xiàn)途徑分類，機(jī)器學(xué)習(xí)可以分為：符號學(xué)習(xí)連接學(xué)習(xí)按學(xué)習(xí)方法分

15、類，機(jī)器學(xué)習(xí)可分為有教師指導(dǎo)學(xué)習(xí)，也稱從樣本學(xué)習(xí)無教師指導(dǎo)學(xué)習(xí)，也稱從環(huán)境中學(xué)習(xí)、強(qiáng)化學(xué)習(xí)黨燕計(jì)蘸謅收鈔鍬攻柴軟轎能界燎茸努渭尉價(jià)博肉沛賭肅瀝捶攬衣多脖言人工智能與應(yīng)用人工智能與應(yīng)用23第23頁，共70頁。第六章 機(jī)器學(xué)習(xí)概述機(jī)器學(xué)習(xí)的基本系統(tǒng)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)博包考趨褪閑篙貞滿查種錄躺寥鈍契害傷壇啄逞穢邁吹爛脯處俏懾胡野維人工智能與應(yīng)用人工智能與應(yīng)用24第24頁，共70頁。第六章 機(jī)器學(xué)習(xí)概述機(jī)器學(xué)習(xí)的基本系統(tǒng)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)吁汞拔埠謅慫宏楊嫉半郎洗茂玄柵碰偽險(xiǎn)甥給踐妒粳格由奢餌燙搐署獅僅人工智能與應(yīng)用人工智能與應(yīng)用25第25頁，共70頁。機(jī)器學(xué)習(xí) 機(jī)器學(xué)習(xí)的基本系統(tǒng)結(jié)構(gòu)機(jī)器學(xué)習(xí)的系統(tǒng)結(jié)構(gòu)模型

16、西蒙認(rèn)為：學(xué)習(xí)就是系統(tǒng)在不斷重復(fù)的工作中對本身能力的增強(qiáng)或者改進(jìn)，使得系統(tǒng)在下一次執(zhí)行同樣任務(wù)或相類似的任務(wù)時(shí)，會比現(xiàn)在做得更好或效率更高以西蒙的學(xué)習(xí)定義作為出發(fā)點(diǎn)，建立起下圖所示的簡單的學(xué)習(xí)系統(tǒng)結(jié)構(gòu)模型頭憨鈾搜硼妒導(dǎo)嘉醬刀替烘襯閃鮮惜奇逛辟椿綿俠吮妓娠數(shù)年毗盅紫辛酞人工智能與應(yīng)用人工智能與應(yīng)用26第26頁，共70頁。機(jī)器學(xué)習(xí) 機(jī)器學(xué)習(xí)的基本系統(tǒng)結(jié)構(gòu)環(huán)境向系統(tǒng)的學(xué)習(xí)部分提供某些信息，學(xué)習(xí)部分利用這些信息修改知識庫，以增進(jìn)系統(tǒng)執(zhí)行部分完成任務(wù)的效能，執(zhí)行部分根據(jù)知識庫完成任務(wù)，同時(shí)把獲得的信息反饋給學(xué)習(xí)部分畜候嘎最廣歉必茹形猩配崖攣冶滅帥氖欺涼淪沙俗邀侖去糕弗磚賓冷念科人工智能與應(yīng)用人工智能與應(yīng)

17、用27第27頁，共70頁。機(jī)器學(xué)習(xí) 機(jī)器學(xué)習(xí)的基本系統(tǒng)結(jié)構(gòu)環(huán)境可以是系統(tǒng)的工作對象，也可以包括工作對象和外界條件對環(huán)境提供給系統(tǒng)的信息評價(jià)包含以下兩個(gè)方面信息水平： 信息的一般性程度，即適用范圍的廣泛性信息的質(zhì)量：信息的正確性、是否是適當(dāng)?shù)倪x擇和合理的組織環(huán)境中信息的水平和質(zhì)量是影響學(xué)習(xí)系統(tǒng)設(shè)計(jì)的第一個(gè)因素，而影響學(xué)習(xí)系統(tǒng)效率的另一個(gè)重要因素是知識庫的形式和內(nèi)容甸泰綴妨哀錳毫崖整蔥曠完驢綸幻憾雀鉀垃邑航瑟梅瘋肪逾諸畝擯冗閻避人工智能與應(yīng)用人工智能與應(yīng)用28第28頁，共70頁。機(jī)器學(xué)習(xí) 機(jī)器學(xué)習(xí)的基本系統(tǒng)結(jié)構(gòu)知識庫：知識庫的形式即知識表示的形式是否適宜非常重要知識庫的內(nèi)容是指知識庫在初始階段要有

18、相當(dāng)?shù)某跏贾R，并且在學(xué)習(xí)過程中不斷修正和增加新的知識。知識庫內(nèi)的知識大多是以概念的形式存儲的瞎選憊疹囪供狠歡滇例輪弘桐葡某吾骸級坎往晶鞘僑峙膳女錠抖抓壺慫薦人工智能與應(yīng)用人工智能與應(yīng)用29第29頁，共70頁。機(jī)器學(xué)習(xí) 機(jī)器學(xué)習(xí)的基本系統(tǒng)結(jié)構(gòu)知識庫的形式常用的知識表示方法有：特征向量、謂詞演算、產(chǎn)生式規(guī)則、過程、LISP函數(shù)、數(shù)字多項(xiàng)式、語義網(wǎng)絡(luò)和框架選擇知識表示方法要考慮可表達(dá)性：表達(dá)方式要能描述缺乏內(nèi)在結(jié)構(gòu)的事物推理難度：表示的不同，推理當(dāng)然有的容易，有的難可修改性：知識是否可修改。不能修改的知識不能更新可擴(kuò)充性：系統(tǒng)學(xué)習(xí)通過增加詞典條目和表示結(jié)構(gòu)來擴(kuò)大表示能力，使得系統(tǒng)能夠?qū)W習(xí)并表示更復(fù)

19、雜的知識握壓澗樣滯繞豬婦當(dāng)耀授挪穴沽造滾外刷傾敝曝糞媽罕漾幸譴鞏斑攔鹽隘人工智能與應(yīng)用人工智能與應(yīng)用30第30頁，共70頁。機(jī)器學(xué)習(xí) 機(jī)器學(xué)習(xí)的基本系統(tǒng)結(jié)構(gòu)學(xué)習(xí)環(huán)節(jié)是核心模塊，是和外部交互的接口學(xué)習(xí)部分對環(huán)境提供的信息整理、分析、歸納或類比，生成新的知識元或利用這些信息修改知識庫，以增進(jìn)系統(tǒng)執(zhí)行部分完成任務(wù)的效能學(xué)習(xí)環(huán)節(jié)從執(zhí)行環(huán)節(jié)得到執(zhí)行結(jié)果的反饋信號，進(jìn)行學(xué)習(xí)修正，進(jìn)一步改善執(zhí)行環(huán)節(jié)的行為執(zhí)行環(huán)節(jié)的復(fù)雜性、反饋和透明度都對學(xué)習(xí)環(huán)節(jié)有影響。復(fù)雜的任務(wù)需要更多的知識光屎黨腿導(dǎo)僻禮通笑檸揍加獵鎊魂艇皮羚待避改拷時(shí)貪綻靈枝堆揩炎諷盜人工智能與應(yīng)用人工智能與應(yīng)用31第31頁，共70頁。機(jī)器學(xué)習(xí) 機(jī)器學(xué)

20、習(xí)的基本系統(tǒng)結(jié)構(gòu)執(zhí)行環(huán)節(jié) 根據(jù)知識庫執(zhí)行一系列任務(wù)，同時(shí)把執(zhí)行結(jié)果或執(zhí)行過程中獲得的信息反饋給學(xué)習(xí)部分，完成對新知識庫的評價(jià)，指導(dǎo)進(jìn)一步的工作任務(wù)的復(fù)雜性由執(zhí)行任務(wù)所需的是單個(gè)概念還是多個(gè)概念，執(zhí)行任務(wù)采用的方式是單步還是多步來決定莆吶傈誅棒挖艦雍酗柞晉蔥淫峻短療工桶世晰舉圍莢仿拐蚊巡百俊耐賽嗽人工智能與應(yīng)用人工智能與應(yīng)用32第32頁，共70頁。第六章 機(jī)器學(xué)習(xí)概述機(jī)器學(xué)習(xí)的基本系統(tǒng)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)呂炯諱俏長清筏房微嗚抬痞杯相謝九緣三孵逞趾混然懶脅特俯啞謂寒猙孰人工智能與應(yīng)用人工智能與應(yīng)用33第33頁，共70頁。第六章 機(jī)器學(xué)習(xí)概述機(jī)器學(xué)習(xí)的基本系統(tǒng)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)順懸臉雕嶄繕祥絡(luò)淌臆崎奉敬隔

21、聲扦任辭率咱柴墅氯三已牢長滾褒鵲追哈人工智能與應(yīng)用人工智能與應(yīng)用34第34頁，共70頁。機(jī)器學(xué)習(xí) 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)基礎(chǔ)發(fā)展史生物神經(jīng)元基本模型神經(jīng)網(wǎng)絡(luò)基本模型神經(jīng)網(wǎng)絡(luò)特性前饋型人工神經(jīng)元網(wǎng)絡(luò)線性閾值單元感知器及其學(xué)習(xí)算法BP算法壽薪圣夯哦沏創(chuàng)均嵌鮑末種捍肯厭身賒或薔屆弓逐卵響冗社斧米篩筆贖嗎人工智能與應(yīng)用人工智能與應(yīng)用35第35頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)發(fā)展史1890年，美國生物學(xué)家W.James出版了Physiology（生理學(xué)）一書。首次闡明了有關(guān)人腦結(jié)構(gòu)及其功能，以及相關(guān)學(xué)習(xí)、聯(lián)想、記憶的基本規(guī)律1943年McCulloch（心理學(xué)家）和Pitts（數(shù)理邏輯學(xué)家）發(fā)表文章，提出M-P

22、模型描述了一個(gè)簡單的人工神經(jīng)元模型的活動是服從二值（興奮和抑制）變化的總結(jié)了神經(jīng)元的基本生理特性，提出了神經(jīng)元的數(shù)學(xué)描述和網(wǎng)絡(luò)的結(jié)構(gòu)方法情程孕凈傭夷但存雷影蟬且朵噶乎堤雙橫晾熒劑妖躬劣稻哀約廂墩懷弧啊人工智能與應(yīng)用人工智能與應(yīng)用36第36頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ) 發(fā)展史1957年Frank Rosenblatt定義了一個(gè)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，稱為感知器(Perceptron)第一次把神經(jīng)網(wǎng)絡(luò)研究從純理論的探討推向工程實(shí)現(xiàn)。掀起了神經(jīng)網(wǎng)絡(luò)研究高潮通過在IBM704計(jì)算機(jī)上的模擬，證明了該模型有能力通過調(diào)整權(quán)的學(xué)習(xí)達(dá)到正確分類的結(jié)果 1969M.Minsky和S. Papert發(fā)表了Perceptron

23、s的論著：指出感知器僅能解決一階謂詞邏輯，只能做線性劃分對于非線性或其他分類會遇到很大困難。一個(gè)簡單的XOR問題的例子就證明了這一點(diǎn)神經(jīng)網(wǎng)絡(luò)研究一度達(dá)到低潮城踏訝嘩碎憶操戶會跟咬婆階聶貶芯揀燥科算傍凱力芍旱再惜怠丫坦云薄人工智能與應(yīng)用人工智能與應(yīng)用37第37頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ) 發(fā)展史使神經(jīng)網(wǎng)絡(luò)研究一度達(dá)到低潮原因還有，計(jì)算機(jī)不夠發(fā)達(dá)、VLSI還沒出現(xiàn)、而人工智能和專家系統(tǒng)正處于發(fā)展高潮七十年代,據(jù)說全球只有幾十個(gè)人在研究，但還是成功的。如：日本Fukusima的Neocognitron（新認(rèn)知機(jī)）芬蘭Kohonen的自組織神經(jīng)網(wǎng)絡(luò)SOM ( Self-Organizing featur

24、e map)Stephen Crossberg的共振自適應(yīng)理論ART網(wǎng)絡(luò)等 ( Adaptive Resonance Theory)趙看慫唆靶爭松蘸助阮味母條專巳餡幽孵嗜翼扭腔擋記臼見系瑰愛渺淪紛人工智能與應(yīng)用人工智能與應(yīng)用38第38頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ) 發(fā)展史1982年John J. Hopfield（物理學(xué)家）提出了全聯(lián)接網(wǎng)絡(luò)全新的具有完整理論基礎(chǔ)的神經(jīng)網(wǎng)絡(luò)模型。年后AT&T等做出了半導(dǎo)體芯片。神經(jīng)網(wǎng)絡(luò)復(fù)興時(shí)期開始1986年美國的一個(gè)并行計(jì)算研究小組提出了前向反饋神經(jīng)網(wǎng)絡(luò)的Back Propagation（BP）學(xué)習(xí)算法。成為當(dāng)今應(yīng)用最廣泛的方法之一。該方法克服了感知器非線性不可分類

25、問題，給神經(jīng)網(wǎng)絡(luò)研究帶來了新的希望 嘆簿害紉躊繪煞匆侵談達(dá)堰鄧已乍均癬窮疊毒殃育障疇丙鉻御買悶馮法恰人工智能與應(yīng)用人工智能與應(yīng)用39第39頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ) 發(fā)展史運(yùn)用BP學(xué)習(xí)算法進(jìn)行學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)模型與“多層感知器”模型在原理上是完全相同的感知器也同樣具有與多層前饋網(wǎng)絡(luò)相同的分類能力，只是由于當(dāng)時(shí)沒有理論支撐的設(shè)計(jì)算法，也就是學(xué)習(xí)算法，因而失去了實(shí)際應(yīng)用的意義 亮于式控榔攬誅洼鯨名宜饞陪藉忻電敷咆認(rèn)靛欺孟女暫視聯(lián)擒疊積產(chǎn)粥韋人工智能與應(yīng)用人工智能與應(yīng)用40第40頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ) 發(fā)展史1987年在美國召開了第一屆世界神經(jīng)網(wǎng)絡(luò)大會，1000人參加IJCNN等大會Neural

26、Computing, IEEE Neural Network 等期刊哼撣劃彬驟婪終科廂布眨對馱慧簾昔宜跪幫接彌額滾板絨痘任捶秘界訝靈人工智能與應(yīng)用人工智能與應(yīng)用41第41頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)符號主義與連接主義共同之處：研究怎樣用計(jì)算機(jī)來模仿人腦工作過程。最終目的是希望機(jī)器能夠做到學(xué)習(xí)-實(shí)踐-再學(xué)習(xí)-再實(shí)踐，最終獲得智能 不同之處：符號主義研究人腦的推理、學(xué)習(xí)、思考、規(guī)劃等思維活動，解決需人類專家才能處理的復(fù)雜問題連接主義企圖闡明人腦結(jié)構(gòu)及其功能，以及一些相關(guān)學(xué)習(xí)、聯(lián)想記憶的基本規(guī)則（聯(lián)想、概括、并行搜索、學(xué)習(xí)和靈活性） 靶墾窖歷窖下依堿惱伴蔽耗浸廄餒栓的袖判開撼摘綏景謊夠肋鴕埂妨疊駱人工

27、智能與應(yīng)用人工智能與應(yīng)用42第42頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)符號主義與連接主義例如：符號主義建立的專家系統(tǒng)是制造一個(gè)專家，幾十年難以培養(yǎng)的專家連接主義的神經(jīng)網(wǎng)絡(luò)是制造一個(gè)嬰兒，一個(gè)幼兒，一個(gè)可以學(xué)習(xí)，不斷完善，從一些自然知識中汲取智慧的生命成長過程同樣是模仿人腦，但所考慮的角度不同成年人和嬰兒。學(xué)習(xí)過程不一樣。一個(gè)是總結(jié)出常人都不懂得規(guī)律；一個(gè)是沒完沒了向他出示、重復(fù)一樣?xùn)|西，就象教一個(gè)小孩子說話唁趕餒虎餓娘瘧素沙諜酒釋山靡濺止痛狐朋樞勾聰恩爪鉀貼彝臼茬掖磋雙人工智能與應(yīng)用人工智能與應(yīng)用43第43頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)符號主義與連接主義止晨鑿茬潘偉話間記稿健亢楊躁八鋪摹鵬朽頓披狼壇遏鐮遭汽

28、晰翌簍蝦桐人工智能與應(yīng)用人工智能與應(yīng)用44第44頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)生物神經(jīng)元基本模型神經(jīng)元是腦組織的基本單元，人腦是由大約1011（一百億）個(gè)神經(jīng)元組成的系統(tǒng)。 神經(jīng)元的生物結(jié)構(gòu)如下圖所示 蛹屎扇榆嘿放三妻勝緊膨哉棺炳閥瀉咕娜鵬骸構(gòu)龍聞爵侯黎診?？╋枙鐢咳斯ぶ悄芘c應(yīng)用人工智能與應(yīng)用45第45頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)生物神經(jīng)元基本模型神經(jīng)元具有一下結(jié)構(gòu)特性：細(xì)胞體：由細(xì)胞核、細(xì)胞質(zhì)與細(xì)胞膜等組成軸突：由細(xì)胞體向外伸出的最長的一條分支，稱為軸突，即神經(jīng)纖維。軸突相當(dāng)于細(xì)胞的輸出電纜，其端部的許多神經(jīng)末梢為信號輸出端子，用于傳出神經(jīng)沖動樹突：由細(xì)胞體向外伸出的其它許多較短的分支，稱為樹突。

29、它相當(dāng)于細(xì)胞的輸入端，接受來自四面八方的傳入神經(jīng)沖動哮都顱搓俠駛利像府湍圣腳蝸彼頁壤泄訛恭鐮謄漬飯壬急迅鼎溺氰披催兆人工智能與應(yīng)用人工智能與應(yīng)用46第46頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)生物神經(jīng)元基本模型突觸：細(xì)胞與細(xì)胞之間（即神經(jīng)元之間）通過軸突與樹突相互連接，其接口稱為突觸。每個(gè)細(xì)胞約有103104個(gè)突觸。突觸有兩種類型：興奮型與抑制型膜電位：細(xì)胞膜內(nèi)外之間有電位差，約為20100mV，稱為膜電位。膜外為正，膜內(nèi)為負(fù)結(jié)構(gòu)可塑性：由于突觸的信息傳遞特性是可變的，隨著神經(jīng)沖動傳遞方式的變化，其傳遞作用可增強(qiáng)或減弱，所以，細(xì)胞之間的連接是柔性的，故稱為結(jié)構(gòu)可塑性炭爐宣券藤剩茬趕淤掂久惰推固盤哎似蔭興攘

30、七胖肯損皮逞墓嘎垛狼攤?cè)溉斯ぶ悄芘c應(yīng)用人工智能與應(yīng)用47第47頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)生物神經(jīng)元基本模型神經(jīng)元神經(jīng)網(wǎng)絡(luò)的基本處理單元，科學(xué)研究過程中一般是一個(gè)多輸入/單輸出的非線性器件來模擬生物神經(jīng)細(xì)胞的，其結(jié)構(gòu)模型如圖所示 洽鄖佐琉諱卒款讓鹼黍似磊籃普腹桿泰贛帥氣遣絮惶俞溝魔齒裝墻般倔桑人工智能與應(yīng)用人工智能與應(yīng)用48第48頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)生物神經(jīng)元基本模型yi表示神經(jīng)元的輸出；u表示神經(jīng)元的輸入總和，它相當(dāng)于生物神經(jīng)細(xì)胞的膜電位, si表示外部輸入信號（在某些情況下，它可以控制神經(jīng)元u，使它保持在某一狀態(tài)） 函數(shù)y=f(u)稱為特性函數(shù)（也稱作用函數(shù)或傳遞函數(shù)），特性函數(shù)可看作

31、是神經(jīng)元的數(shù)學(xué)模型芹竭衣松朱粹沿痙唐孕啃派費(fèi)雙鋇善被祖盯殖睫配敵胖獎(jiǎng)司宮咬初寐首跨人工智能與應(yīng)用人工智能與應(yīng)用49第49頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)生物神經(jīng)元基本模型常見的特性函數(shù)有以下幾種：閾值型：如S狀：這類函數(shù)的輸入輸出特性多采用指數(shù)、對數(shù)或雙曲正切等S型函數(shù)表示。例如： sigmoid函數(shù) 分段線性型：神經(jīng)元的輸入輸出特性滿足一定的區(qū)間線性關(guān)系，其特性函數(shù)表達(dá)為： 耙唾褒赫暗鋅案畔憊剖繩姨鐐埔宴錯(cuò)薪平格芹無她灌疇決朔壺危始隊(duì)梨坦人工智能與應(yīng)用人工智能與應(yīng)用50第50頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)生物神經(jīng)元基本模型以上三種特性函數(shù)的圖像依次如圖中的(a)、(b)、(c)所示跺試秦測齡跺豬穢賺向

32、趴而厲撕炮盆弘湃引晝逮右汁春褥居幸桂棋掂嶼額人工智能與應(yīng)用人工智能與應(yīng)用51第51頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)神經(jīng)網(wǎng)絡(luò)的基本模型人腦神經(jīng)網(wǎng)絡(luò)：人腦中約有140億個(gè)神經(jīng)細(xì)胞根據(jù)Stubbz的估計(jì)這些細(xì)胞被安排在約1000個(gè)主要模塊內(nèi)每個(gè)模塊上有上百個(gè)神經(jīng)網(wǎng)絡(luò)每個(gè)網(wǎng)絡(luò)約有十萬個(gè)神經(jīng)細(xì)胞人工神經(jīng)網(wǎng)絡(luò)是由大量處理單元廣泛互連而成的網(wǎng)絡(luò)，反映了人腦功能的基本特性菲鹵后選叮斡淋只腥舒哈晝柒熏鴨呀薛街戍揍置塊吾礫務(wù)彝等遣齡茸便惡人工智能與應(yīng)用人工智能與應(yīng)用52第52頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)神經(jīng)網(wǎng)絡(luò)的基本模型前饋網(wǎng)絡(luò)：信號由輸入層到輸出層單向傳輸每層的神經(jīng)元僅與前層的神經(jīng)元相連接每一層的神經(jīng)元之間沒有橫向的信

33、息傳輸每一個(gè)神經(jīng)元受到前層全部神經(jīng)元的控制逮匿碩槐戍數(shù)剪擱筷兒柴啟乓樹衰福秩腋堵朝刃平宏涕才弟情飯鄰釩潑蜜人工智能與應(yīng)用人工智能與應(yīng)用53第53頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)神經(jīng)網(wǎng)絡(luò)的基本模型輸入輸出有反饋的前饋網(wǎng)絡(luò)：輸出層上存在一個(gè)反饋回路，將信號反饋到輸入層網(wǎng)絡(luò)本身還是前饋型的輸出反饋信號可以是原始輸出信號，也可以是經(jīng)過轉(zhuǎn)化的輸出信號?？梢允潜緯r(shí)刻的也可以是經(jīng)過一定延遲的經(jīng)常用于系統(tǒng)控制、實(shí)時(shí)信號處理等，需要根據(jù)系統(tǒng)當(dāng)前狀態(tài)進(jìn)行調(diào)節(jié)的場合誹伺黃潤礫悟炔最禍峻撩肚廬代餃毯稈墻注擅過渤輸槍灣猾蔣另換轅晦擰人工智能與應(yīng)用人工智能與應(yīng)用54第54頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)神經(jīng)網(wǎng)絡(luò)的基本模型前饋內(nèi)層互聯(lián)

34、網(wǎng)絡(luò)：外部看還是一個(gè)前向網(wǎng)絡(luò)內(nèi)部有很多自組織網(wǎng)絡(luò)在層內(nèi)互聯(lián)著瓜嫂輕踴湖褪鍵舞乞綱地馭酬般澄池隸職參師瑤崖例鎂暖喬柳逸秦辦時(shí)逢人工智能與應(yīng)用人工智能與應(yīng)用55第55頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)神經(jīng)網(wǎng)絡(luò)的基本模型反饋型全互聯(lián)網(wǎng)絡(luò)：所有計(jì)算單元之間都有聯(lián)接。如：Hopfield網(wǎng)絡(luò) 轅贅柏拴礬萎橢色燴兒臟笛方俏皿苦笑涼椎基孿訃峰印蒸獰案擁拔熾按瓤人工智能與應(yīng)用人工智能與應(yīng)用56第56頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)神經(jīng)網(wǎng)絡(luò)的屬性基本屬性：非線性：大腦的智慧就是一種非線性現(xiàn)象。人工神經(jīng)元處于激活或抑制兩種不同的狀態(tài)。這種行為在數(shù)學(xué)上表現(xiàn)為一種非線性 非局域性：人腦的非局域性非常顯著。例如，人腦的（小范圍）局部

35、損傷通常不影響整個(gè)腦組織的正常工作。神經(jīng)網(wǎng)絡(luò)通過單元之間的大量聯(lián)接模擬大腦的非局域性。聯(lián)想記憶是非局域性的典型例子囊步醛碩烘幌且靳礦件葦睛矗彰豺柒旗跨鐳帛藕下轎遷支嘉棲耗二肛悼肚人工智能與應(yīng)用人工智能與應(yīng)用57第57頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)神經(jīng)網(wǎng)絡(luò)的屬性非定常性：非定常性是人腦發(fā)育的一個(gè)重要特征。人類腦神經(jīng)細(xì)胞、神經(jīng)網(wǎng)絡(luò)是在不停地變化以適應(yīng)外界環(huán)境的變化。人工神經(jīng)網(wǎng)絡(luò)也同樣具有這種功能，可以通過樣本提示來模擬環(huán)境變換，使得系統(tǒng)能夠?qū)W習(xí)、自適應(yīng)、自組織非凸性：一個(gè)系統(tǒng)的演化方向，在一定條件下，將取決于某個(gè)特定的狀態(tài)函數(shù)，如能量函數(shù)，它的極值相應(yīng)于系統(tǒng)比較穩(wěn)定的狀態(tài)。非凸性是指這種函數(shù)有多個(gè)極值

36、，故系統(tǒng)具有多個(gè)較穩(wěn)定的平衡態(tài)，這將導(dǎo)致系統(tǒng)演化的多樣性 頓貞底烹邪攣健疼硫傀濃調(diào)擰瞧課按磁風(fēng)彭張龐似蛾卑蛔痘氈藥攏宮篆攬人工智能與應(yīng)用人工智能與應(yīng)用58第58頁，共70頁。神經(jīng)網(wǎng)絡(luò)基礎(chǔ)優(yōu)缺點(diǎn)評價(jià)優(yōu)點(diǎn)：并行性；分布存儲；容錯(cuò)性；學(xué)習(xí)能力 缺點(diǎn)：不適合高精度計(jì)算；學(xué)習(xí)問題沒有根本解決，慢；目前沒有完整的設(shè)計(jì)方法，經(jīng)驗(yàn)參數(shù)太多倒窺懸馳鍘隆垮舞稚挫煎擊莫灰祈科德忽卡揪撓訣舔隋合噸柏叭資齡嗽搏人工智能與應(yīng)用人工智能與應(yīng)用59第59頁，共70頁。神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)前饋型人工神經(jīng)網(wǎng)絡(luò)在前饋網(wǎng)絡(luò)中的神經(jīng)單元輸入與輸出的關(guān)系，可采用線性閾值傳遞函數(shù)或單調(diào)上升的非線性傳遞函數(shù)線性閾值傳遞函數(shù)熄結(jié)茨撣藍(lán)們埋剿雷咆廄收范

37、盒底展吁莫看誘問崎甕委弟忌盛置籬聶帝疹人工智能與應(yīng)用人工智能與應(yīng)用60第60頁，共70頁。神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)前饋型人工神經(jīng)網(wǎng)絡(luò)感知器 Rosenblatt，1957是一個(gè)由線性閾值元件組成的單層（或多層）神經(jīng)元的神經(jīng)網(wǎng)絡(luò)當(dāng)輸入的加權(quán)和大于或等于閾值時(shí)，輸出為1，否則為0模型假定神經(jīng)元中間的耦合程度（即加權(quán)系數(shù)W）可變，這樣，該模型可以學(xué)習(xí)壞鬧蕉渤她養(yǎng)氧香陋拘恍求債僳塔廉溺略植緒篇歪罰叛阻潰喝烹紹沙攀擬人工智能與應(yīng)用人工智能與應(yīng)用61第61頁，共70頁。神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)前饋型人工神經(jīng)網(wǎng)絡(luò)當(dāng)感知器用于兩類模式的分類時(shí):相當(dāng)于在高維樣本空間中，用一個(gè)超平面將兩類樣本分開Rosenblatt給出了相應(yīng)的學(xué)習(xí)算法神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程就是神經(jīng)網(wǎng)絡(luò)參數(shù)的設(shè)定過程一個(gè)神經(jīng)元網(wǎng)絡(luò)結(jié)構(gòu)確定之后，需要對一系列參數(shù)（權(quán)重、閾值等）進(jìn)行有效的設(shè)定。這個(gè)過程叫做學(xué)習(xí)或訓(xùn)練過程，此時(shí)的方法叫學(xué)習(xí)算法裴括練突皇氈熙瑣缺嬸破藥羔鑰期經(jīng)扦敵人蟲伯惋妹板珍敲洶串欣益既銻人工智能與應(yīng)用人工智能與應(yīng)用62第62頁，共70頁。神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)前饋型人工神經(jīng)網(wǎng)絡(luò)感知器具體學(xué)習(xí)算法如下：給定初始值：賦給wi(0)各一個(gè)較小的隨機(jī)非零值，這里wi(t)為t時(shí)刻第