模式識(shí)別與機(jī)器學(xué)習(xí)期末考查試題及參考

模式辨別與機(jī)器學(xué)習(xí)期末考察試卷研究生姓名：入學(xué)年份：導(dǎo)師姓名：試題1：簡(jiǎn)述模式辨別與機(jī)器學(xué)習(xí)研究的共同問(wèn)題和各自的研究重視點(diǎn)。答：（1）模式辨別是研究用計(jì)算機(jī)來(lái)實(shí)現(xiàn)人類的模式辨別能力的一門(mén)學(xué)科，是指對(duì)表征事物或現(xiàn)象的各種形式的信息進(jìn)行辦理和剖析，以對(duì)事物或現(xiàn)象進(jìn)行描繪、辨識(shí)、分類和解說(shuō)的過(guò)程。主要集中在雙方面，一是研究生物體（包含人）是如何感知客觀事物的，二是在給定的任務(wù)下，如何用計(jì)算機(jī)實(shí)現(xiàn)識(shí)其余理論和方法。機(jī)器學(xué)習(xí)則是一門(mén)研究如何用計(jì)算機(jī)來(lái)模擬或?qū)崿F(xiàn)人類學(xué)習(xí)活動(dòng)的學(xué)科，是研究如何使機(jī)器經(jīng)過(guò)辨別和利用現(xiàn)有知識(shí)來(lái)獲取新知識(shí)和新技術(shù)。主要表現(xiàn)以下三方面：一是人類學(xué)習(xí)過(guò)程的認(rèn)知模型；二是通用學(xué)習(xí)算法；三是結(jié)構(gòu)面向任務(wù)的專用學(xué)習(xí)系統(tǒng)的方法。二者關(guān)懷的好多共同問(wèn)題，如：分類、聚類、特色選擇、信息交融等，這兩個(gè)領(lǐng)域的界線愈來(lái)愈模糊。機(jī)器學(xué)習(xí)和模式識(shí)其余理論和方法可用來(lái)解決好多機(jī)器感知和信息辦理的問(wèn)題，此中包含圖像/視頻剖析（文本、語(yǔ)音、印刷、手寫(xiě)）文檔剖析、信息檢索和網(wǎng)絡(luò)搜尋等。2）機(jī)器學(xué)習(xí)和模式辨別是分別從計(jì)算機(jī)科學(xué)和工程的角度發(fā)展起來(lái)的，各自的研究重視點(diǎn)也不一樣。模式識(shí)其余目標(biāo)就是分類，為了提升分類器的性能，可能會(huì)用到機(jī)器學(xué)習(xí)算法。而機(jī)器學(xué)習(xí)的目標(biāo)是經(jīng)過(guò)學(xué)習(xí)提升系統(tǒng)性能，分類不過(guò)其最簡(jiǎn)單的要求，其研究更重視于理論，包含泛化成效、收斂性等。模式辨別技術(shù)相對(duì)照較成熟了，而機(jī)器學(xué)習(xí)中一些方法還沒(méi)有理論基礎(chǔ)，不過(guò)實(shí)驗(yàn)成效比較好。很多算法他們都在研究，可是研究的目標(biāo)卻不一樣。如SVM在模式辨別中研究所關(guān)懷的就是其對(duì)人類成效的提升，偏工程。而在機(jī)器學(xué)習(xí)中則更重視于其性能上的理論證明。試題2：列出在模式辨別與機(jī)器學(xué)習(xí)中的常用算法及其優(yōu)弊端。答：（1）K近鄰法KNN算法作為一種非參數(shù)的分類算法，它已經(jīng)寬泛應(yīng)用于分類、回歸和模式辨別等。在應(yīng)用KNN算法解決問(wèn)題的時(shí)候，要注意的兩個(gè)方面是樣本權(quán)重和特色權(quán)重。優(yōu)弊端：特別有效，實(shí)現(xiàn)簡(jiǎn)單，分類成效好。樣本小時(shí)偏差難控制，儲(chǔ)存全部樣本，需要較大儲(chǔ)存空間，關(guān)于大樣本的計(jì)算量大。2）貝葉斯決議法貝葉斯決議法是以希望值為標(biāo)準(zhǔn)的剖析法，是決議者在辦理風(fēng)險(xiǎn)型問(wèn)題時(shí)經(jīng)常使用的方法。優(yōu)弊端：因?yàn)樵谏钪虚g很多自然現(xiàn)象和生產(chǎn)問(wèn)題都是難以完好正確展望的，所以決議者在采納相應(yīng)的決議時(shí)總會(huì)帶有必定的風(fēng)險(xiǎn)。貝葉斯決議法就是將各要素發(fā)生某種改動(dòng)惹起結(jié)果改動(dòng)的概率憑統(tǒng)計(jì)資料或憑經(jīng)驗(yàn)主觀地假定，而后進(jìn)一步對(duì)希望值進(jìn)行剖析，因?yàn)榇烁怕势鋵?shí)不可以證明其客觀性，故常常是主觀的和人為的概率，自己帶有必定的風(fēng)險(xiǎn)性和不必定性。固然用希望的大小進(jìn)行判斷有一些風(fēng)險(xiǎn)，但仍能夠以為貝葉斯決議是一種兼科學(xué)性和實(shí)效性于一身的比較完美的用于解決風(fēng)險(xiǎn)型決議問(wèn)題的方法，在實(shí)質(zhì)中能夠?qū)挿簯?yīng)用于組織系統(tǒng)改革、公司效益、市場(chǎng)開(kāi)發(fā)、證券投資等諸多領(lǐng)域。使用時(shí)依據(jù)決議者的重視點(diǎn)，聯(lián)合變異系數(shù)，綜合使用錢(qián)幣要素的貝葉斯決議、或功效函數(shù)的貝葉斯決議法，都會(huì)獲取自己想要的結(jié)果。（3）DES加密算法DES是DataEncryptionStandard（數(shù)據(jù)加密標(biāo)準(zhǔn)）的縮寫(xiě)，它為密碼系統(tǒng)中的對(duì)稱密碼系統(tǒng)，又被稱為美國(guó)數(shù)據(jù)加密標(biāo)準(zhǔn)，是

1972

年美國(guó)

IBM公司研制的加密算法。

DES是一個(gè)分組加密算法，他以

64位為分組對(duì)數(shù)據(jù)加密。同時(shí)

DES也是一個(gè)對(duì)稱算法：加密和解密用的是同一個(gè)算法。它的密匙長(zhǎng)度是

56位（因?yàn)槊總€(gè)第

8

位都用作奇偶校驗(yàn)），密匙能夠是隨意的

56位的數(shù)，并且能夠隨意時(shí)候改變。此中有很少許的數(shù)被以為是弱密匙，可是很簡(jiǎn)單避開(kāi)他們。所以保密性依靠于密鑰。優(yōu)弊端：擁有極高安全性，分組比較短，密鑰很短，密碼生命周期短，運(yùn)算速度較慢。4）決議樹(shù)學(xué)習(xí)算法決議樹(shù)算法是一種混淆算法，它綜合了多種不一樣的創(chuàng)立樹(shù)的方法，并支持多個(gè)剖析任務(wù)，包含回歸、分類以及關(guān)系。決議樹(shù)算法支持對(duì)失散屬性和連續(xù)屬性進(jìn)行建模。優(yōu)弊端：決議樹(shù)算法高效快速且可伸縮，可輕松實(shí)現(xiàn)并行化，這意味著全部辦理器均可共同工作，共同生成一個(gè)一致的模型。這些特色使決議樹(shù)分類器成為了理想的數(shù)據(jù)發(fā)掘工具。在數(shù)據(jù)發(fā)掘的各種方法中,決議樹(shù)概括學(xué)習(xí)算法以其易于提取顯式規(guī)則、計(jì)算量相對(duì)較小、能夠顯示重要的決議屬性和較高的分類正確率等優(yōu)點(diǎn)而得到寬泛應(yīng)用。決議樹(shù)的這種易理解性對(duì)數(shù)據(jù)發(fā)掘的使用者來(lái)說(shuō)是一個(gè)明顯的優(yōu)點(diǎn)。但是決議樹(shù)的這種明確性可能帶來(lái)誤導(dǎo)。比方，決議樹(shù)每個(gè)節(jié)點(diǎn)對(duì)應(yīng)切割的定義都是特別明確絕不含糊的，但在實(shí)質(zhì)生活中這種明確可能帶來(lái)麻煩。對(duì)決議樹(shù)常有的責(zé)備是說(shuō)其在為一個(gè)節(jié)點(diǎn)選擇如何進(jìn)行切割時(shí)使用“貪婪”算法。此種算法在決定當(dāng)前這個(gè)切割時(shí)根本不考慮此次選擇會(huì)對(duì)未來(lái)的切割造成什么樣的影響。（5）C均值算法均值算法是經(jīng)過(guò)不停調(diào)整聚類中心使得偏差平方和準(zhǔn)則函數(shù)獲得極小值。優(yōu)弊端：能夠動(dòng)向聚類，是一種無(wú)監(jiān)察學(xué)習(xí)算法，算法簡(jiǎn)單，速度快，局部搜尋能力強(qiáng)，能夠有效辦理大型數(shù)據(jù)庫(kù)，與神經(jīng)網(wǎng)絡(luò)聯(lián)合可極大地提升收斂性和精度。c-均值算法的一個(gè)主要問(wèn)題是區(qū)分類型數(shù)一定預(yù)先確立，這種主觀確立數(shù)據(jù)子集數(shù)量其實(shí)不必定吻合數(shù)據(jù)集自己的特色，所以關(guān)于隨機(jī)的初始值選用可能會(huì)致使不一樣的聚類結(jié)果，甚至存在著無(wú)解的狀況；在選用聚類中心點(diǎn)時(shí)采納隨機(jī)選用易使得迭代過(guò)程墮入局部最優(yōu)解，簡(jiǎn)單收斂于局部極小點(diǎn)；該算法對(duì)“噪音”和孤立點(diǎn)數(shù)據(jù)比較敏感，少許的該類數(shù)據(jù)能夠?qū)鶆蛑诞a(chǎn)生極大的影響。（6）遺傳算法遺傳算法（GeneticAlgorithm）是模擬達(dá)爾文的遺傳選擇和自然裁減的生物進(jìn)化過(guò)程的計(jì)算模型，是一種經(jīng)過(guò)模擬自然進(jìn)化過(guò)程搜尋最優(yōu)解的方法。優(yōu)弊端：遺傳算法是一類可用于復(fù)雜系統(tǒng)優(yōu)化的擁有魯棒性的搜尋算法，與傳統(tǒng)的優(yōu)化算法對(duì)比，主要有以下特色：

1.與問(wèn)題領(lǐng)域沒(méi)關(guān)切快速隨機(jī)的搜尋能力。

2.搜尋從集體出發(fā)，擁有潛伏的并行性，能夠進(jìn)行多個(gè)個(gè)體的同時(shí)比較。

3.搜尋使用評(píng)論函數(shù)啟迪，過(guò)程簡(jiǎn)單。

4.使用概率體制進(jìn)行迭代，擁有隨機(jī)性。

5.擁有可擴(kuò)展性，簡(jiǎn)單與其余算法聯(lián)合。6.直接以適應(yīng)度作為搜尋信息，無(wú)需導(dǎo)數(shù)等其余協(xié)助信息。7.使用多個(gè)點(diǎn)的搜尋信息，擁有隱含并行性。8.使用概率搜尋技術(shù)，而非確立性規(guī)則。也存在一些問(wèn)題：1.沒(méi)有能夠?qū)崟r(shí)利用網(wǎng)絡(luò)的反應(yīng)信息，故算法的搜尋速度比較慢，要得要較精準(zhǔn)的解需要許多的訓(xùn)練時(shí)間。

2.算法對(duì)初始種群的選擇有必定的依靠性，能夠聯(lián)合一些啟迪算法進(jìn)行改良。

3.算法的并行體制的潛伏能力沒(méi)有獲取充分的利用，這也是目前遺傳算法的一個(gè)研究熱門(mén)方向。(7)BP神經(jīng)網(wǎng)絡(luò)算法其學(xué)習(xí)過(guò)程由正向流傳和反向流傳構(gòu)成。在正向流傳過(guò)程中，輸入信息從輸入層經(jīng)隱單元層逐層辦理后，傳至輸出層。假如輸出層得不到希望輸出，那么就轉(zhuǎn)為反向流傳，把偏差信號(hào)沿連結(jié)路徑返回，并經(jīng)過(guò)改正各層神經(jīng)元的權(quán)值，使偏差信號(hào)最小。優(yōu)弊端：BP算法能夠經(jīng)過(guò)學(xué)習(xí)帶正確答案的實(shí)例集自動(dòng)提取“合理的”求解規(guī)則；擁有必定的推行能力；學(xué)習(xí)過(guò)程有被“固化”的潛伏可能性；它能以隨意精度迫近隨意非線性函數(shù)，并且擁有優(yōu)秀的迫近性能，并且結(jié)構(gòu)簡(jiǎn)單，是一種性能優(yōu)秀的神經(jīng)網(wǎng)絡(luò)。但也存在一些問(wèn)題，BP算法是依據(jù)均方偏差的梯度降落方向收斂的，但均方偏差的梯度曲線存在許多局部和全局最小點(diǎn)，這就使得神經(jīng)網(wǎng)絡(luò)易墮入局部最??；算法的收斂速度較慢，可能會(huì)浪費(fèi)大批時(shí)間；神經(jīng)網(wǎng)絡(luò)隱層的結(jié)點(diǎn)個(gè)數(shù)難以確立適合的數(shù)值；如何選用適合的學(xué)習(xí)樣本解決網(wǎng)絡(luò)的推行（泛化）問(wèn)題，即便網(wǎng)絡(luò)能正確辦理未學(xué)習(xí)過(guò)的輸入。8）Hopfield網(wǎng)絡(luò)算法Hopfield網(wǎng)絡(luò)算法作為典型的反應(yīng)神經(jīng)網(wǎng)絡(luò)，有以下獨(dú)有的優(yōu)點(diǎn)和弊端。只有不動(dòng)點(diǎn)吸引子，沒(méi)有其余種類的吸引子。Hopfield同的這個(gè)性質(zhì)被稱為全局穩(wěn)固性。2.網(wǎng)絡(luò)狀態(tài)的演化趨于某個(gè)二次函數(shù)的局部最小點(diǎn)。3.很難精準(zhǔn)地分析Hopfield網(wǎng)的性能。4.難于找到通用的學(xué)習(xí)算法。5.這種阿絡(luò)的動(dòng)力學(xué)行為過(guò)于筒單。5.Hopfield問(wèn)只有不動(dòng)點(diǎn)吸子，是一種悲觀被動(dòng)的神經(jīng)網(wǎng)絡(luò)。試題3：簡(jiǎn)述在模式辨別與機(jī)器學(xué)習(xí)中解決問(wèn)題的主要步驟。指出那些步驟波及到學(xué)習(xí)？在數(shù)據(jù)的前辦理中，特色選擇起什么作用？答：(1)在模式辨別與機(jī)器學(xué)習(xí)中解決問(wèn)題的主要步驟：?jiǎn)栴}描繪：正確剖析研究目的，并對(duì)未來(lái)工作做出計(jì)劃。數(shù)據(jù)選擇：數(shù)據(jù)選擇是依據(jù)用戶需求從數(shù)據(jù)庫(kù)中提取有關(guān)數(shù)據(jù)。知識(shí)發(fā)現(xiàn)過(guò)程：概括為3個(gè)步驟，即數(shù)據(jù)發(fā)掘預(yù)辦理、數(shù)據(jù)發(fā)掘、數(shù)據(jù)發(fā)掘后辦理。數(shù)據(jù)預(yù)辦理是對(duì)數(shù)據(jù)進(jìn)行再加工，檢查數(shù)據(jù)的完好性及一致性，對(duì)此中的噪音數(shù)據(jù)進(jìn)行辦理。對(duì)丟掉的數(shù)據(jù)利用統(tǒng)計(jì)方法進(jìn)行填充，形成發(fā)掘數(shù)據(jù)庫(kù)。數(shù)據(jù)變換即從發(fā)掘數(shù)據(jù)庫(kù)里選擇數(shù)據(jù)，變換的方法主假如利用聚類剖析和鑒別剖析。數(shù)據(jù)發(fā)掘是依據(jù)用戶要求，確立知識(shí)發(fā)現(xiàn)的目標(biāo)是發(fā)現(xiàn)何種種類的知識(shí)。運(yùn)用選定的知識(shí)發(fā)現(xiàn)算法。從數(shù)據(jù)庫(kù)中提取用戶所需要的知識(shí)。知識(shí)評(píng)論主要用于對(duì)所獲取的規(guī)則進(jìn)行價(jià)值評(píng)定，以決定所獲取的規(guī)則能否存入基礎(chǔ)知識(shí)庫(kù)。選擇或設(shè)計(jì)模型：對(duì)同一個(gè)問(wèn)題也許有很多不一樣的模型能夠描繪，不一樣的模型會(huì)致使辨別和學(xué)習(xí)結(jié)果的不一樣，所以需要利用已有的經(jīng)驗(yàn)和知識(shí)來(lái)選擇或設(shè)計(jì)適合的模型。在確立了所成立的模型后，就能夠預(yù)計(jì)模型的參數(shù)，需要注意的時(shí)，應(yīng)當(dāng)使得模型對(duì)未知數(shù)占有優(yōu)秀的適應(yīng)性。訓(xùn)練所成立的模型：用前面所得的數(shù)據(jù)分紅兩組，一組作為訓(xùn)練數(shù)據(jù)，一組作為測(cè)試數(shù)據(jù)。設(shè)定目標(biāo)偏差，用訓(xùn)練數(shù)據(jù)對(duì)所成立的模型進(jìn)行訓(xùn)練，達(dá)到目標(biāo)誤差，就停止訓(xùn)練，這樣就確立了所成立模型的參數(shù)。測(cè)試、評(píng)估、考證模型：測(cè)試模型的目的是為了確立所成立模型能否知足實(shí)質(zhì)應(yīng)用要求。測(cè)試數(shù)據(jù)應(yīng)當(dāng)和訓(xùn)練用的樣本數(shù)據(jù)不一致，不然，測(cè)試所得的結(jié)果永久都是滿意的。用測(cè)試數(shù)據(jù)對(duì)所成立模型進(jìn)行測(cè)試，察看測(cè)試結(jié)果能否與實(shí)質(zhì)狀況是相吻合。若與實(shí)質(zhì)狀況相吻合，所成立模型便可對(duì)未知數(shù)據(jù)做展望，進(jìn)而獲取進(jìn)一步的考證。在這些步驟中，步驟5波及到學(xué)習(xí)。特色選用（也稱作屬性選擇）是簡(jiǎn)化數(shù)據(jù)表達(dá)形式，是在模式辨別中依據(jù)必定的原則，選用反應(yīng)被辨別模式實(shí)質(zhì)的那些特色的方法或過(guò)程。模式辨別和機(jī)器學(xué)習(xí)方法第一要解決的一個(gè)問(wèn)題就是特色選擇。在數(shù)據(jù)的前辦理中，特色選擇是一個(gè)特別重要的步驟，特色選擇不合理，會(huì)影響辨別和學(xué)習(xí)成效。經(jīng)過(guò)特色選擇和提取，我們才可獲取所采集數(shù)據(jù)中最有效的信息，最有效的特色，選擇出有益于分類或聚類成立模型的變量，進(jìn)而實(shí)現(xiàn)特色空間維數(shù)的壓縮，以降低后續(xù)辦理過(guò)程的難度，才能鑒于這些特色對(duì)所成立模型進(jìn)行訓(xùn)練和測(cè)試。同時(shí)特色選用也是降低儲(chǔ)存要求，提升分類精度和效率的重要門(mén)路。試題4：在模式辨別與機(jī)器學(xué)習(xí)的研究中，還不停有人提出新的算法。請(qǐng)列舉一些能夠用來(lái)比較算法利害的方法？答：算法是計(jì)算機(jī)科學(xué)中一個(gè)重要的研究方向，是解決復(fù)雜問(wèn)題的要點(diǎn)。在計(jì)算機(jī)世界中，算法無(wú)處不在。同一問(wèn)題可用不一樣算法解決，而一個(gè)算法的質(zhì)量好壞將影響到算法以致程序的效率。能夠用來(lái)比較算法利害的方法有：正確性一個(gè)算法能否正確的，是指關(guān)于一吻合法的輸入數(shù)據(jù)，該算法經(jīng)過(guò)有限時(shí)間（算法意義上的有限）的履行能否都能產(chǎn)生正確（或許說(shuō)知足規(guī)格說(shuō)明要求）的結(jié)果。時(shí)間復(fù)雜度和空間復(fù)雜度一個(gè)算法的時(shí)間復(fù)雜性是指該算法的基本運(yùn)算次數(shù)，記作T(n)=O(f(n))。時(shí)間復(fù)雜度不停增大，算法的履行效率越低?？臻g復(fù)雜度是指算法在計(jì)算機(jī)內(nèi)履行時(shí)所需儲(chǔ)存空間的胸懷。記作S(n)=O(f(n))。儲(chǔ)存空間越大，算法效率也越低。占用空間算法履行需要儲(chǔ)存空間來(lái)寄存算法自己包含的語(yǔ)句、常數(shù)、變量、輸入數(shù)據(jù)和實(shí)現(xiàn)其運(yùn)算所需的數(shù)據(jù)（如中間結(jié)果等），其余還需要一些工作空間用來(lái)對(duì)（以某種方式儲(chǔ)存的）數(shù)據(jù)進(jìn)行操作?？勺x性可讀性好的算法有助于設(shè)計(jì)者和別人閱讀、理解、改正和重用。與此相反，艱澀難懂的算法不只簡(jiǎn)單隱蔽許多的錯(cuò)誤，并且增添了人們?cè)陂喿x、理解、調(diào)試、改正和重用算法等方面的困難。牢固性當(dāng)輸入數(shù)據(jù)非法時(shí)，算法能適合地作出適合的反響。試題5：在你所知道的模式辨別與機(jī)器學(xué)習(xí)算法中，那些方法較合合用來(lái)解決純數(shù)值型數(shù)據(jù)的問(wèn)題，那些方法較適合用來(lái)解決包含大批非數(shù)值數(shù)據(jù)的問(wèn)題。答：（1）解決純數(shù)值型數(shù)據(jù)問(wèn)題的方法：貝葉斯決議法、神經(jīng)網(wǎng)絡(luò)算法等。貝葉斯決議法是鑒于概率統(tǒng)計(jì)的基本的鑒別函數(shù)分類法。只需知道先驗(yàn)概率和條件概率就能夠?qū)颖具M(jìn)行判斷，因?yàn)閿?shù)據(jù)是純數(shù)值型數(shù)據(jù)，數(shù)據(jù)簡(jiǎn)單，樣本間的空間距離易計(jì)算，且先驗(yàn)概率和條件概率易求得。神經(jīng)網(wǎng)絡(luò)只好辦理數(shù)值型數(shù)據(jù)。成立神經(jīng)網(wǎng)絡(luò)需要做的數(shù)據(jù)準(zhǔn)備工作量很大。要想獲取正確度高的模型一定仔細(xì)的進(jìn)行數(shù)據(jù)沖洗、整理、變換、選擇等工作。對(duì)任何數(shù)據(jù)發(fā)掘技術(shù)都是這樣，神經(jīng)網(wǎng)絡(luò)特別著重這一點(diǎn)。比方神經(jīng)網(wǎng)絡(luò)要求全部的輸入變量都一定是0—1(或-1—+1)之間的實(shí)數(shù)，所以像“地域”之類文本數(shù)據(jù)一定先做必需的辦理變?yōu)閿?shù)值以后才能用作神經(jīng)網(wǎng)絡(luò)的輸入。2）關(guān)于非數(shù)值型數(shù)據(jù)可用方法：決議樹(shù)、遺傳算法等。決議樹(shù)很善于辦理非數(shù)值型數(shù)據(jù)，決議樹(shù)的分類方法是從實(shí)例集中結(jié)構(gòu)決議樹(shù)，是一種有指導(dǎo)的學(xué)習(xí)方法。其算法的特色是經(jīng)過(guò)將大批數(shù)占有目的分類，從中找到一些有價(jià)值的，潛伏的信息，特別適合大規(guī)模的數(shù)據(jù)辦理。遺傳算法特色從解會(huì)合進(jìn)行搜尋，利于全局擇優(yōu)。該算法擁有收斂性，經(jīng)過(guò)選擇、交錯(cuò)、變異操作，能快速清除與最優(yōu)解相差極大的串。是非數(shù)值并行算法之一，解決了非數(shù)值數(shù)據(jù)及大批數(shù)據(jù)帶來(lái)的計(jì)算量和儲(chǔ)存量的問(wèn)題。試題6：模式辨別與機(jī)器學(xué)習(xí)最難解決的問(wèn)題是什么？并說(shuō)明原因。答：我感覺(jué)模式辨別與機(jī)器學(xué)習(xí)中最難解決的問(wèn)題是：1）學(xué)習(xí)速率確實(shí)定。提出設(shè)計(jì)者應(yīng)當(dāng)從詳細(xì)系統(tǒng)中獲取的數(shù)據(jù)確立算法學(xué)習(xí)速率的上、下界數(shù)值，并選用最優(yōu)學(xué)習(xí)速率。2）在辦理詳細(xì)的問(wèn)題時(shí)，適合算法的選擇。在算法選擇中沒(méi)有天生優(yōu)勝的模式。辨別與機(jī)器學(xué)習(xí)算法，各自算法的都有其對(duì)應(yīng)的應(yīng)用范圍及應(yīng)用中應(yīng)注意的問(wèn)題，只有充分認(rèn)識(shí)不一樣模式辨別算法，深入剖析算法的使用條件，才能做到最正確選擇。但目前算法好多，沒(méi)有深入的話簡(jiǎn)單被忘記，深入的話花得時(shí)間多，且在好多實(shí)質(zhì)問(wèn)題中間，經(jīng)常不簡(jiǎn)單找到那些最重要的特色，或許受條件限制不可以對(duì)它們進(jìn)行丈量，這使得特色選擇和提取的任務(wù)復(fù)雜化，進(jìn)而成為結(jié)構(gòu)模式辨別系統(tǒng)，提升決議精度的最困難的任務(wù)之一。3）相應(yīng)的參數(shù)的選擇。如何確立變量值，這是一個(gè)很要點(diǎn)的問(wèn)題，但到現(xiàn)在還沒(méi)有快速而有效的規(guī)則，有的不過(guò)一些原則性的指導(dǎo)。并且選擇參數(shù)值最后還應(yīng)歸納為每個(gè)用戶對(duì)算法的體驗(yàn)，用戶只好經(jīng)過(guò)自己的編程實(shí)踐，用各種不一樣的參數(shù)值進(jìn)行調(diào)試，看結(jié)果會(huì)發(fā)生什么，并從中選用適合的值。試題7：請(qǐng)例舉一些你以為應(yīng)用得較好的算法及應(yīng)用實(shí)例。答：我以為應(yīng)用較好的算法以下：1）遺傳算法因?yàn)檫z傳算法的整體搜尋策略和優(yōu)化搜尋方法在計(jì)算是不依靠于梯度信息或其它協(xié)助知識(shí)，而只需要影響搜尋方向的目標(biāo)函數(shù)和相應(yīng)的適應(yīng)度函數(shù)，所以遺傳算法供給了一種求解復(fù)雜系統(tǒng)問(wèn)題的通用框架，它不依靠于問(wèn)題的詳細(xì)領(lǐng)域，對(duì)問(wèn)題的種類有很強(qiáng)的魯棒性，所以寬泛應(yīng)用于很多科學(xué)。1、函數(shù)優(yōu)化函數(shù)優(yōu)化是遺傳算法的經(jīng)典應(yīng)用領(lǐng)域，也是遺傳算法進(jìn)行性能評(píng)論的常用算例，很多人結(jié)構(gòu)出了各種各種復(fù)雜形式的測(cè)試函數(shù)：連續(xù)函數(shù)和失散函數(shù)、凸函數(shù)和凹函數(shù)、低維函數(shù)和高維函數(shù)、單峰函數(shù)和多峰函數(shù)等。關(guān)于一些非線性、多模型、多目標(biāo)的函數(shù)優(yōu)化問(wèn)題，用其余優(yōu)化方法較難求解，而遺傳算法能夠方便的得到較好的結(jié)果。2、組合優(yōu)化跟著問(wèn)題規(guī)模的增大，組合優(yōu)化問(wèn)題的搜尋空間也急劇增大，有時(shí)在目前的計(jì)算上用列舉法很難求出最優(yōu)解。對(duì)這種復(fù)雜的問(wèn)題，人們已經(jīng)意識(shí)到應(yīng)把主要精力放在追求滿意解上，而遺傳算法是追求這種滿意解的最正確工具之一。實(shí)踐證明，遺傳算法關(guān)于組合優(yōu)化中的NP問(wèn)題特別有效。比如遺傳算法已經(jīng)在求解旅游商問(wèn)題、背包問(wèn)題、裝箱問(wèn)題、圖形區(qū)分問(wèn)題等方面獲取成功的應(yīng)用。其余，GA也在生產(chǎn)調(diào)動(dòng)問(wèn)題、自動(dòng)控制、機(jī)器人學(xué)、圖象辦理、人工生命、遺傳編碼和機(jī)器學(xué)習(xí)等方面獲取了寬泛的運(yùn)用。（2）BP神經(jīng)網(wǎng)絡(luò)算法BP神經(jīng)網(wǎng)絡(luò)模