智能控制 課件全套 李曉理 -第1-9章-智能控制概述-智能控制展望

智能控制概述智能控制1

第一章

IntelligentControl

Overview緒論智能控制2Ch1智能控制的產(chǎn)生智能控制的含義及特點(diǎn)1.11.21.3智能控制理論1.4智能控制的發(fā)展智能控制的產(chǎn)生智能控制31.1控制：通過(guò)施加特定的操作量，改造所涉及系統(tǒng)的性能，使其最大限度的滿足特定需要的理論與技術(shù)的總稱。包括：系統(tǒng)、系統(tǒng)的改造、性能。自動(dòng)控制：不需要人工干預(yù)的控制，它是通過(guò)自動(dòng)化裝置代替人對(duì)系統(tǒng)進(jìn)行的控制，使之達(dá)到預(yù)期的狀態(tài)或性能指標(biāo)。智能控制的產(chǎn)生1.1自動(dòng)控制的思想可追溯到公元前。中國(guó)馬鈞研制出用齒輪傳動(dòng)的自動(dòng)指示方向的指南車，指南車使用了擾動(dòng)控制原理。(-235年)智能控制4智能控制的產(chǎn)生1.1自動(dòng)控制技術(shù)的廣泛應(yīng)用始于工業(yè)革命時(shí)期。英國(guó)Watt根據(jù)反饋控制原理設(shè)計(jì)離心式調(diào)速器自動(dòng)控制蒸汽機(jī)的速度。(1788年)智能控制5控制理論研究的開(kāi)始英國(guó)物理學(xué)家Maxwell用線性微分方程來(lái)研究蒸汽機(jī)調(diào)速系統(tǒng)的穩(wěn)定性問(wèn)題，他指出只有當(dāng)微分方程的特征根為負(fù)實(shí)根或具有負(fù)實(shí)部的復(fù)根時(shí)，系統(tǒng)才穩(wěn)定。(1868年)智能控制6智能控制的產(chǎn)生1.1控制理論產(chǎn)生和發(fā)展的基礎(chǔ)英國(guó)Routh和德國(guó)Hurwitz經(jīng)過(guò)獨(dú)立研究后，給出了可以不用求解特征方程的根，而直接根據(jù)特征方程的系數(shù)來(lái)判斷所描述系統(tǒng)穩(wěn)定性的判據(jù)，即Routh-Hurwitz判據(jù)。(1877年)俄國(guó)Lyapunov博士論文“論運(yùn)動(dòng)穩(wěn)定性的一般問(wèn)題”

。(1892年)智能控制7智能控制的產(chǎn)生1.1美國(guó)Nyquist提出了根據(jù)系統(tǒng)開(kāi)環(huán)頻率特性來(lái)判別閉環(huán)系統(tǒng)穩(wěn)定性的方法，即Nyquist穩(wěn)定性判據(jù)。(1932)美國(guó)Bode引入了半對(duì)數(shù)坐標(biāo)系，把復(fù)數(shù)運(yùn)算轉(zhuǎn)換成代數(shù)運(yùn)算，大大地簡(jiǎn)化頻率特性的分析。(1940)Harris引入了傳遞函數(shù)的概念。(1942)美國(guó)Taylor儀器公司的Ziegler和Nichols提出PID參數(shù)的最佳調(diào)整法。(1942)美國(guó)Evans提出根軌跡法。(1948)智能控制81經(jīng)典控制的發(fā)展及其特點(diǎn)經(jīng)典控制的主要特點(diǎn)以單變量線性定常系統(tǒng)為研究對(duì)象；以傳遞函數(shù)作為系統(tǒng)特性的主要描述手段，研究系統(tǒng)外部特性，難以揭示系統(tǒng)內(nèi)部的動(dòng)態(tài)行為；以Laplace變換和多項(xiàng)式代數(shù)為數(shù)學(xué)工具，利用Bode圖、Nyquist曲線、根軌跡等方法對(duì)控制系統(tǒng)進(jìn)行分析與綜合。智能控制91 經(jīng)典控制的發(fā)展及其特點(diǎn)蘇聯(lián)Pontryagin發(fā)表“最優(yōu)過(guò)程數(shù)學(xué)理論”，提出極大值原理(Maximum

Principle)。(1956)美國(guó)Bellman發(fā)表著名的Dynamic

Programming,

建立最優(yōu)控制的基礎(chǔ)。(1957)美籍匈牙利人Kalman發(fā)表論文“On

the

General

Theory

ofControl

Systems”等，提出了狀態(tài)空間分析方法，包括能控性，能觀測(cè)性，最佳調(diào)節(jié)器和Kalman

濾波等概念，奠定了現(xiàn)代控制理論的基礎(chǔ)。(1960)智能控制102現(xiàn)代控制的發(fā)展及其特點(diǎn)瑞典?str?m

研究了線性定常系統(tǒng)參數(shù)估計(jì)問(wèn)題和定階方法。(1967)

六年后，他提出了自校正調(diào)節(jié)器，建立自適應(yīng)控制理論。英國(guó)Rosenbrock發(fā)表State

Space

and

Multivariable

Theory。(1970)加

拿

大

Wonham

發(fā)

表

Linear Multivariable Control: AGeometric

Approach。(1974)智能控制112現(xiàn)代控制的發(fā)展及其特點(diǎn)美國(guó)Brockett

提出用微分幾何研究非線性控制系統(tǒng)。(1976)意大利Isidori出版Nonlinear Control

Systems。(1985)加拿大Zames提出H∞

魯棒控制設(shè)計(jì)方法。(1981年)美國(guó)Y.C

Ho和中國(guó)香港X.R

Cao等提出離散事件系統(tǒng)理論。(1983)智能控制122現(xiàn)代控制的發(fā)展及其特點(diǎn)現(xiàn)代控制的主要特點(diǎn)以多變量線性系統(tǒng)為主要研究對(duì)象；以狀態(tài)空間法作為系統(tǒng)特性的主要描述手段；以現(xiàn)代數(shù)學(xué)(矩陣論、泛函分析等)為主要分析工具，通過(guò)計(jì)算機(jī)實(shí)現(xiàn)控制。智能控制132現(xiàn)代控制的發(fā)展及其特點(diǎn)盡管傳統(tǒng)控制獲得了成功，但也存在如下缺陷：傳統(tǒng)控制依賴顯式的對(duì)象模型，它是以系統(tǒng)傳函、狀態(tài)方程等為基礎(chǔ)的。然而在現(xiàn)實(shí)生活中，往往很難獲得精確的數(shù)學(xué)模型，因而傳統(tǒng)控制難以取得理想效果。傳統(tǒng)控制缺乏智能，表現(xiàn)于缺乏學(xué)習(xí)能力與適應(yīng)能力。傳統(tǒng)控制中的控制律多數(shù)一經(jīng)確定，不再改變，當(dāng)對(duì)象參數(shù)或環(huán)境發(fā)生變化時(shí)，控制系統(tǒng)的性能隨之下降。隨著控制目標(biāo)、任務(wù)的要求越來(lái)越高，傳統(tǒng)控制系統(tǒng)可能變得很復(fù)雜，導(dǎo)致系統(tǒng)成本提高、可靠性下降。智能控制143 傳統(tǒng)控制所面臨的問(wèn)題正因?yàn)閭鹘y(tǒng)控制存在這么多的困難，所以，必須發(fā)展新的概念、理論與方法才能和社會(huì)生產(chǎn)的快速發(fā)展相適應(yīng)。對(duì)于復(fù)雜系統(tǒng)，傳統(tǒng)控制方法難以取得理想的效果。但若采用人工操作，憑借人的直覺(jué)或經(jīng)驗(yàn)對(duì)其進(jìn)行控制，卻能收到事半功倍的效果。于是，人們?cè)谙肽芊裨O(shè)計(jì)出類似人一樣的控制器，來(lái)解決這類復(fù)雜對(duì)象的控制問(wèn)題？隨著人工智能科學(xué)的發(fā)展，將人工智能與自動(dòng)控制有機(jī)地融合起來(lái)，就產(chǎn)生了智能控制。智能控制154 智能控制的產(chǎn)生智能控制的含義及特點(diǎn)智能控制161.2智能控制理論始于20世紀(jì)70年代，是控制理論、人工智能和計(jì)算機(jī)科學(xué)相結(jié)合的產(chǎn)物。它屬于控制理論發(fā)展的高級(jí)階段，主要用來(lái)解決傳統(tǒng)方法難以解決的復(fù)雜系統(tǒng)的控制問(wèn)題。與傳統(tǒng)控制理論相比，智能控制對(duì)于環(huán)境和任務(wù)的復(fù)雜性有更強(qiáng)的適應(yīng)能力。1智能控制17智能控制的定義智能控制就是通過(guò)具有智能行為的自動(dòng)化裝置代替人對(duì)系統(tǒng)進(jìn)行控制，使之達(dá)到預(yù)期的狀態(tài)或性能指標(biāo)。按照智能控制的定義可知，一切蘊(yùn)含智能行為的控制技術(shù)都屬于智能控制。因此，智能控制所包含的內(nèi)容十分廣泛2智能控制18智能控制的研究對(duì)象智能控制的研究對(duì)象應(yīng)該是復(fù)雜系統(tǒng)，一般具備以下特點(diǎn)：嚴(yán)重不確定性高度非線性復(fù)雜的控制任務(wù)A智能控制19嚴(yán)重不確定性被控對(duì)象存在嚴(yán)重不確定性，模型結(jié)構(gòu)和參數(shù)在運(yùn)行過(guò)程中變化很大，如生物發(fā)酵過(guò)程；有的被控對(duì)象甚至難以建立數(shù)學(xué)模型或所建立的模型很不精確，比如經(jīng)濟(jì)系統(tǒng)、生態(tài)系統(tǒng)等。面對(duì)這樣的系統(tǒng)，基于數(shù)學(xué)模型的傳統(tǒng)控制無(wú)能為力。這些復(fù)雜系統(tǒng)特性的描述往往需要借助學(xué)習(xí)、知識(shí)推理或統(tǒng)計(jì)模型來(lái)表達(dá)。B智能控制20高度非線性傳統(tǒng)控制理論更多的用來(lái)解決線性系統(tǒng)控制問(wèn)題?；Ｗ兘Y(jié)構(gòu)控制、基于微分幾何的非線性控制等方法可處理非線性系統(tǒng)控制問(wèn)題。但是，非線性控制理論并不成熟，有些控制方法的適用條件十分苛刻，有些控制算法十分復(fù)雜，根本無(wú)法推廣應(yīng)用。智能控制方法脫離復(fù)雜的數(shù)學(xué)模型，往往可以收到事半功倍的控制效果。C智能控制21復(fù)雜的控制任務(wù)傳統(tǒng)控制理論更多地用來(lái)解決調(diào)節(jié)問(wèn)題或跟蹤問(wèn)題，控制任務(wù)比較單一。對(duì)于一些系統(tǒng)，其控制任務(wù)往往比較復(fù)雜。比如，機(jī)器人足球比賽，既要考慮單個(gè)機(jī)器人的控制性能，又要考慮多個(gè)機(jī)器人協(xié)作，還要考慮目標(biāo)的不確定性等因素。對(duì)于復(fù)雜控制系統(tǒng)，傳統(tǒng)控制方法則顯得力不從心。而采用智能控制方法，充分發(fā)揮其學(xué)習(xí)功能、組織功能，往往能夠取得很好的控制效果。3智能控制22智能控制系統(tǒng)智能控制系統(tǒng)：實(shí)現(xiàn)某種控制任務(wù)的智能系統(tǒng)。智能(控制)系統(tǒng)應(yīng)該具備：對(duì)獲取的信息進(jìn)行定性與定量、模糊與精確的處理能力；在線學(xué)習(xí)、修改、生成新知識(shí)和記憶能力；把已有的理論與人的經(jīng)驗(yàn)相結(jié)合，歸納、演繹、推理決策的能力；對(duì)系統(tǒng)的故障和運(yùn)行過(guò)程中的突發(fā)事故實(shí)時(shí)處理的能力。智能(控制)系統(tǒng)具有自學(xué)習(xí)、自適應(yīng)和自組織的功能。A智能控制23學(xué)習(xí)功能Saridis的學(xué)習(xí)系統(tǒng)定義：一個(gè)系統(tǒng)，如果能夠?qū)^(guò)程或環(huán)境的未知特征所固有的信息進(jìn)行學(xué)習(xí)，并將得到的知識(shí)用于進(jìn)一步估計(jì)、分類、決策或控制中，從而使系統(tǒng)的性能得到改善，則稱該系統(tǒng)為學(xué)習(xí)系統(tǒng)。學(xué)習(xí)就是獲得未知過(guò)程或環(huán)境的固有特征信息，并且利用所獲得的知識(shí)不斷完善自我的過(guò)程。B智能控制24適應(yīng)功能對(duì)于沒(méi)有學(xué)習(xí)過(guò)的數(shù)據(jù)，系統(tǒng)也能給出合適的輸出。當(dāng)系統(tǒng)局部出現(xiàn)故障時(shí)，系統(tǒng)仍能正常工作。對(duì)于高級(jí)智能控制系統(tǒng)還可以找出故障位置甚至實(shí)現(xiàn)自修復(fù)，體現(xiàn)出更強(qiáng)的自適應(yīng)功能。C智能控制25組織功能智能控制系統(tǒng)對(duì)于復(fù)雜的控制任務(wù)和多傳感信息具有自組織和協(xié)調(diào)的功能。當(dāng)多個(gè)控制目標(biāo)出現(xiàn)沖突時(shí)，系統(tǒng)可以在滿足控制要求的情況下，自行決策，主動(dòng)采取行動(dòng)，體現(xiàn)出智能控制系統(tǒng)具有相應(yīng)的主動(dòng)性和靈活性。4智能控制26智能控制系統(tǒng)的分類智能控制系統(tǒng)可分為:模糊控制系統(tǒng)神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)專家控制系統(tǒng)分級(jí)遞階系統(tǒng)學(xué)習(xí)控制系統(tǒng)…….A模糊控制系統(tǒng)模糊控制：把人類專家對(duì)特定的被控對(duì)象或過(guò)程的控制策略總結(jié)成一系列以“IF（條件）THEN（作用）”形式表示的控制規(guī)則，通過(guò)模糊推理得到控制作用集，作用于被控對(duì)象或過(guò)程。智能控制27B神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)神經(jīng)網(wǎng)絡(luò)控制：利用人腦的某些結(jié)構(gòu)機(jī)理以及人的知識(shí)和經(jīng)驗(yàn)對(duì)系統(tǒng)的控制。控制問(wèn)題視為模式識(shí)別問(wèn)題，被識(shí)別的模式是關(guān)于受控的狀態(tài)、輸出或某個(gè)性能評(píng)價(jià)函數(shù)的變化信號(hào)。這些信號(hào)經(jīng)神經(jīng)網(wǎng)絡(luò)映射成控制信號(hào)。智能控制28C專家控制系統(tǒng)專家系統(tǒng)：一個(gè)智能計(jì)算機(jī)程序系統(tǒng)，其內(nèi)部含有某個(gè)領(lǐng)域大量的專家水平的知識(shí)與經(jīng)驗(yàn)，能夠利用這些知識(shí)與經(jīng)驗(yàn)來(lái)處理該領(lǐng)域的高水平難題。專家控制系統(tǒng)：應(yīng)用專家系統(tǒng)技術(shù)而建造的控制系統(tǒng)。智能控制29D分級(jí)遞階控制系統(tǒng)分級(jí)遞階智能控制是在自適應(yīng)控制和自組織控制的基礎(chǔ)上，由美國(guó)普渡大學(xué)Saridis提出的智能控制理論。分級(jí)遞階智能控制主要由三個(gè)控制級(jí)組成，按智能控制的高低分為組織級(jí)、協(xié)調(diào)級(jí)、執(zhí)行級(jí)，并且這三級(jí)遵循“伴隨智能遞降精度遞增”原則。組織級(jí)協(xié)調(diào)級(jí)執(zhí)行級(jí)精智能控制30度智能智能控制31智能控制理論1.3IC=AI∩AC∩ORIC─

智能控制(Intelligent

Control);OR─運(yùn)籌學(xué)(OperationResearch）Al─人工智能(ArtificialIntelligence);AC一自動(dòng)控制(Automatic

Control);∩一表示交集智能控制理論智能控制321.3智能控制目前尚未形成完整的理論體系典型的智能控制系統(tǒng)包含的理論內(nèi)容有：模糊數(shù)學(xué)理論神經(jīng)網(wǎng)絡(luò)理論優(yōu)化理論自適應(yīng)、自組織和自學(xué)習(xí)控制知識(shí)工程人-機(jī)系統(tǒng)理論信息熵……智能控制的發(fā)展智能控制331.4智能控制理論的發(fā)展基礎(chǔ)（1960s）1965年,

美國(guó)普渡大學(xué)的傅京孫教授首先在學(xué)習(xí)控制中引入了人工智能的直覺(jué)推理，提出了基于直覺(jué)推理規(guī)則方法的學(xué)習(xí)控制。1965年，Zadeh提出模糊集合概念，并于1968年公開(kāi)了其模糊算法。1967年,

Mendel把記憶、目標(biāo)分解等技術(shù)用于學(xué)習(xí)控制系統(tǒng)，首次使用了“智能控制(Intelligent

Control)”一詞。智能控制的發(fā)展智能控制341.4智能控制研究的進(jìn)一步深化（1970s）1971年，傅京孫從發(fā)展學(xué)習(xí)控制的角度，提出了智能控制這一概念，并且歸納給出了三種智能控制系統(tǒng)：人控制器、人機(jī)結(jié)合控制器、無(wú)人參與控制器。1974年，英國(guó)倫敦大學(xué)Mamdani博士成功地將模糊邏輯理論用于蒸汽機(jī)控制，開(kāi)創(chuàng)了模糊控制的新方向。1977年，Saridis出版《隨機(jī)系統(tǒng)的自組織控制》，并于1979年發(fā)表“走向智能控制的實(shí)現(xiàn)”，指出控制理論最終走向智能控制的發(fā)展過(guò)程。他還提出了“組織級(jí)、協(xié)調(diào)級(jí)、執(zhí)行級(jí)”的分層遞階智能控制結(jié)構(gòu)。智能控制的發(fā)展智能控制351.4智能控制研究的迅速發(fā)展時(shí)期（1980-）1985年，IEEE在美國(guó)紐約召開(kāi)了第一界智能控制學(xué)術(shù)討論會(huì)，標(biāo)志著智能控制作為一個(gè)學(xué)科分支得到了控制界認(rèn)可。1986年，瑞典?str?m

將人工智能的專家系統(tǒng)技術(shù)引入到控制系統(tǒng)中，開(kāi)創(chuàng)了專家控制這一新的控制領(lǐng)域。1982年，Hopfield提出的Hopfield網(wǎng)絡(luò)，對(duì)神經(jīng)網(wǎng)絡(luò)研究的起到了重要作用。1986年，Rumelhart提出的BP算法，解決了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)問(wèn)題，引發(fā)了神經(jīng)網(wǎng)絡(luò)的研究熱潮。智能控制的發(fā)展智能控制361.41987年，在美國(guó)費(fèi)城由IEEE控制系統(tǒng)學(xué)會(huì)與計(jì)算機(jī)學(xué)會(huì)聯(lián)合召開(kāi)了第一界智能控制國(guó)際會(huì)議，這標(biāo)志著智能控制作為一門(mén)新學(xué)科正式建立起來(lái)。智能控制的發(fā)展智能控制37智能控制雖然目前尚未形成完整的理論體系，但在許多復(fù)雜系統(tǒng)的調(diào)控過(guò)程中已經(jīng)得到成功應(yīng)用。包括工業(yè)過(guò)程控制、機(jī)器人控制、航空航天器控制到故障診斷、管理決策等諸多領(lǐng)域均有涉及。研究智能控制的目的就是要設(shè)計(jì)制造出具有高度智能水平的人工系統(tǒng)，以便在必要的場(chǎng)合能夠用智能系統(tǒng)替代人去執(zhí)行各種復(fù)雜任務(wù)。1.4神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)智能控制1

第二章

NeuralNetworkControlSystem神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)智能控制2Ch22.1 人工神經(jīng)網(wǎng)絡(luò)概述2.2 典型神經(jīng)網(wǎng)絡(luò)及非線性建模2.3 神經(jīng)網(wǎng)絡(luò)建模2.4 神經(jīng)網(wǎng)絡(luò)控制2.5 基于動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)多模型自適應(yīng)控制器設(shè)計(jì)與實(shí)現(xiàn)人工神經(jīng)網(wǎng)絡(luò)概述智能控制32.1BasicConceptofNeural

Network人工神經(jīng)網(wǎng)絡(luò)概述智能控制42.1一 生物神經(jīng)網(wǎng)絡(luò)二

人工神經(jīng)元模型三

神經(jīng)網(wǎng)絡(luò)模型四

神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)生物神經(jīng)網(wǎng)絡(luò)一神經(jīng)元主要由三部分組成：樹(shù)突、細(xì)胞體和軸突。樹(shù)突：神經(jīng)元的輸入，將電信號(hào)傳送到細(xì)胞體。細(xì)胞體：對(duì)這些輸入信號(hào)進(jìn)行整合并進(jìn)行閾值處理。軸突：神經(jīng)元的輸出，將細(xì)胞體信號(hào)導(dǎo)向其他神經(jīng)元。突觸：一個(gè)神經(jīng)細(xì)胞的軸突和另一個(gè)神經(jīng)細(xì)胞樹(shù)突的結(jié)合點(diǎn)。智能控制5生物神經(jīng)網(wǎng)絡(luò)智能控制6一人腦（生物神經(jīng)網(wǎng)絡(luò)）約由101l~1012個(gè)神經(jīng)元組成，每個(gè)神經(jīng)元約與104~105個(gè)神經(jīng)元聯(lián)接，形成錯(cuò)縱復(fù)雜而又靈活多變的神經(jīng)網(wǎng)絡(luò)。雖然每個(gè)神經(jīng)元都比較簡(jiǎn)單，但是如此多的神經(jīng)元經(jīng)過(guò)復(fù)雜的聯(lián)接卻可以演化出豐富多彩的行為方式。人工神經(jīng)元模型智能控制7二?人工神經(jīng)網(wǎng)絡(luò)（簡(jiǎn)稱神經(jīng)網(wǎng)絡(luò)）是由人工神經(jīng)元組成的網(wǎng)絡(luò)，它是從微觀結(jié)構(gòu)和功能上對(duì)人腦的抽象、簡(jiǎn)化，反映了人腦功能的若干基本特征，如并行信息處理、學(xué)習(xí)、聯(lián)想、模式分類、記憶等是模擬人類智能的一條重要途徑。?人工神經(jīng)網(wǎng)絡(luò)可以通過(guò)電子電路實(shí)現(xiàn)。?人工神經(jīng)元（簡(jiǎn)稱神經(jīng)元）是人工神經(jīng)網(wǎng)絡(luò)的處理單元。yi

是第

i

個(gè)神經(jīng)元的輸出，它可與其它多個(gè)神經(jīng)元連接；u1,u2,

,uj,

,

un分別是指與第

i

個(gè)神經(jīng)元連接的其它神經(jīng)元的輸出；w1i

, w2i

,

, wji

,

, wni分別是指其它神經(jīng)元與第

i

個(gè)神經(jīng)元連接權(quán)值；

i

是第

i

個(gè)神經(jīng)元的閾值；xi

是第

i

個(gè)神經(jīng)元的凈輸入；f

(xi

)

是非線性函數(shù)，稱為作用函數(shù)(激活函數(shù))。1激活函數(shù)智能控制8nnyi

f(

wjiuj

i)則j

1yi

f(xi

)f

(x)1智能控制90x

0

, x

0第

i

個(gè)神經(jīng)元的輸出設(shè)

xi

w

ji

u

j

ij

1x

0f(x)

1

,輸入加權(quán)和超過(guò)閾值時(shí)，輸出為“1”，即“興奮”狀態(tài)；反之，輸出為“0”，是“抑制”狀態(tài)。若把閾值也作為一個(gè)權(quán)值，則nyi

f(

wjiuj)j

0

i式中w0i，u0

1

。1 激活函數(shù)2非對(duì)稱型Sigmoid函數(shù)11

e

xf(x)

,

011

e

xf(x)

f

(x)10xf

(x)10x

智能控制10

22對(duì)稱型Sigmoid函數(shù)f

(x)1xf

(x)1x0

10

11

e

xf(x)

1

e

x,

0智能控制111

e

xf

(x)

x1

e

23對(duì)稱型階躍函數(shù)采用階躍作用函數(shù)的神經(jīng)元，稱為閾值邏輯單元。

1

, x

0x

0f

(x)

1

,f

(x)10x

1智能控制124 線性函數(shù)輸出等于輸入y

f

(x飽和線性作用函數(shù)

0 x

y

f(x)

對(duì)稱飽和線性作用函數(shù)y

f(x)

x

1

1 x

1

1

x

1x

1

f

(x)10xf

(x)0xf

(x)1x0

1線性智能控制13飽和線性對(duì)稱飽和線性5高斯函數(shù)

2

)f

(x)

e

(

x20f

(x)x智能控制14人工神經(jīng)網(wǎng)絡(luò)模型三?若干個(gè)神經(jīng)元通過(guò)相互連接就形成一個(gè)神經(jīng)網(wǎng)絡(luò)，這個(gè)神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)稱為神經(jīng)網(wǎng)絡(luò)的互連模式。?神經(jīng)元的連接并不只是一個(gè)單純的傳送信號(hào)的通道，而是有一個(gè)加權(quán)系數(shù)(權(quán)值)

，相當(dāng)于生物神經(jīng)系統(tǒng)中神經(jīng)元的突觸強(qiáng)度，它可以加強(qiáng)或減弱上一個(gè)神經(jīng)元的輸出對(duì)下一個(gè)神經(jīng)元的刺激。?連接權(quán)值并非固定不變，而是按照一定的規(guī)則和學(xué)習(xí)算法進(jìn)行自動(dòng)修改。體現(xiàn)出神經(jīng)網(wǎng)絡(luò)的“進(jìn)化”行為。?神經(jīng)元模型、數(shù)量及互連模式確定了神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和學(xué)習(xí)算法決定了神經(jīng)網(wǎng)絡(luò)的性能。智能控制151層次型神經(jīng)網(wǎng)絡(luò)1神經(jīng)元分層排列，順序連接。由輸入層施加輸入信息，通過(guò)中間各層，加權(quán)后傳遞到輸出層后輸出。每層的神經(jīng)元只接受前一層神經(jīng)元的輸入，各神經(jīng)元之間不存在反饋和相互連接?？捎糜诤瘮?shù)逼近、模式識(shí)別。感知器網(wǎng)絡(luò)BP網(wǎng)絡(luò)徑向基函數(shù)網(wǎng)絡(luò)智能控制161 層次型神經(jīng)網(wǎng)絡(luò)2在前向神經(jīng)網(wǎng)絡(luò)中有的在同一層中的各神經(jīng)元相互有連接，通過(guò)層內(nèi)神經(jīng)元的相互結(jié)合，可以實(shí)現(xiàn)同一層內(nèi)神經(jīng)元之間的橫向抑制或興奮機(jī)制，這樣可以限制每層內(nèi)能同時(shí)動(dòng)作的神經(jīng)元數(shù)，或者把每層內(nèi)的神經(jīng)元分為若干組，讓每組作為一個(gè)整體來(lái)動(dòng)作。智能控制171 層次型神經(jīng)網(wǎng)絡(luò)3在層次網(wǎng)絡(luò)結(jié)構(gòu)中，只在輸出層到輸入層存在反饋，即每一個(gè)輸入節(jié)點(diǎn)都有可能接受來(lái)自外部的輸入和來(lái)自輸出神經(jīng)元的反饋。這種模式可用來(lái)存儲(chǔ)某種模式序列，也可以用于動(dòng)態(tài)時(shí)間序列過(guò)程的神經(jīng)網(wǎng)絡(luò)建模。Elman網(wǎng)絡(luò)智能控制182 互連型神經(jīng)網(wǎng)絡(luò)任意兩個(gè)神經(jīng)元之間都可能有相互連接的關(guān)系。有的神經(jīng)元之間是雙向的，有的是單向的。神經(jīng)網(wǎng)絡(luò)處在一種不斷改變狀態(tài)的動(dòng)態(tài)過(guò)程中。它將從某個(gè)初始狀態(tài)開(kāi)始，經(jīng)過(guò)若干次的變化，才會(huì)到達(dá)某種平衡狀態(tài)，根據(jù)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和神經(jīng)元的特性，還有可能進(jìn)入周期振蕩或其它如渾沌等狀態(tài)。主要用作各種聯(lián)想存儲(chǔ)器或用于求解最優(yōu)化問(wèn)題。Hopfield網(wǎng)絡(luò)Boltzman機(jī)網(wǎng)絡(luò)智能控制19神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)智能控制20四學(xué)習(xí):

神經(jīng)元之間的連接權(quán)值按照一定的學(xué)習(xí)規(guī)則進(jìn)行自動(dòng)調(diào)整，調(diào)整的目標(biāo)是使性能函數(shù)達(dá)到最小。學(xué)習(xí)是神經(jīng)網(wǎng)絡(luò)中最重要的特征之一。它使神經(jīng)網(wǎng)絡(luò)具有自適應(yīng)和自組織能力。學(xué)習(xí)算法對(duì)網(wǎng)絡(luò)的學(xué)習(xí)速度、收斂特性、泛化能力等有很大的影響。按學(xué)習(xí)方式分：無(wú)監(jiān)督學(xué)習(xí)、有監(jiān)督學(xué)習(xí)。按學(xué)習(xí)規(guī)則分：Hebb學(xué)習(xí)規(guī)則、Delta學(xué)習(xí)規(guī)則。1無(wú)監(jiān)督的學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)根據(jù)預(yù)先設(shè)定的規(guī)則自動(dòng)調(diào)整權(quán)值。聚類操作Hebb規(guī)則智能控制212 有監(jiān)督學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)根據(jù)實(shí)際輸出與期望輸出的偏差，按照一定的準(zhǔn)則調(diào)整各神經(jīng)元連接的權(quán)系數(shù)。期望輸出稱為導(dǎo)師信號(hào)Delta

學(xué)習(xí)規(guī)則智能控制223智能控制23Hebb學(xué)習(xí)規(guī)則Hebb規(guī)則認(rèn)為兩個(gè)神經(jīng)元同時(shí)處于激發(fā)狀態(tài)時(shí)，它們之間的連接強(qiáng)度將得到加強(qiáng)。它是無(wú)監(jiān)督學(xué)習(xí)方法，只根據(jù)神經(jīng)元連接間的激活水平改變權(quán)值，又稱為相關(guān)學(xué)習(xí)或并聯(lián)學(xué)習(xí)。4Delta學(xué)習(xí)規(guī)則,

wn]d

神經(jīng)元的期望輸出(教師信號(hào))；y

f

(wu)

神經(jīng)元的實(shí)際輸出；f

(

)

神經(jīng)元的作用函數(shù)；w

神經(jīng)元的輸入權(quán)值向量，即w

[w0

,

w1,0 1n,u

]Tu

為輸入向量，即

u

[u

,

u

,e

d誤差智能控制24實(shí)質(zhì)：函數(shù)最優(yōu)化過(guò)程?；A(chǔ)：最優(yōu)化算法中的梯度下降法。思想：沿著E的負(fù)梯度方向不斷修正w，直到E達(dá)到最小。智能控制25N目的：誤差準(zhǔn)則函數(shù)達(dá)到最小，實(shí)際輸出逼近于期望輸出。誤差準(zhǔn)則函數(shù)E

(d

(t)

y(t))2t

1N

(d(t)

f(wu(t)))2t

14 Delta學(xué)習(xí)規(guī)則典型神經(jīng)網(wǎng)絡(luò)智能控制262.2

TypicalNeural

Networks前饋神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法智能控制272.2一 梯度下降算法二三BP神經(jīng)網(wǎng)絡(luò)及其學(xué)習(xí)算法RBF神經(jīng)網(wǎng)絡(luò)及其學(xué)習(xí)算法梯度下降算法智能控制28一Delta學(xué)習(xí)規(guī)則?目的：誤差準(zhǔn)則函數(shù)達(dá)到最小，實(shí)際輸出逼近于期望輸出。?誤差準(zhǔn)則函數(shù)NNE

(d

(t)

y(t))2t

1

?實(shí)質(zhì)：函數(shù)最優(yōu)化過(guò)程。?基礎(chǔ)：最優(yōu)化算法中的梯度下降法。?思想：沿著E的負(fù)梯度方向不斷修正w，直到E達(dá)到最小。梯度下降算法一

F

(

x)

F

(

x)

F

(

x)這個(gè)向量

F(x)稱為多變量函數(shù)

F(

x)在點(diǎn)x

上的梯度。梯度給定一個(gè)

n

元多變量函數(shù)F

(

x)

F

(x1,

x2

,

,

xn

)

，F(xiàn)(

x)在向量空間

Rn 內(nèi)具有一階連續(xù)偏導(dǎo)數(shù)，則對(duì)于Rn

內(nèi)的任一點(diǎn),

xn

)都可以定義出一個(gè)向量x

(x1,

x2

,智能控制29Taylor級(jí)數(shù)展開(kāi)給定

n

維多變量函數(shù)F

(

x)

F

(x1,

x2

,

,

xn

)，該函數(shù)在點(diǎn)

x?

上的Taylor級(jí)數(shù)展開(kāi)為：利用梯度，有F

(x)

F

(x?)

F

(x)T (x

x?)

x

x?Tn n?21 1 2(x

x(x

x?

)

其中：(

x

x?)

(x

x?

)

)

n智能控制30

T

x

x

21F

(

x)

F

(

x)

x F

(

x)F

(

x)

梯度下降算法一梯度下降算法一)成立，則稱x?

為F(

x)的極小(大)點(diǎn)，F(xiàn)

(

? 為函數(shù)F(

x)的極小(大)值。極值設(shè)有多變量函數(shù)F

(

x)

F

(x1,

x2

,

,

xn

)

在點(diǎn)

x?

(x?1,

x?2

,

,

x?n

)的某個(gè)鄰域

(

0

)內(nèi)有定義，使得當(dāng)

x

0

時(shí)，對(duì)于所當(dāng)

x智能控制31

0

時(shí)，若對(duì)于所有

x

都有F(x?)

F)成立，則稱x?

為F(

x)

的強(qiáng)極小(大)點(diǎn)，F(xiàn)

(

?

為(F(x?)

F(F(x?)

F有

x

都有F

(

x?)

F

(

?函數(shù)F(

x)的強(qiáng)極小(大)值。若對(duì)所有

x

0

都有F

(

x?)

F

(

x?

x)(

F(x?)

F(x?

x))成立，則稱x?

為F(

x)的全局極小(大)點(diǎn)，F(xiàn)

(

x?)為函數(shù)F(

x)的全局極小(大)值。x

xF(x)

F(x?

x)

F(x?)

F(x)T ?

xx

x?假設(shè)

F(x)T其中，

很小的正數(shù)。

0 取

x

F。極值存在的一階必要條件若x?

是極小點(diǎn)，且F

(

x)在點(diǎn)x? 可微，則

F(x)證明：令

x

x

x?

，若

x

很小，F(xiàn)(

x

近似為x

x?

F(x)T2x

x?

x

F(x)

0有從而有T智能控制32F(x?

x)

F(x?)

F這與x? 是極小點(diǎn)矛盾。所以

F

(

x)

x

x?

0所有滿足上式的點(diǎn)都稱為駐點(diǎn)。梯度下降算法一1 梯度下降算法思想智能控制33其中

(k)為學(xué)習(xí)步長(zhǎng)(

(k)算法任務(wù)：確定

(k

和p(k為了實(shí)現(xiàn)在線尋優(yōu)，算法一般以迭代的方式求極值。即：x(k

1)

x(k)

x(k)令

x(k)

x(k

1)

x(k)

(k)

p(k))，向量p(k)代表一個(gè)搜索方向。，使F(

x(k

1))

F(x(k))

。2 梯度下降算法推導(dǎo)x

x(k

)函數(shù)F

(

x 在x(k)點(diǎn)的一階Taylor級(jí)數(shù)展開(kāi)為F

(

x(k

1))

F

(x(k

)

x(k

))

F

(

x(k

))

F

(

x)T

x(k

)，意味著x

x(k

)

F(x)T p(k)

0欲使F(

x(k

1))

F(x(k))

，上式右邊的第二項(xiàng)必須為負(fù)，即x

x(k

)x

x(k

)

F(x)T

x(k)

(k)

F(x)Tp(k)

0p(k)

為最大負(fù)數(shù)時(shí)，函數(shù)的遞減速度最快。x

x(k

)由于

(k)當(dāng)

F(x)Tx

x(k

)p(k)

F(x)梯度下降方向的向量為梯度下降學(xué)習(xí)算法x(k

1)

x(k)

(k)

F(x)x

x(k

)智能控制34

(k)

常取固定常數(shù)，稱為學(xué)習(xí)步長(zhǎng)，它影響算法的收斂速度。1 2例

給定函數(shù)F

(

x)

x

2

25x

2，試用梯度下降法求其極值點(diǎn)。

1

50x

2

2x1

x2

x

F

(

x)

解：首先求函數(shù)F(

x)的梯度

F

(

x)

F

(

x)

若給定迭代初始值x(0)

[

0.5 0.5

]T，那么在x(0)處的梯度為：

智能控制35

25

1

2

x

x(0)x

x(0)

50x

2x1

F

(

x)3 例題，則梯度下降法的第一次迭代結(jié)果為：第二次迭代結(jié)果為：假設(shè)采用固定的學(xué)習(xí)步長(zhǎng)

0

0.25

1

0.49

0.01

25

0.5

x

x(0)

0.5

x(1)

x(0)

F

(

x)

智能控制36

0.125

0.98

0.4802

0.01

12.5

0.25

0.49

x

x(1)x(2)

x(1)

F

(

x)3 例題注意：對(duì)于較小的學(xué)習(xí)步長(zhǎng)梯度下降軌跡的路徑總是與輪廓線正交，這是因?yàn)樘荻扰c輪廓線總是正交的。4 思考智能控制37為了提高算法的學(xué)習(xí)速度，一般要增大學(xué)習(xí)步長(zhǎng)。如果學(xué)習(xí)步長(zhǎng)太大，算法會(huì)變得不穩(wěn)定，振蕩不會(huì)衰減，反而會(huì)增大。如何確定學(xué)習(xí)步長(zhǎng)，使得算法既有較高的收斂速度，又保證學(xué)習(xí)算法穩(wěn)定？

0.0354 思考智能控制38Delta學(xué)習(xí)規(guī)則又稱誤差修正規(guī)則。N又y(t)

f(x(t))

f

(wu(t))NTt

1

w

2(d

(t)

f

(w(k)u(t))

f

(w(k)u(t))u

(t)

w

w

(k

)N智能控制39NTt

1

E

E

y(t)

x(t)

w

E

y(t)

x(t)

w

t

1

2(d

(t)

y(t))

f

(x(t))u

(t)

4 思考Delta學(xué)習(xí)規(guī)則數(shù)學(xué)表達(dá)式w(k

1)

w(k)

w(k),

w(k)

E

BP神經(jīng)網(wǎng)絡(luò)及其學(xué)習(xí)算法二BP神經(jīng)網(wǎng)絡(luò)：基于誤差反向傳播學(xué)習(xí)算法的多層前饋神經(jīng)網(wǎng)絡(luò)。輸入層：iiyI

u

n

H Iij ijw y隱含層：xHjy

H

fH(xH

)j j輸出層：lOO Hi

1xh

wjhy

j

yh

fh

(xh

)O O Oj

11

e

x它能夠逼近任意非線性函數(shù)，可用于非線性系統(tǒng)建模和控制。1作用函數(shù)：f

(x)

智能控制401 BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法輸入層：iiyI

uq

nj

ij

iwHy

I隱含層：xHjy

H

fH(xH

)j j輸出層：lOO Hhw yj

1x

i

1

yO

f

O

(xO

)h h hm,tq

]T設(shè)有

Q

組數(shù)據(jù)，輸入uq

[uq

,uq

, ,uq

]T

輸出tq

[tq

,tq

,1 2 n 1 2lOOH qO qOHij

ihhjwf ( w u ))j

1i

1y

f

(h h

jh

j

O H記為

y

(u

)與w ,

w ,j

1, ,

l相關(guān)h 1h

2hlhlj1

j2

jnj,

wO],

wO

,

wH,

wH

,m 1 2,

wH]wH,

wH]wO

[wO,

wO,w

[wO

,

wO

,1 2

[wH,

wH,1

e

xnjh j1作用函數(shù)：

f

(x)

智能控制41誤差準(zhǔn)則函數(shù)21212QQmO q 2q

hh(tF

(w)

tq

yO

(uq

)

y

(u

))

q

1

q

1

h

1瞬時(shí)誤差采用梯度下降算法w

w(k

)w(k

1)

w(k

)

F

(w)

w并且用

F

(w)代替F

(w)

，iw

w(k

)

F

(w)wi(k

1)

wi(k

)

wi i智能控制42iw

w(k

)w

(k

1)

w

(k

)

F

(w)

w向量標(biāo)量1 BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法(i)

輸出層神經(jīng)元權(quán)系數(shù)的調(diào)整權(quán)系數(shù)的迭代公式j(luò)h jhjhw

w(k

)wO

(k

1)

wO

(k

)

F

(w)

wO

21mOhh

u(k

)

2

h

1F

(w)

t (k

)

y

lOO Hjh

jw y (k)j

1yO(k)

fO(xO

(k))h h h hx (k)

h h jhjh

F

(w)

F

(w)

yO

(k

)

xO

(k

)

wO

yO(k

)

xO(k

)

wOh h＝OlOhOjh

x (k

)

wO

w為表達(dá)簡(jiǎn)潔略去u

h h

F

(w)

yO

(k

)

O(k)

yO

(k

)

xO

(k

)h hh

F

(w)

[t

(k

)

yO

(k

)]h h

yO(k

)O

h hhh

y (k

)O

O

f (

x (k

))

xO

(k

)h jjh

wO

F

(w)

＝

O

(k

)

yH

(k

)智能控制431 BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法w

w(k)OOOHOOHjh

jhh jjhhj

(k)

y

(k)w (k

1)

w (k)

w

(k)

(k)

y

(k)w

w(k

)OOhh hhhO

O

(k)

[t

(k)

y

(k)]

f

(x

(k))yO

(k

)

f

O

(

x

O

(k

))h h hnjx

H

(k

)

wH

(k

)u

(k

)ij ii

1Hjy

H

(k

)

f

Hl

OO Hhjhjw (k

)

y (k

)j

1x (k

)

yO

(k)

fO(xO

(k))h h hHHjij iw u(k

)x (k

)

i

1jj jnyH(k)

fH(xH

(k))lOO Hhjh

jw y (k)j

1x (k)

OOhh hhh

O

O(k)

[t

(k)

y

(k)]

f

(x

(k))智能控制44(ii)

隱含層神經(jīng)元權(quán)系數(shù)的調(diào)整ij ijijw

w(k

)

F

(w)權(quán)系數(shù)的迭代公式

wH

(k

1)

wH

(k

)

wHHHOOm

h h

j j O O HHij

h h j j ij mOOh jhi(k

)u(k

)

(k

)wh

1h

1

y (k)

x (k

)

F

(w)

F

(w)

y (k

)

x

wH

y (k)

x (k)

y (k)

x (k

)

wH

O

O H

H

H

H

h

(k

)wjhf

j (x

j (k

))ui

(k

)

f

j (x

j (k

))

h

1

H

(k

)u

(k

)j i

m

21mOhh2

h

1F

(w)

t (k

)

y

u(k

)

為表達(dá)簡(jiǎn)潔略去uHj

(k

)智能控制45HHHijijHjiijHjiw (k(k)u

(k)=w(k)u

(k)

1)

w (k)

(k)

w

w

(k

)m

OOHjjjjhf (

x (k

))

(k

)

w (k

)H

H(k

)

hh

1njx

H

(k

)

wH

(k

)u

(k

)ij ii

1nHHjij iw u(k

)x (k

)

i

1w

w(k)m智能控制46HOOjjhjhf (x(k

))

(k

)wH

Hj

(k

)

h

12 BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法3 算法流程①

初始化，設(shè)置初始權(quán)系數(shù)w(0)為較小的隨機(jī)數(shù)。②

提供訓(xùn)練樣本數(shù)據(jù)

uq

[uq

,uq

, ,uq

]T1 2 n 1 2 m,tq

]Ttq

[tq,tq,(u(k),

t(k))

(u1,

t1

),

(u2

,

t

2

),

,

(uQ

,

tQ

)

③ k=0 隨機(jī)完成按照P18，計(jì)算OjhwO(k

1)

wO(k)

按照P20，計(jì)算HHHijijj iw (k

1)

w (k)

(k)u

(k)④

判斷是否滿足終止條件12m

O 2h hh

1F

(w(k))

(t (k)

y (k))

若滿足，則學(xué)習(xí)結(jié)束；否則，

k=k+1

，回到③智能控制47k

或3 學(xué)習(xí)算法的改進(jìn)

1.05

(k

)

(k

1)

0.7

(k

)

(k

)

F

(w(k

1))

F

(w(k))F

(w(k

1))

1.04F

(w(k))其它智能控制48收斂速度慢收斂速度慢的原因?連接權(quán)值過(guò)大，工作在Sigmoid飽和區(qū)，調(diào)節(jié)停止；?采用較小的學(xué)習(xí)速率，增加了訓(xùn)練時(shí)間。收斂速度慢的解決辦法?選取較小的初始權(quán)值；?變化的學(xué)習(xí)速率或自適應(yīng)學(xué)習(xí)速率：RBF神經(jīng)網(wǎng)絡(luò):徑向基函數(shù)（RBF）網(wǎng)絡(luò)是三層前饋網(wǎng)絡(luò)。它能夠逼近任意非線性函數(shù)，可用于非線性系統(tǒng)建模和控制。輸入層：iiyI

u2nIi ijj隱含層：

yHi

12

(y

c

)

j

e

輸出層：lOO Hhjh

jyw y

j

1RBF神經(jīng)網(wǎng)絡(luò)及其學(xué)習(xí)算法三智能控制49m,tq

]T設(shè)有

Q

組數(shù)據(jù)，輸入uq

[uq

,uq

, ,uq

]T

輸出tq

[tq

,tq

,1 2 n 1 22nqlOOOHO qhhjjw e

2

(u

c

)

j

i

1

j

1

i ijy

h

jh記為y(u ) 與w ,

c (中心),

(半徑)相關(guān)h 1h 2hlhHl 1 2lj1

j 2

jnj,

wO],

wO

,

cH

,

cH

,m 1 2cH, ,

c

],

c ,

,

, ,

]wO

[wO,wO

,w

[wO

,

wO

,1 2

[c ,

ci輸入層：

yI

uq2nIi ijj隱含層：

yHi

12

(y

c

)i

j

e

輸出層：lOO Hhjh

jyw yj

1

1 RBF神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法1智能控制5021122QQmqO q 2q

1F

(w)

tq

yO

(uq

)

(t

y

(u

))

h

h

q

1

h

1(i)

輸出層神經(jīng)元權(quán)系數(shù)的調(diào)整誤差準(zhǔn)則函數(shù) 迭代公式OOjhjhjhw

w(k

)

F

(w)w (k

1)

w (k

)

wO2nqi ijlO qOhjhw e

2

(u

c

)

j

i

1

j

1

y (u )

2nqQQqO q h hhjhy (u

))e

2

(u

c

)

j

i

1

i ij

F

(w)

F

(w)

yO(uq

)

(t

wO

yO

(uq

)

wOh jh

q

1

q

12智能控制512 22 2nqi ijnnqqjjQOOqjhjhqhOhQlOOjhqhjh(t(u

))e(t(k

))

(k

)(k

))

(k

)

2

(u

c

)

j

i

1

|w

w(k

)

(u

c(u

c

i

1

)e

i

1

w (k

1)

w (k)

y

i ij

i ij

w (k

)

w (k

)e

q

1

q

1

j

121212QQmqqO q 2hhq

1F

(w)

t

yO

(uq

)

(t

y

(u

))

(ii)

隱層神經(jīng)元中心的調(diào)整誤差準(zhǔn)則函數(shù)迭代公式ij ijijw

w(k

)c(k

1)

c(k)

F

(w)

cq

1

h

n1lO qO H qHhw y (u

)

y (u )

jh2智能控制52nqi ijH qO qQ m

h

j O qH qijhjijqQmqO qOhhjh2jy (u

)

2

(u

c

)

j

i

1

2

y

(u

)

y

(u

)

F

(w)

F

(w)

c

y (u )

c

(ui

cij)

(t

y

(u

))w

e

q

1

h

1

q

1

h

121212QQmqqO q 2q

1F

(w)

t

yO

(uq

)

(t

y

(u

))

(iii)

隱層神經(jīng)元寬度的調(diào)整誤差準(zhǔn)則函數(shù)j jjw

w(k

)迭代公式

(k

1)

(k

)

F

(w)

lO qO H qHhw y (u

)

h

h

q

1

h

1ny (u )

jh2智能控制53nqi ijH qO qQm

h

j O qH qjhjjnq 2QmqO qOhhjh3jy (u

)

2

(u

c

)

j

i

1

2

i

1

y

(u

)

F

(w)

F

(w)

y

(u

)

y (u )

(u

c

)

(t

y

(u

))w

e

q

1

h

1

i ij

q

1

h

112QQm mq O q 2hh(tq

1F

(w)

y

(u

))

2 RBF神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法2權(quán)系數(shù)的調(diào)整（中心和寬度已確定）誤差準(zhǔn)則函數(shù)2nqi ijlO qO H qhjh j jw y (ui

12

(u

c

)

j

j

1

y (u )

) y

H

(uq

)

e

由于中心和寬度已定，上式可看成是wO

的函數(shù)1 2lhm,

wO],

wO]wO

[wO,

wO,h 1h 2hwO

[wO

,

wO

,12lOqO H q 2h hhjh jw y (u

))F

(w )

(t

q

1

j

1Q智能控制54ml

1F

(wO)

(t

q

求以上函數(shù)的極小值點(diǎn)相當(dāng)于分別求下面函數(shù)的極小值點(diǎn)Q1212QlOO H q 2O T TO Th hjh

jhhF

(w(tq

1j

1)

w y (u

))

(B

A(w

)

)

(B

A(w

)

)

h

qOT O TT O T

h h hhh

F

(w )

0

A A(w )

A B

(w )

(

ATA)

1ATB

wO

t1

h

B

tQ

h

11ll

yH(u1)yH

(u1

)

A

yH(uQ)yH(uQ

)

hOlhw

wO

(wO

)T

1h

RBF神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的一種重要方法：首先，通過(guò)經(jīng)驗(yàn)法或者聚類法確定中心和寬度；然后，采取最小二乘法求最優(yōu)權(quán)值。智能控制55最小二乘法2 RBF神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法2神經(jīng)網(wǎng)絡(luò)建模智能控制562.3

Neuralnetworkmodelling神經(jīng)網(wǎng)絡(luò)建模思想和方法：借助神經(jīng)網(wǎng)絡(luò)的逼近能力，通過(guò)學(xué)習(xí)獲知系統(tǒng)差分方程中的未知非線性函數(shù)。神經(jīng)網(wǎng)絡(luò)與待辨識(shí)系統(tǒng)具有相同的輸入，兩者的輸出誤差被用作網(wǎng)絡(luò)的訓(xùn)練信號(hào)。智能控制57,y(1),

u(n),,

u(n

m

1)]T,

y(n

1)

,

,

[y(N

1),,

y(N

n),

u(N

1),,

u(N

m)]T

,

y(N

)

1.

獲得系統(tǒng)輸入輸出數(shù)據(jù){u(1), ,

u(N

)},{y(1),,y(N

)},2.

獲得樣本數(shù)據(jù)

[

y(n),智能控制583. 選擇合適的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，采用第6章介紹的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)建模假設(shè)待辨識(shí)對(duì)象為非線性離散時(shí)間系統(tǒng)y(k

1)

f

[

y(k), ,y(k

n

1u(k)和y(k)分別為系統(tǒng)k時(shí)刻的輸入和輸出，m和n分別是輸入時(shí)間序列和輸出時(shí)間序列的階次，m≤n。用靜態(tài)前饋神經(jīng)網(wǎng)絡(luò)辨識(shí)非線性系統(tǒng)的步驟：采用RBF神經(jīng)網(wǎng)絡(luò)對(duì)離散模型進(jìn)行逼近y(k

1)y(k)

u(k

1)3

1

y(k

1)2u(k)在[-2,2]上變化，系統(tǒng)BIBO穩(wěn)定，y(k)在[-10，10]上變化。神經(jīng)網(wǎng)絡(luò)隱單元的個(gè)數(shù)為60個(gè)，中心在[-2,2]×[-10,10]上均勻選擇，寬度為2。網(wǎng)絡(luò)結(jié)構(gòu)為2-60-1。采用最小二乘法確定網(wǎng)絡(luò)的輸出權(quán)值。訓(xùn)練樣本數(shù)為3000。yp(k)

N[u(k

1),y(k

1)]u(k)=sin(2πk/25),k∈(3000,

3100]u(k)=sin(2πk/25)+

sin(2πk/10),k∈[3100,

3200]智能控制591 神經(jīng)網(wǎng)絡(luò)建模實(shí)例1(i)

石灰窯爐的生產(chǎn)過(guò)程含有約30%水分的CaCO3泥槳由左端輸入，燃料油和空氣由右端噴入燃燒，形成氣流由右向左流動(dòng)，以使泥槳干燥、加熱并發(fā)生分解反應(yīng)。最終生成的CaO(石灰)由右端輸出，而廢氣由左端排出。主要控制量有兩個(gè)，燃料流速u1和風(fēng)量流速u2。被控量為爐窯熱端的溫度y1和爐窯冷端的溫度y2，二者決定了爐內(nèi)的溫度分布曲線，它是影響產(chǎn)品質(zhì)量和能耗的最關(guān)鍵的因素。2 神經(jīng)網(wǎng)絡(luò)建模實(shí)例2智能控制602 神經(jīng)網(wǎng)絡(luò)建模實(shí)例2

[y(2),

y(1),

u(2),

u(1)]T

,

y(3)T

,

,

[y(3999),

y(3998),

u(3999),

u(3998)]T

,

y(4000)T

(ii)

石灰窯爐的神經(jīng)網(wǎng)絡(luò)模型石灰窯NARMA方程是y(k)

f

[y(k

1),

y(k

2)神經(jīng)網(wǎng)絡(luò)方程智能控制61樣本數(shù)據(jù)結(jié)構(gòu)8-20-10-2u1和u2：在(u1=1,

u2=1)上迭加幅值為±0.2的PRBS信號(hào)智能控制622 神經(jīng)網(wǎng)絡(luò)建模實(shí)例2神經(jīng)網(wǎng)絡(luò)控制智能控制632.4

NeuralNetwork

Control神經(jīng)網(wǎng)絡(luò)控制智能控制642.4模型參考控制神經(jīng)網(wǎng)絡(luò)內(nèi)?？刂粕窠?jīng)網(wǎng)絡(luò)直接逆控制1 神經(jīng)網(wǎng)絡(luò)監(jiān)督控制2 神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制3456神經(jīng)網(wǎng)絡(luò)控制實(shí)例缺點(diǎn):

系統(tǒng)為開(kāi)環(huán)，穩(wěn)定性和魯棒性不能保證。(i)神經(jīng)網(wǎng)絡(luò)監(jiān)督控制1神經(jīng)網(wǎng)絡(luò)監(jiān)督控制: 對(duì)人工或傳統(tǒng)控制器進(jìn)行學(xué)習(xí)，用神經(jīng)網(wǎng)絡(luò)控制器取代或逐漸取代原控制器。1 神經(jīng)網(wǎng)絡(luò)監(jiān)督控制智能控制65神經(jīng)網(wǎng)絡(luò)控制器通過(guò)學(xué)習(xí)，使

e(t)

或

u1(t)

趨近于零，從而使它取代常規(guī)控制器。一但出現(xiàn)干擾等，常規(guī)控制器重新起作用。優(yōu)點(diǎn):

精度高，穩(wěn)定性、魯棒性和自適應(yīng)性強(qiáng)。(ii)

神經(jīng)網(wǎng)絡(luò)監(jiān)督控制21 神經(jīng)網(wǎng)絡(luò)監(jiān)督控制智能控制66直接自校正控制（直接逆控制）神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制包括自校正控制和模型參考控制。自校正控制：根據(jù)系統(tǒng)辨識(shí)結(jié)果，調(diào)節(jié)控制器參數(shù)，使系統(tǒng)滿足性能指標(biāo)。間接自校正控制2 神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制智能控制67模型參考控制：閉環(huán)系統(tǒng)的期望性能由參考模型描述，控制的目的是使被控對(duì)象的輸出一致漸近地趨近于參考模型的輸出。直接模型參考控制 間接模型參考控制3 模型參考控制智能控制684 神經(jīng)網(wǎng)絡(luò)內(nèi)?？刂粕窠?jīng)網(wǎng)絡(luò)內(nèi)模控制：用神經(jīng)網(wǎng)絡(luò)建立被控對(duì)象的正向模型和控制器。該方案有很好的魯棒性。若模型精確且干擾為0，反饋信號(hào)為0，系統(tǒng)成為開(kāi)環(huán)，是直接逆控制，y=yd。若模型不準(zhǔn)且/或有干擾，則由于負(fù)反饋的作用，仍有y接近yd。智能控制69直接逆控制:

將神經(jīng)網(wǎng)絡(luò)逆模型直接與被控對(duì)象串聯(lián)起來(lái)，以便使期望輸出與實(shí)際輸出之間的傳遞函數(shù)等于1。直接逆建模系統(tǒng)的輸出作為網(wǎng)絡(luò)的輸入，網(wǎng)絡(luò)的輸出與系統(tǒng)的輸入進(jìn)行比較，用來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)，以建立起系統(tǒng)的逆模型。智能控制705 神經(jīng)網(wǎng)絡(luò)直接逆控制假設(shè)被控對(duì)象為y(k

1)

f[

y(k),,

y(k

n

1

[

y(N

),,

y(N,

y(1),u(n

1), ,u(n

m

1)]T1.

獲得系統(tǒng)輸入輸出數(shù)據(jù){u(1),,

u(N

)},{y(1), ,y(N

)},2.

獲得樣本數(shù)據(jù)

[

y(n

1),可逆若f

(u(k)

f

1[y(k

1),

y(k), ,y(k

n

1); u(k

1), ,

u(k

m

1)]用靜態(tài)前饋神經(jīng)網(wǎng)絡(luò)建立非線性系