基於知識(shí)的智慧系統(tǒng)導(dǎo)言課件

第1講基於知識(shí)的智慧系統(tǒng)導(dǎo)言n智慧型機(jī)器概述

n人工智慧發(fā)展歷史

n總結(jié)

第1講基於知識(shí)的智慧系統(tǒng)導(dǎo)言n智慧型機(jī)器概述n 哲學(xué)家們花費(fèi)了兩千多年的時(shí)間試圖理解並解答宇宙中的兩大疑難問題：人類是如何思考的？人類之外的物體是否有思維？然而，這兩個(gè)問題至今仍然是未解之謎。

1.智慧是人類理解和學(xué)習(xí)事情的能力n

2.智慧是思考和理解問題的能力而非本能和自動(dòng)地處理問題

智慧型機(jī)器概述(大英基礎(chǔ)詞典，柯林斯，倫敦，1990年)

1n 哲學(xué)家們花費(fèi)了兩千多年的時(shí)間試圖理解並解答宇宙中的兩大疑n 所以為了思考，無論是人類還是其他事物都必須有大腦，換句話說是一種器官，它能夠使人類或其他事物具有學(xué)習(xí)和理解事物的能力，能夠解決問題並做出決斷。所以智慧可以被定義為“學(xué)習(xí)和理解事物、解決問題並做出決斷的能力”

n 作為一門科學(xué)，人工智慧(AI)的最終目標(biāo)是使機(jī)器能夠做人類所能做到的智慧型，所以“機(jī)器能否思考？”這個(gè)問題的答案對該學(xué)科而言至關(guān)重要n 答案又不是簡單的“是”與“非”

n 所以為了思考，無論是人類還是其他事物都必須有大腦，換句話n 有些人可能在某些方面比別人聰明一些；有時(shí)我們處理問題會(huì)非常明智，但有時(shí)又會(huì)犯非常愚蠢的錯(cuò)誤；有些人或許解決數(shù)學(xué)或工程難題時(shí)遊刃有餘，然而卻對哲學(xué)或歷史問題束手無策；一些人非常善於賺錢而另外一些人卻精於花錢。人類都具有學(xué)習(xí)、理解、解決問題和做出決定的能力，然而能力卻並不相同，並可以劃分成不同的等級，所以如果我們希望機(jī)器也可以思考的話，那麼在某種程度上它們的智慧也應(yīng)該有所差別

n 有些人可能在某些方面比別人聰明一些；有時(shí)我們處理問題會(huì)非n 英國數(shù)學(xué)家艾倫·圖靈(AlanTuring)所撰寫的：“電腦器與智慧型”

是最早和最具影響力的有關(guān)機(jī)器智慧的文章之一，雖然該文發(fā)表於50年前，但他的方法至今仍然通用，經(jīng)得起時(shí)間的檢驗(yàn)。n 他曾經(jīng)提出這樣的問題：是否存在沒有經(jīng)驗(yàn)的思想？是否存在不能交流的大腦？是否存在沒有生命的語言？是否存在脫離生命的智慧？不難發(fā)現(xiàn)所有這些問題都是“機(jī)器能否思考？”這一人工智慧基本問題的不同表達(dá)

n 英國數(shù)學(xué)家艾倫·圖靈(AlanTuring)所撰寫的：n 圖靈並沒有給出有關(guān)機(jī)器和思維的定義，他只是透過發(fā)明了一個(gè)名為“圖靈模仿遊戲”的方式避開了文字上的爭論

n 圖靈提出的模仿遊戲最初包括2個(gè)階段。在第1階段，一男一女兩位問詢者被安排在不同的房間，只能透過諸如遠(yuǎn)端終端機(jī)似的中間媒介進(jìn)行交流，最終要求問詢者透過提問確定對方的性別，而遊戲的規(guī)則是男方要欺騙對方自己是女性，同時(shí)女方則要盡力說服對方自己的女性身份。n 圖靈並沒有給出有關(guān)機(jī)器和思維的定義，他只是透過發(fā)明了一個(gè)圖靈模仿遊戲:第1階段圖靈模仿遊戲:第1階段n 在遊戲的第2階段，男方被電腦所代替，透過程式模仿那位元男性操作者來欺騙對方問詢者，程式甚至可以模仿一些人類常犯的錯(cuò)誤，並且還可以給出一些人類會(huì)做的模稜兩可的答案。如果電腦最終可以像男性操作者做的那樣經(jīng)常蒙蔽對方的話，我們或許可以認(rèn)為電腦通過了智慧行為測試。

圖靈模仿遊戲:第2階段圖靈模仿遊戲:第2階段圖靈模仿遊戲:第2階段圖靈模仿遊戲:第2階段n 透過維持不同終端機(jī)間人機(jī)交流，該測試為我們提供了智慧系統(tǒng)客觀的標(biāo)準(zhǔn)模式。它不僅避開了有關(guān)人類智慧特性的辯論，而且排除了人為喜好與偏見。

n 測試本身與實(shí)驗(yàn)的細(xì)節(jié)沒有任何依賴關(guān)係。測試既可以像上文描述的一樣分為兩個(gè)遊戲階段實(shí)行，也可以由問詢者在測試之前預(yù)先選擇與人還是機(jī)器進(jìn)行一個(gè)階段的遊戲。問詢者還可以任意提出任何方面的問題，也可以僅僅專注於所獲答案的內(nèi)容。

圖靈測試具備了以下兩個(gè)顯著的特質(zhì)，這使它實(shí)作了真正通用的效果：

n 透過維持不同終端機(jī)間人機(jī)交流，該測試為我們提供了智慧系統(tǒng)圖靈確信到20世紀(jì)末透過數(shù)位電腦程式設(shè)計(jì)可以實(shí)作模仿遊戲。儘管現(xiàn)代電腦還不能透過圖靈測試，它仍然為我們提供了對基於知識(shí)的評估和驗(yàn)證標(biāo)準(zhǔn)。

透過與人類專家行為的比對，已經(jīng)對一些較為狹窄專業(yè)領(lǐng)域的程式被認(rèn)為是智慧的

為了建立一套智慧電腦系統(tǒng)，我們必須去捕捉、組織並利用人類在一些較為狹窄的專業(yè)領(lǐng)域裏的專業(yè)知識(shí)

圖靈確信到20世紀(jì)末透過數(shù)位電腦程式設(shè)計(jì)可以實(shí)作模仿遊戲。儘人工智慧的基礎(chǔ)哲學(xué)(西元前428年~現(xiàn)在)數(shù)學(xué)(約800年~現(xiàn)在)經(jīng)濟(jì)學(xué)(1776年~現(xiàn)在)神經(jīng)科學(xué)(1861年~現(xiàn)在)心理學(xué)(1879年~現(xiàn)在)電腦工程(1940年~現(xiàn)在)控制理論(1948年~現(xiàn)在)與研學(xué)(1957年~現(xiàn)在)人工智慧的基礎(chǔ)哲學(xué)(西元前428年~現(xiàn)在)人工智慧發(fā)展歷史

WarrenMcCulloch和WalterPitts於1943年發(fā)表的研究報(bào)告被公認(rèn)為人工智慧領(lǐng)域最早的研究。他們提出了一個(gè)人工神經(jīng)網(wǎng)路模型，還進(jìn)一步揭示了簡單的網(wǎng)路結(jié)構(gòu)能夠?qū)W習(xí)的奧秘。

McCulloch是繼AlanTuring之後被稱為人工智慧的第二“教父”,為神經(jīng)計(jì)算和人工神經(jīng)網(wǎng)路(artificialneuralnetworks，ANN)奠定了基礎(chǔ)。

人工智慧的誕生

(1943–1956)2人工智慧發(fā)展歷史WarrenMcCulloch和Walt人工智慧的第三位奠基人是聰明的匈牙利裔數(shù)學(xué)家JohnvonNeumann。他於1930年加入普林斯頓大學(xué)執(zhí)教於數(shù)學(xué)物理系。他擔(dān)任賓西法尼亞大學(xué)電子數(shù)值整合計(jì)算機(jī)(ENIAC)計(jì)劃的顧問，幫助設(shè)計(jì)一個(gè)電子離散變數(shù)自動(dòng)電腦(EDVAC)，一個(gè)可以儲(chǔ)存程式的機(jī)器。他的思想很大程度上受到了McCulloch和Pitts的神經(jīng)網(wǎng)路模型的影響。當(dāng)普林斯頓大學(xué)數(shù)學(xué)系的兩位研究生MarvinMinsky

和DeanEdmonds於1951年研製出了世界上第一臺(tái)神經(jīng)網(wǎng)路電腦時(shí)，他積極鼓勵(lì)並支持他們。人工智慧的第三位奠基人是聰明的匈牙利裔數(shù)學(xué)家Johnvon另一位第一代研究者的代表人物是ClaudeShannon。他畢業(yè)於麻省理工學(xué)院(MIT)並於1941年加入了貝爾實(shí)驗(yàn)室。他繼承了AlanTuring機(jī)器智慧型可能性的觀點(diǎn)，於1950年發(fā)表了一篇關(guān)於棋藝對決機(jī)器的論文，指出了標(biāo)準(zhǔn)的棋藝遊戲包含著大約10120種可能的走法(Shannon，1950)，即使是最新的vonNeumann電腦也只能每微秒測試一種走法，這大約需要3×10106年才可能完成一次移動(dòng)，所以Shannon論證了在搜尋答案時(shí)利用啟發(fā)方式的必要性。

另一位第一代研究者的代表人物是ClaudeShannon。在1956年,JohnMcCarthy,MartinMinsky和ClaudeShannon在英國達(dá)特茅斯學(xué)院組織了一個(gè)暑期研討會(huì)。他們召集了對機(jī)器智慧型、人工神經(jīng)網(wǎng)路以及自動(dòng)化理論研究領(lǐng)域感興趣的學(xué)者舉行了由IBM贊助的研討會(huì)。儘管當(dāng)時(shí)到會(huì)的學(xué)者僅有10位，這次研討會(huì)卻催生了一門名為人工智慧的新科學(xué)。在1956年,JohnMcCarthy,Martin由McCulloch和Pitts開創(chuàng)的神經(jīng)計(jì)算和人工神經(jīng)網(wǎng)路研究得以繼續(xù)。隨著學(xué)習(xí)方法的改良，F(xiàn)rankRosenblatt證明了感知器收斂理論，他還論證了他的學(xué)習(xí)演算法能夠調(diào)節(jié)感知器連接強(qiáng)度。人工智慧的上升期，大膽預(yù)測時(shí)代(1956年～60年代末)

由McCulloch和Pitts開創(chuàng)的神經(jīng)計(jì)算和人工神經(jīng)網(wǎng)路在這個(gè)大膽預(yù)測時(shí)代，最為雄心勃勃的計(jì)畫之一是一個(gè)被稱為“通用解決方案”(GPS)的項(xiàng)目?？▋?nèi)基－梅隆大學(xué)的AllenNewell和HerbertSimon開發(fā)了一個(gè)通用程式來模擬人類解決問題的方法。Newell和Simon假定要解決的問題可以根據(jù)不同的狀態(tài)來定義，然後用手段-目的分析法來判定一個(gè)問題的目前狀態(tài)和期望狀態(tài)或目標(biāo)狀態(tài)之間的差異，進(jìn)而透過選擇並應(yīng)用不同的演算子來達(dá)到目標(biāo)狀態(tài)。而演算子集合則定義了解決方案。在這個(gè)大膽預(yù)測時(shí)代，最為雄心勃勃的計(jì)畫之一是一個(gè)被稱為“通用儘管如此，GPS仍然無法解決複雜的問題。由於該程式是基於一般邏輯，就必然導(dǎo)致產(chǎn)生無數(shù)個(gè)可能的演算子，從而造成效率低下。由於GPS在解決實(shí)際問題時(shí)花費(fèi)大量的計(jì)算時(shí)間並且佔(zhàn)用大量的記憶體，致使最終不得不放棄該計(jì)畫的實(shí)施。在60年代，人工智慧的研究者們曾試圖透過發(fā)明解決廣義問題的通用方法來模擬複雜的思考過程，他們採用了廣義的搜尋機(jī)制來尋求問題的一個(gè)解決方案，而該類方法在現(xiàn)在被認(rèn)為是不健壯的方法，即運(yùn)用了問題範(fàn)疇中的弱資訊。儘管如此，GPS仍然無法解決複雜的問題。由於該程式是基於一般到1970年，有關(guān)人工智慧的亢奮漸漸消退了，大多數(shù)的政府基金也取消了與人工智慧相關(guān)的專案。人工智慧仍然是一門新興的學(xué)科，無法擺脫科學(xué)發(fā)展的自然規(guī)律，除了一些遊戲之外很少有實(shí)際的應(yīng)用成果。所以對於外界而言，那時(shí)公認(rèn)的成就也無外乎一些遊戲，沒有產(chǎn)生可以真正解決實(shí)際問題的智慧系統(tǒng)。到1970年，有關(guān)人工智慧的亢奮漸漸消退了，大多數(shù)的政府基金由於人工智慧的研究者們專注於開發(fā)解決廣義問題的一般方法，早期的套裝程式含了很少甚至沒有相關(guān)問題範(fàn)疇的知識(shí)。為了解決問題，程式應(yīng)用了搜尋策略來測試每個(gè)小步驟的不同組合，直到找到正確的答案。這樣的方法對於“遊戲問題”很有效，因而被順理成章地誤認(rèn)為可以經(jīng)過簡單地“擴(kuò)展”來解決龐大的問題，而且最終也會(huì)成功，然而這樣的想法是錯(cuò)誤的。無法履行的承諾，現(xiàn)實(shí)的衝擊(20世紀(jì)60年代後期～20世紀(jì)70年代初期)

20世紀(jì)60年後期人工智慧所面對的主要困難是：由於人工智慧的研究者們專注於開發(fā)解決廣義問題的一般方法，早期許多人工智慧試圖解決的問題都過於廣泛、過於困難了。早期人工智慧的典型問題就是機(jī)器翻譯，例如美國國家研究理事會(huì)在1957年蘇聯(lián)第一顆名為Sputnik的人造衛(wèi)星發(fā)射成功後資助的蘇聯(lián)科學(xué)論文翻譯計(jì)畫，起初專案小組借助電子詞典簡單地試著將俄文單詞用英文代替，然而他們很快發(fā)現(xiàn)翻譯過程中只有對主題理解了才可能選擇正確的辭彙，而這項(xiàng)工作在當(dāng)時(shí)來講太難了，因此到1966年所有美國政府資助的翻譯專案都被迫中止了。許多人工智慧試圖解決的問題都過於廣泛、過於困難了。早期人工智在1971年，英國政府同樣中止了對人工智慧研究的支持。JamesLighthill爵士被大不列顛國家科學(xué)研究委員會(huì)任命來調(diào)查當(dāng)時(shí)人工智慧的發(fā)展?fàn)顮顟B(tài)，他沒能發(fā)現(xiàn)任何有關(guān)人工智慧的巨大成果，甚至明顯的結(jié)果也沒有，因而認(rèn)為沒有必要再保留一門獨(dú)立的“人工智慧”學(xué)科了。在1971年，英國政府同樣中止了對人工智慧研究的支持。Jam或許人工智慧在20世紀(jì)70年代最為重要的進(jìn)展就是認(rèn)識(shí)到了對智慧型機(jī)器研究的問題範(fàn)疇需要有充分的限制。之前，人工智慧研究者們確信可以發(fā)明一種聰明的搜尋演算法和推理技術(shù)來效仿通用的、類似於人類的解決問題的方法。其中一種通用搜尋機(jī)制可以依據(jù)於元素化的推理步驟來發(fā)現(xiàn)完整的解決方案並可以利用弱知識(shí)範(fàn)疇。專家系統(tǒng)技術(shù)，成功的關(guān)鍵(20世紀(jì)70年代初期～20世紀(jì)80年代中期)

或許人工智慧在20世紀(jì)70年代最為重要的進(jìn)展就是認(rèn)識(shí)到了對智當(dāng)這種弱方法失敗之後，研究者們終於認(rèn)識(shí)到獲得實(shí)用結(jié)果的唯一途徑是透過執(zhí)行更大的推理步驟來解決狹窄專業(yè)領(lǐng)域的特殊問題。當(dāng)這種弱方法失敗之後，研究者們終於認(rèn)識(shí)到獲得實(shí)用結(jié)果的唯一途DENDRALDENDRAL是由史丹佛大學(xué)開發(fā)，用來分析化學(xué)問題。這項(xiàng)計(jì)畫得到了美國航空及太空總署(NASA)的資助，因?yàn)楫?dāng)時(shí)計(jì)畫發(fā)射一艘無人太空船去火星，基於大規(guī)模光譜儀提供的大量光譜資料，需要設(shè)計(jì)程式來分析火星表面的土壤的分子結(jié)構(gòu)。EdwardFeigenbaum、BruceBuchanan(資訊科學(xué)家)和JoshuaLederberg(基因領(lǐng)域的諾貝爾獎(jiǎng)獲得者)組成了解決這一極具挑戰(zhàn)性問題的研究團(tuán)隊(duì)。沒有一種科學(xué)演算法可以完成大規(guī)模光譜圖與分子結(jié)構(gòu)之間的對應(yīng)關(guān)係。Feigenbaum的工作就是把Lederberg的專業(yè)知識(shí)用電腦程式來實(shí)作，使它達(dá)到人類專家的水準(zhǔn)，這種程式後來被命名為專家系統(tǒng)。DENDRALDENDRAL是由史丹佛大學(xué)開發(fā)，用來分析化學(xué)DENDRAL成為人工智慧領(lǐng)域主要的“變革典範(fàn)”：從一般目標(biāo)、知識(shí)匱乏以及弱方法到特定領(lǐng)域和高深知識(shí)技術(shù)的變革。

這個(gè)計(jì)畫的目標(biāo)是開發(fā)可以達(dá)到富有經(jīng)驗(yàn)的人類化學(xué)家水準(zhǔn)的電腦程式。借助於從人類專家那裏提煉出的特定高品質(zhì)規(guī)則—經(jīng)驗(yàn)定律(rules-of-thumb)—形式的啟發(fā)式研究方法，DENDRAL團(tuán)隊(duì)證明了電腦可以在特定的問題領(lǐng)域裏達(dá)到與人類專家等同的能力。

DENDRAL計(jì)畫開創(chuàng)了專家系統(tǒng)的嶄新方法基本理論即知識(shí)工程，它包含了以專家所熟知的規(guī)則捕捉、分析和表達(dá)的技術(shù)。DENDRAL成為人工智慧領(lǐng)域主要的“變革典範(fàn)”：從一般目標(biāo)MYCINMYCIN是一個(gè)用以診斷傳染性血液疾病的基於規(guī)則的專家系統(tǒng)，它還為醫(yī)生提供了方便、友善的使用者介面治療建議。MYCIN的知識(shí)體系包含了大約450種相互獨(dú)立的IF-THEN條件規(guī)則，這些是從廣泛的專家晤談。在一個(gè)狹小的知識(shí)領(lǐng)域裏總結(jié)出來的。這些以規(guī)則的形式組成的知識(shí)與推理機(jī)制完全分離，系統(tǒng)開發(fā)者因此可以輕易地透過插入或刪除一些規(guī)則來操控系統(tǒng)中的知識(shí)。例如史丹佛大學(xué)之後開發(fā)的被稱為EMYCIN(EmptyMYCIN)的獨(dú)立於任何特定領(lǐng)域的MYCIN版本。MYCINMYCIN是一個(gè)用以診斷傳染性血液疾病的基於規(guī)則的PROSPECTORPROSPECTOR是一個(gè)史丹佛研究院開發(fā)的用於勘探礦藏的專家系統(tǒng)。9位元專家為系統(tǒng)提供了專業(yè)知識(shí)和經(jīng)驗(yàn)。為了表達(dá)這些知識(shí)，PROSPECTOR系統(tǒng)採用了結(jié)合規(guī)則和語意網(wǎng)路的混合結(jié)構(gòu)，它具有上千個(gè)規(guī)則來表達(dá)廣泛的領(lǐng)域知識(shí)，還擁有一個(gè)包括知識(shí)獲得系統(tǒng)的複雜的系統(tǒng)支援函式庫。

系統(tǒng)首先要求作為探測地質(zhì)學(xué)家的使用者輸入待檢沉澱物的特徵：地質(zhì)框架、結(jié)構(gòu)、巖石和礦藏的種類；然後程式將這些特徵與礦石沉澱物模型進(jìn)行比對，如果需要的話還會(huì)要求使用者提供更多的資訊；最後，系統(tǒng)對待檢沉澱礦石物進(jìn)行評估並做出結(jié)論，還可以解釋做出相關(guān)決定的步驟。PROSPECTORPROSPECTOR是一個(gè)史丹佛研究院開1986年的一次普查(Waterman，1986)報(bào)告了在化學(xué)、電子、工程、地質(zhì)、管理、醫(yī)學(xué)、程序控制以及軍事科學(xué)等不同領(lǐng)域裏大量的專家系統(tǒng)成功應(yīng)用範(fàn)例。儘管Waterman發(fā)現(xiàn)了將近200個(gè)專家系統(tǒng)，但大多數(shù)應(yīng)用都集中在醫(yī)療診斷領(lǐng)域。7年後另一項(xiàng)類似調(diào)查(Durkin,1994)報(bào)告了超過2500個(gè)開發(fā)出的專家系統(tǒng)，新興的應(yīng)用領(lǐng)域是商業(yè)和製造業(yè)，佔(zhàn)到了應(yīng)用總數(shù)的60%。專家系統(tǒng)技術(shù)明顯成熟了。1986年的一次普查(Waterman，1986)報(bào)告了在化但是:專家系統(tǒng)侷限於非常狹小的專業(yè)領(lǐng)域。例如開發(fā)MYCIN系統(tǒng)是用於診斷傳染性血液疾病，它本身缺乏真正的人體生理學(xué)知識(shí)。如果病人所患疾病不止一個(gè)，我們就無法依靠MYCIN了。事實(shí)上，如果患有其他疾病的話，針對血液疾病的治療處方甚至?xí)怯泻Φ?。專家系統(tǒng)可以顯示用來解決問題的規(guī)則串列，但無法進(jìn)行相關(guān)性累積，也不具有對問題領(lǐng)域更深刻理解的啟發(fā)式知識(shí)。但是:專家系統(tǒng)侷限於非常狹小的專業(yè)領(lǐng)域。例如開發(fā)MYCIN系專家系統(tǒng)也很難進(jìn)行核對和驗(yàn)證。當(dāng)給定一項(xiàng)有別於標(biāo)準(zhǔn)問題的任務(wù)時(shí)，專家系統(tǒng)可能在嘗試解決它的過程中最終陷入出乎預(yù)料的失敗境地。

啟發(fā)式規(guī)則表現(xiàn)了知識(shí)的抽象形式，缺乏對領(lǐng)域的基本理解，這使得確認(rèn)非正確性、不完全性和不一致性知識(shí)的任務(wù)相當(dāng)困難。

專家系統(tǒng)、特別是第一代專家系統(tǒng)不具備從它們的經(jīng)驗(yàn)中學(xué)習(xí)的能力。專家系統(tǒng)的開發(fā)相對獨(dú)立而且無法進(jìn)行快速擴(kuò)展，複雜的系統(tǒng)要花費(fèi)超過30人年。專家系統(tǒng)也很難進(jìn)行核對和驗(yàn)證。當(dāng)給定一項(xiàng)有別於標(biāo)準(zhǔn)問題的任務(wù)在20世紀(jì)80年代中期，研究者、工程師和領(lǐng)域?qū)＜覀儼l(fā)現(xiàn)建造一個(gè)專家系統(tǒng)不只是需要買一套推理系統(tǒng)或?qū)＜蚁到y(tǒng)核心程式然後嵌入足夠多的規(guī)則那麼簡單，伴隨著人工智慧相關(guān)項(xiàng)目資助的嚴(yán)重削減，對於專家系統(tǒng)的技術(shù)可行性的醒悟甚至促使人們開始預(yù)測人工智慧的“冬季”即將來臨，人工智慧研究者決定重新審定神經(jīng)網(wǎng)路技術(shù)。

如何使機(jī)器學(xué)習(xí)，神經(jīng)網(wǎng)路的再生(20世紀(jì)80年代中期至今)

如何使機(jī)器學(xué)習(xí)，神經(jīng)網(wǎng)路的再生到20世紀(jì)60年代後期，神經(jīng)計(jì)算所必需的基礎(chǔ)理論和概念都已經(jīng)定型，然而直到80年代中期相對應(yīng)的解決方法才出現(xiàn)。造成滯後的原因之一是技術(shù)層面的：那時(shí)還沒有個(gè)人電腦或高性能工作站可用來進(jìn)行人工神經(jīng)網(wǎng)的模式化和測試。在20世紀(jì)80年代，由於仿腦資訊處理的需求、電腦科技的發(fā)展以及神經(jīng)科學(xué)的進(jìn)步，神經(jīng)網(wǎng)路領(lǐng)域經(jīng)歷了戲劇性的復(fù)甦。多個(gè)研究前沿領(lǐng)域在理論和設(shè)計(jì)兩方面都做出了重要的貢獻(xiàn)。到20世紀(jì)60年代後期，神經(jīng)計(jì)算所必需的基礎(chǔ)理論和概念都已經(jīng)Grossberg建立了自我組織(適應(yīng)諧振理論)的新原理，為神經(jīng)網(wǎng)路的新體系奠定了基礎(chǔ)(Grossberg，1980)。Hopfield為神經(jīng)網(wǎng)路引入了回授—Hopfield網(wǎng)路，這在20世紀(jì)80年代引產(chǎn)生了廣泛的關(guān)注(Hopfield，1982)

。Kohonen發(fā)表了有關(guān)自我組織對應(yīng)圖的論文(Kohonen，1982)

Barto、Sutton和Anderson發(fā)表了有關(guān)加強(qiáng)學(xué)習(xí)與其在控制中的應(yīng)用的論文(Bartoetal.，1983)。Grossberg建立了自我組織(適應(yīng)諧振理論)的新原理，為然而真正的突破是在1986年，Rumelhart和McClelland在ParallelDistributedProcessing(1986)一書中重新發(fā)明了向後傳送學(xué)習(xí)演算法(BPN:BackPropagationNetwork)，該演算法由Bryson和Ho於1969年首次提出(Bryson和Ho，1969)。

自從McCulloch和Pitts建立了早期模型以來，人工神經(jīng)網(wǎng)路已經(jīng)經(jīng)歷了很長的歷程而成為根植於神經(jīng)科學(xué)、心理學(xué)、數(shù)學(xué)和工程學(xué)的跨學(xué)科主題，並將繼續(xù)在理論和實(shí)際應(yīng)用方面得以發(fā)展。然而真正的突破是在1986年，Rumelhart和McCle知識(shí)工程的新時(shí)代，文字計(jì)算(20世紀(jì)80年代後期至今)

神經(jīng)網(wǎng)路技術(shù)比基於符號(hào)推理的系統(tǒng)能提供更多的與真實(shí)世界的自然互動(dòng)，它可以學(xué)習(xí)，與不同的問題環(huán)境變化相適應(yīng)，在規(guī)則未知的條件下也可以建立模式，並且可以處理模糊的不完整資訊。然而，神經(jīng)網(wǎng)路缺乏解釋功能，常常像黑盒子一樣工作，以目前的技術(shù)來處理神經(jīng)網(wǎng)路的訓(xùn)練還很耗時(shí)，而且頻繁的再訓(xùn)練可能帶來致命的困難。知識(shí)工程的新時(shí)代，文字計(jì)算神經(jīng)網(wǎng)路技術(shù)比基於符號(hào)推理的系統(tǒng)能傳統(tǒng)的專家系統(tǒng)特別適合於具有精確輸入和邏輯輸出的封閉式系統(tǒng)的應(yīng)用。它們以規(guī)則的形式利用專家知識(shí)，必要時(shí)還可以與使用者進(jìn)行互動(dòng)以建立特殊的事實(shí)。該系統(tǒng)最主要的缺點(diǎn)是人類專家不可能總是以規(guī)則的形式表達(dá)他們的知識(shí)或者闡明他們推理的界限，這可能會(huì)妨礙專家系統(tǒng)積累必要的知識(shí)，從而導(dǎo)致失敗。傳統(tǒng)的專家系統(tǒng)特別適合於具有精確輸入和邏輯輸出的封閉式系統(tǒng)的一項(xiàng)非常重要的處理模糊的、不精確或不確定知識(shí)和資料的技術(shù)是模糊邏輯。專家並非總是用機(jī)率值來思考問題，而是使用諸如經(jīng)常、一般、有時(shí)、偶爾和很少一類的術(shù)語。模糊邏輯則是使用模糊值來捕捉文字的涵義、人類的推理以及做出決定。模糊邏輯提供了突破傳統(tǒng)專家系統(tǒng)計(jì)算瓶頸的途徑。模糊邏輯的核心是依存於語言變數(shù)的概念，而語言變數(shù)的值並非數(shù)值而是文字。一項(xiàng)非常重要的處理模糊的、不精確或不確定知識(shí)和資料的技術(shù)是模模糊邏輯或模糊集理論是由柏克萊電子工程系主任LotfiZadeh教授於1965年提出的。它提供了一種採用文字進(jìn)行計(jì)算的方法。然而模糊集理論被科技社會(huì)接受的過程卻是很難、很緩慢，部分困難來自於它過激的名稱—“模糊”，似乎太隨便而難以被認(rèn)真對待。儘管模糊理論被西方所忽略，在東方卻被日本認(rèn)真地採納了，而且從1987年起被成功地應(yīng)用到他們自己設(shè)計(jì)的洗碗機(jī)、洗衣機(jī)、空調(diào)、電視、影印機(jī)甚至汽車上。

模糊邏輯或模糊集理論是由柏克萊電子工程系主任LotfiZa

模糊邏輯模型在基於知識(shí)和決策支援的系統(tǒng)中應(yīng)用的益處可以歸納為以下幾點(diǎn):計(jì)算能力的提高：基於模糊規(guī)則的系統(tǒng)比傳統(tǒng)的專家系統(tǒng)運(yùn)算速度快而且所需的規(guī)則少，模糊專家系統(tǒng)融合了相關(guān)規(guī)則，使其更為強(qiáng)大。LotfiZadeh確信用不了幾年，大多數(shù)的專家系統(tǒng)將會(huì)採用模糊邏輯來解決高階非線性和計(jì)算困難的問題。 模糊邏輯模型在基於知識(shí)和決策支援的系統(tǒng)中應(yīng)用的益處可以歸納認(rèn)知模型的改善：模糊系統(tǒng)允許知識(shí)以反映專家對複雜問題的思考模式進(jìn)行編碼，他們經(jīng)常以一些不精確的例如高矮、快慢、輕重的術(shù)語思考。為了構(gòu)建傳統(tǒng)的規(guī)則，我們必須定義這些術(shù)語明確的界限，從而將專門的知識(shí)分解成碎片，而這種碎片化導(dǎo)致傳統(tǒng)的專家系統(tǒng)在處理高複雜度問題時(shí)表現(xiàn)不佳。相反，模糊專家系統(tǒng)對不確定的資訊模式化，以更接近於專家心中的表達(dá)方式來捕捉專門的知識(shí)，從而改善了對問題的認(rèn)知模型。認(rèn)知模型的改善：模糊系統(tǒng)允許知識(shí)以反映專家對複雜問題的思考模具有多個(gè)專家的表達(dá)能力：傳統(tǒng)的專家系統(tǒng)建立在非常狹小的經(jīng)驗(yàn)範(fàn)疇裏，這使系統(tǒng)的表現(xiàn)完全依賴於對專家的正確選擇。當(dāng)需要構(gòu)建更為複雜的專家系統(tǒng)或?qū)ｉT的知識(shí)無法很好地被定義時(shí)，就需要多位元專家的參與。但是多位專家往往很難達(dá)成一致，經(jīng)常會(huì)有不同甚至對立的觀點(diǎn)，這些在商業(yè)和管理領(lǐng)域尤為突顯，當(dāng)其中並不存在一個(gè)簡單的解決方案，而不得不考慮對立的觀點(diǎn)。模糊專家系統(tǒng)能幫助我們表達(dá)有對立觀點(diǎn)的多位專家專門的知識(shí)。具有多個(gè)專家的表達(dá)能力：傳統(tǒng)的專家系統(tǒng)建立在非常狹小的經(jīng)驗(yàn)範(fàn)儘管模糊系統(tǒng)允許更自然地表達(dá)專家知識(shí)，但它們?nèi)匀灰蕾囲秮碜詫＜业囊?guī)則，因而可能是聰穎或愚鈍。有些專家可以提供非常明智的模糊規(guī)則，而有些專家只能提供猜測甚至可能弄錯(cuò)，所以所有的規(guī)則都必須進(jìn)行測試和調(diào)整，這是漫長和繁雜的處理過程。例如，日立公司的工程師們花了幾年時(shí)間來測試和調(diào)整用於仙臺(tái)地鐵引導(dǎo)系統(tǒng)僅僅54條的模糊規(guī)則。儘管模糊系統(tǒng)允許更自然地表達(dá)專家知識(shí)，但它們?nèi)匀灰蕾囲秮碜詫＝陙?，一些基於神?jīng)網(wǎng)路技術(shù)的方法被用來為模糊規(guī)則尋找數(shù)值資料。自適應(yīng)或神經(jīng)模糊系統(tǒng)可以發(fā)現(xiàn)新的模糊規(guī)則，或者根據(jù)所提供的資料改良並調(diào)整現(xiàn)存的規(guī)則，換句話說是輸入資料—輸出規(guī)則，或者輸入經(jīng)驗(yàn)—輸出一般規(guī)律。近年來，一些基於神經(jīng)網(wǎng)路技術(shù)的方法被用來為模糊規(guī)則尋找數(shù)值資專家、神經(jīng)和模糊系統(tǒng)已經(jīng)誕生並已經(jīng)廣泛地應(yīng)用於解決不同的問題，主要是在工程、醫(yī)療、財(cái)經(jīng)、商業(yè)和管理領(lǐng)域。每項(xiàng)技術(shù)處理著人類知識(shí)中不同的非確定和模稜兩可的特徵，每種技術(shù)也已經(jīng)找到了它們在知識(shí)工程中的位置，它們不再競爭，而是實(shí)作互補(bǔ)。總結(jié)

3專家、神經(jīng)和模糊系統(tǒng)已經(jīng)誕生並已經(jīng)廣泛地應(yīng)用於解決不同的問題將模糊邏輯和神經(jīng)計(jì)算相統(tǒng)一的專家系統(tǒng)提升了基於知識(shí)系統(tǒng)的適應(yīng)性、健壯性、容錯(cuò)性和執(zhí)行速度。另外，利用文字進(jìn)行計(jì)算使系統(tǒng)更“人性化”，現(xiàn)在構(gòu)築智慧系統(tǒng)的通常做法是利用現(xiàn)有的理論而非提出一個(gè)新理論，並且應(yīng)用系統(tǒng)去解決實(shí)際問題而非“遊戲”問題。將模糊邏輯和神經(jīng)計(jì)算相統(tǒng)一的專家系統(tǒng)提升了基於知識(shí)系統(tǒng)的適應(yīng)人工智慧歷史上的主要事件一覽表時(shí)期

主要事件

人工智慧的誕生(1943～1956)McCulloch和Pitts，神經(jīng)活動(dòng)潛在想法的邏輯運(yùn)算，1943Turing，計(jì)算機(jī)器和智慧，1950電子數(shù)值積分器和計(jì)算機(jī)計(jì)畫(vonNeumann)Shannon，西洋棋博弈的電腦程式設(shè)計(jì)，1950達(dá)特茅斯學(xué)院(DartmouthCollege)舉行的機(jī)器智慧、人工神經(jīng)網(wǎng)路和自動(dòng)理論暑期研討會(huì)，1956人工智慧歷史上的主要事件一覽表時(shí)期主要事件人工智慧的誕生時(shí)期

主要事件

人工智慧的成長

(1956～20世紀(jì)

60年代後期)

LISP(McCarthy)

通用問題解算機(jī)(GPR)計(jì)畫(Newell和Simon)

Newell和Simon，人類問題解決方案，1972

Minsky，知識(shí)表達(dá)的框架結(jié)構(gòu)，1975

人工智慧的幻想破滅

(20世紀(jì)60年代後期

～70年代早期)

Cook，複雜性的理論證明過程，1971

Karp，複合問題的再生性，1972

Lighthill報(bào)告，1971

時(shí)期主要事件人工智慧的成長

(1956～20世紀(jì)

60年時(shí)期

主要事件

專家系統(tǒng)的發(fā)現(xiàn)

(20世紀(jì)70年代早期

～80年代中葉)

DENDRAL(Feigenbaum,Buchanan和Lederberg，史丹佛大學(xué))

MYCIN(Feigenbaum和Shortliffe，史丹佛大學(xué))

PROSPECTOR(史丹佛研究院)

PROLOG-一種邏輯程式語言(Colmerauer,Roussel和Kowalski，法國)

EMYCIN(史丹佛大學(xué))

Waterman，專家系統(tǒng)指南，1986人工神經(jīng)網(wǎng)路的再生

(1965～現(xiàn)在

Hopfield，神經(jīng)網(wǎng)路和具有突發(fā)整合計(jì)算能力的物理系統(tǒng)，1982

Kohonen，拓?fù)浣Y(jié)構(gòu)的正確特徵圖譜的自組織產(chǎn)生，1982

Rumelhart和McClelland，平行分散處理，1986

首屆IEEE神經(jīng)網(wǎng)路國際會(huì)議，1987

Haykin，神經(jīng)網(wǎng)路，1994

神經(jīng)網(wǎng)路，Matlab應(yīng)用工具包(MathWork公司)時(shí)期主要事件專家系統(tǒng)的發(fā)現(xiàn)

(20世紀(jì)70年代早期

～8時(shí)期

主要事件

演化計(jì)算(20世紀(jì)70年代早期

～現(xiàn)在)

Rechenberg，演化策略-基於生物資訊理論的最佳化技術(shù)系統(tǒng)，1973

Holland，自然和人工系統(tǒng)的適應(yīng)性，1975

Koza，遺傳程式設(shè)計(jì)：透過自然選擇的電腦程式設(shè)計(jì)，1992

Schwefel，演化和最佳尋找，1995

Fogel，演化計(jì)算：面向機(jī)器智慧的新哲學(xué)，1995時(shí)期主要事件演化計(jì)算Rechenberg，演化策略-基於時(shí)期

主要事件

用文字計(jì)算

(20世紀(jì)80年代後期～現(xiàn)在)

Zadeh，模糊集，1965

Zadeh，模糊演算法，1969

Mamdani，使用語言合成法的模糊邏輯在近似論證中的應(yīng)用，1977

Sugeno，模糊理論，1983

日本的“模糊”消費(fèi)品(洗碗機(jī)、洗衣機(jī)、空調(diào)、電視機(jī)、影印機(jī))

仙臺(tái)地鐵系統(tǒng)(日立公司，日本)，1986

Negoita，專家系統(tǒng)和模糊系統(tǒng)，1985

首屆IEEE模糊系統(tǒng)國際會(huì)議，1992

Kosko，神經(jīng)網(wǎng)路和模糊系統(tǒng)，1992

Kosko，模糊思維，1993

Yager和Zadeh，模糊集、神經(jīng)網(wǎng)路和軟計(jì)算，1994

Cox，模糊系統(tǒng)手冊，1994

Kosko，模糊工程，1996

Zadeh，用文字計(jì)算—典範(fàn)轉(zhuǎn)移，1996

模糊邏輯，Matlab應(yīng)用工具包(MathWork公司)時(shí)期主要事件用文字計(jì)算

(20世紀(jì)80年代後期～現(xiàn)在)第1講基於知識(shí)的智慧系統(tǒng)導(dǎo)言n智慧型機(jī)器概述

n人工智慧發(fā)展歷史

n總結(jié)

第1講基於知識(shí)的智慧系統(tǒng)導(dǎo)言n智慧型機(jī)器概述n 哲學(xué)家們花費(fèi)了兩千多年的時(shí)間試圖理解並解答宇宙中的兩大疑難問題：人類是如何思考的？人類之外的物體是否有思維？然而，這兩個(gè)問題至今仍然是未解之謎。

1.智慧是人類理解和學(xué)習(xí)事情的能力n

2.智慧是思考和理解問題的能力而非本能和自動(dòng)地處理問題

智慧型機(jī)器概述(大英基礎(chǔ)詞典，柯林斯，倫敦，1990年)

1n 哲學(xué)家們花費(fèi)了兩千多年的時(shí)間試圖理解並解答宇宙中的兩大疑n 所以為了思考，無論是人類還是其他事物都必須有大腦，換句話說是一種器官，它能夠使人類或其他事物具有學(xué)習(xí)和理解事物的能力，能夠解決問題並做出決斷。所以智慧可以被定義為“學(xué)習(xí)和理解事物、解決問題並做出決斷的能力”

n 作為一門科學(xué)，人工智慧(AI)的最終目標(biāo)是使機(jī)器能夠做人類所能做到的智慧型，所以“機(jī)器能否思考？”這個(gè)問題的答案對該學(xué)科而言至關(guān)重要n 答案又不是簡單的“是”與“非”

n 所以為了思考，無論是人類還是其他事物都必須有大腦，換句話n 有些人可能在某些方面比別人聰明一些；有時(shí)我們處理問題會(huì)非常明智，但有時(shí)又會(huì)犯非常愚蠢的錯(cuò)誤；有些人或許解決數(shù)學(xué)或工程難題時(shí)遊刃有餘，然而卻對哲學(xué)或歷史問題束手無策；一些人非常善於賺錢而另外一些人卻精於花錢。人類都具有學(xué)習(xí)、理解、解決問題和做出決定的能力，然而能力卻並不相同，並可以劃分成不同的等級，所以如果我們希望機(jī)器也可以思考的話，那麼在某種程度上它們的智慧也應(yīng)該有所差別

n 有些人可能在某些方面比別人聰明一些；有時(shí)我們處理問題會(huì)非n 英國數(shù)學(xué)家艾倫·圖靈(AlanTuring)所撰寫的：“電腦器與智慧型”

是最早和最具影響力的有關(guān)機(jī)器智慧的文章之一，雖然該文發(fā)表於50年前，但他的方法至今仍然通用，經(jīng)得起時(shí)間的檢驗(yàn)。n 他曾經(jīng)提出這樣的問題：是否存在沒有經(jīng)驗(yàn)的思想？是否存在不能交流的大腦？是否存在沒有生命的語言？是否存在脫離生命的智慧？不難發(fā)現(xiàn)所有這些問題都是“機(jī)器能否思考？”這一人工智慧基本問題的不同表達(dá)

n 英國數(shù)學(xué)家艾倫·圖靈(AlanTuring)所撰寫的：n 圖靈並沒有給出有關(guān)機(jī)器和思維的定義，他只是透過發(fā)明了一個(gè)名為“圖靈模仿遊戲”的方式避開了文字上的爭論

n 圖靈提出的模仿遊戲最初包括2個(gè)階段。在第1階段，一男一女兩位問詢者被安排在不同的房間，只能透過諸如遠(yuǎn)端終端機(jī)似的中間媒介進(jìn)行交流，最終要求問詢者透過提問確定對方的性別，而遊戲的規(guī)則是男方要欺騙對方自己是女性，同時(shí)女方則要盡力說服對方自己的女性身份。n 圖靈並沒有給出有關(guān)機(jī)器和思維的定義，他只是透過發(fā)明了一個(gè)圖靈模仿遊戲:第1階段圖靈模仿遊戲:第1階段n 在遊戲的第2階段，男方被電腦所代替，透過程式模仿那位元男性操作者來欺騙對方問詢者，程式甚至可以模仿一些人類常犯的錯(cuò)誤，並且還可以給出一些人類會(huì)做的模稜兩可的答案。如果電腦最終可以像男性操作者做的那樣經(jīng)常蒙蔽對方的話，我們或許可以認(rèn)為電腦通過了智慧行為測試。

圖靈模仿遊戲:第2階段圖靈模仿遊戲:第2階段圖靈模仿遊戲:第2階段圖靈模仿遊戲:第2階段n 透過維持不同終端機(jī)間人機(jī)交流，該測試為我們提供了智慧系統(tǒng)客觀的標(biāo)準(zhǔn)模式。它不僅避開了有關(guān)人類智慧特性的辯論，而且排除了人為喜好與偏見。

n 測試本身與實(shí)驗(yàn)的細(xì)節(jié)沒有任何依賴關(guān)係。測試既可以像上文描述的一樣分為兩個(gè)遊戲階段實(shí)行，也可以由問詢者在測試之前預(yù)先選擇與人還是機(jī)器進(jìn)行一個(gè)階段的遊戲。問詢者還可以任意提出任何方面的問題，也可以僅僅專注於所獲答案的內(nèi)容。

圖靈測試具備了以下兩個(gè)顯著的特質(zhì)，這使它實(shí)作了真正通用的效果：

n 透過維持不同終端機(jī)間人機(jī)交流，該測試為我們提供了智慧系統(tǒng)圖靈確信到20世紀(jì)末透過數(shù)位電腦程式設(shè)計(jì)可以實(shí)作模仿遊戲。儘管現(xiàn)代電腦還不能透過圖靈測試，它仍然為我們提供了對基於知識(shí)的評估和驗(yàn)證標(biāo)準(zhǔn)。

透過與人類專家行為的比對，已經(jīng)對一些較為狹窄專業(yè)領(lǐng)域的程式被認(rèn)為是智慧的

為了建立一套智慧電腦系統(tǒng)，我們必須去捕捉、組織並利用人類在一些較為狹窄的專業(yè)領(lǐng)域裏的專業(yè)知識(shí)

圖靈確信到20世紀(jì)末透過數(shù)位電腦程式設(shè)計(jì)可以實(shí)作模仿遊戲。儘人工智慧的基礎(chǔ)哲學(xué)(西元前428年~現(xiàn)在)數(shù)學(xué)(約800年~現(xiàn)在)經(jīng)濟(jì)學(xué)(1776年~現(xiàn)在)神經(jīng)科學(xué)(1861年~現(xiàn)在)心理學(xué)(1879年~現(xiàn)在)電腦工程(1940年~現(xiàn)在)控制理論(1948年~現(xiàn)在)與研學(xué)(1957年~現(xiàn)在)人工智慧的基礎(chǔ)哲學(xué)(西元前428年~現(xiàn)在)人工智慧發(fā)展歷史

WarrenMcCulloch和WalterPitts於1943年發(fā)表的研究報(bào)告被公認(rèn)為人工智慧領(lǐng)域最早的研究。他們提出了一個(gè)人工神經(jīng)網(wǎng)路模型，還進(jìn)一步揭示了簡單的網(wǎng)路結(jié)構(gòu)能夠?qū)W習(xí)的奧秘。

McCulloch是繼AlanTuring之後被稱為人工智慧的第二“教父”,為神經(jīng)計(jì)算和人工神經(jīng)網(wǎng)路(artificialneuralnetworks，ANN)奠定了基礎(chǔ)。

人工智慧的誕生

(1943–1956)2人工智慧發(fā)展歷史WarrenMcCulloch和Walt人工智慧的第三位奠基人是聰明的匈牙利裔數(shù)學(xué)家JohnvonNeumann。他於1930年加入普林斯頓大學(xué)執(zhí)教於數(shù)學(xué)物理系。他擔(dān)任賓西法尼亞大學(xué)電子數(shù)值整合計(jì)算機(jī)(ENIAC)計(jì)劃的顧問，幫助設(shè)計(jì)一個(gè)電子離散變數(shù)自動(dòng)電腦(EDVAC)，一個(gè)可以儲(chǔ)存程式的機(jī)器。他的思想很大程度上受到了McCulloch和Pitts的神經(jīng)網(wǎng)路模型的影響。當(dāng)普林斯頓大學(xué)數(shù)學(xué)系的兩位研究生MarvinMinsky

和DeanEdmonds於1951年研製出了世界上第一臺(tái)神經(jīng)網(wǎng)路電腦時(shí)，他積極鼓勵(lì)並支持他們。人工智慧的第三位奠基人是聰明的匈牙利裔數(shù)學(xué)家Johnvon另一位第一代研究者的代表人物是ClaudeShannon。他畢業(yè)於麻省理工學(xué)院(MIT)並於1941年加入了貝爾實(shí)驗(yàn)室。他繼承了AlanTuring機(jī)器智慧型可能性的觀點(diǎn)，於1950年發(fā)表了一篇關(guān)於棋藝對決機(jī)器的論文，指出了標(biāo)準(zhǔn)的棋藝遊戲包含著大約10120種可能的走法(Shannon，1950)，即使是最新的vonNeumann電腦也只能每微秒測試一種走法，這大約需要3×10106年才可能完成一次移動(dòng)，所以Shannon論證了在搜尋答案時(shí)利用啟發(fā)方式的必要性。

另一位第一代研究者的代表人物是ClaudeShannon。在1956年,JohnMcCarthy,MartinMinsky和ClaudeShannon在英國達(dá)特茅斯學(xué)院組織了一個(gè)暑期研討會(huì)。他們召集了對機(jī)器智慧型、人工神經(jīng)網(wǎng)路以及自動(dòng)化理論研究領(lǐng)域感興趣的學(xué)者舉行了由IBM贊助的研討會(huì)。儘管當(dāng)時(shí)到會(huì)的學(xué)者僅有10位，這次研討會(huì)卻催生了一門名為人工智慧的新科學(xué)。在1956年,JohnMcCarthy,Martin由McCulloch和Pitts開創(chuàng)的神經(jīng)計(jì)算和人工神經(jīng)網(wǎng)路研究得以繼續(xù)。隨著學(xué)習(xí)方法的改良，F(xiàn)rankRosenblatt證明了感知器收斂理論，他還論證了他的學(xué)習(xí)演算法能夠調(diào)節(jié)感知器連接強(qiáng)度。人工智慧的上升期，大膽預(yù)測時(shí)代(1956年～60年代末)

由McCulloch和Pitts開創(chuàng)的神經(jīng)計(jì)算和人工神經(jīng)網(wǎng)路在這個(gè)大膽預(yù)測時(shí)代，最為雄心勃勃的計(jì)畫之一是一個(gè)被稱為“通用解決方案”(GPS)的項(xiàng)目。卡內(nèi)基－梅隆大學(xué)的AllenNewell和HerbertSimon開發(fā)了一個(gè)通用程式來模擬人類解決問題的方法。Newell和Simon假定要解決的問題可以根據(jù)不同的狀態(tài)來定義，然後用手段-目的分析法來判定一個(gè)問題的目前狀態(tài)和期望狀態(tài)或目標(biāo)狀態(tài)之間的差異，進(jìn)而透過選擇並應(yīng)用不同的演算子來達(dá)到目標(biāo)狀態(tài)。而演算子集合則定義了解決方案。在這個(gè)大膽預(yù)測時(shí)代，最為雄心勃勃的計(jì)畫之一是一個(gè)被稱為“通用儘管如此，GPS仍然無法解決複雜的問題。由於該程式是基於一般邏輯，就必然導(dǎo)致產(chǎn)生無數(shù)個(gè)可能的演算子，從而造成效率低下。由於GPS在解決實(shí)際問題時(shí)花費(fèi)大量的計(jì)算時(shí)間並且佔(zhàn)用大量的記憶體，致使最終不得不放棄該計(jì)畫的實(shí)施。在60年代，人工智慧的研究者們曾試圖透過發(fā)明解決廣義問題的通用方法來模擬複雜的思考過程，他們採用了廣義的搜尋機(jī)制來尋求問題的一個(gè)解決方案，而該類方法在現(xiàn)在被認(rèn)為是不健壯的方法，即運(yùn)用了問題範(fàn)疇中的弱資訊。儘管如此，GPS仍然無法解決複雜的問題。由於該程式是基於一般到1970年，有關(guān)人工智慧的亢奮漸漸消退了，大多數(shù)的政府基金也取消了與人工智慧相關(guān)的專案。人工智慧仍然是一門新興的學(xué)科，無法擺脫科學(xué)發(fā)展的自然規(guī)律，除了一些遊戲之外很少有實(shí)際的應(yīng)用成果。所以對於外界而言，那時(shí)公認(rèn)的成就也無外乎一些遊戲，沒有產(chǎn)生可以真正解決實(shí)際問題的智慧系統(tǒng)。到1970年，有關(guān)人工智慧的亢奮漸漸消退了，大多數(shù)的政府基金由於人工智慧的研究者們專注於開發(fā)解決廣義問題的一般方法，早期的套裝程式含了很少甚至沒有相關(guān)問題範(fàn)疇的知識(shí)。為了解決問題，程式應(yīng)用了搜尋策略來測試每個(gè)小步驟的不同組合，直到找到正確的答案。這樣的方法對於“遊戲問題”很有效，因而被順理成章地誤認(rèn)為可以經(jīng)過簡單地“擴(kuò)展”來解決龐大的問題，而且最終也會(huì)成功，然而這樣的想法是錯(cuò)誤的。無法履行的承諾，現(xiàn)實(shí)的衝擊(20世紀(jì)60年代後期～20世紀(jì)70年代初期)

20世紀(jì)60年後期人工智慧所面對的主要困難是：由於人工智慧的研究者們專注於開發(fā)解決廣義問題的一般方法，早期許多人工智慧試圖解決的問題都過於廣泛、過於困難了。早期人工智慧的典型問題就是機(jī)器翻譯，例如美國國家研究理事會(huì)在1957年蘇聯(lián)第一顆名為Sputnik的人造衛(wèi)星發(fā)射成功後資助的蘇聯(lián)科學(xué)論文翻譯計(jì)畫，起初專案小組借助電子詞典簡單地試著將俄文單詞用英文代替，然而他們很快發(fā)現(xiàn)翻譯過程中只有對主題理解了才可能選擇正確的辭彙，而這項(xiàng)工作在當(dāng)時(shí)來講太難了，因此到1966年所有美國政府資助的翻譯專案都被迫中止了。許多人工智慧試圖解決的問題都過於廣泛、過於困難了。早期人工智在1971年，英國政府同樣中止了對人工智慧研究的支持。JamesLighthill爵士被大不列顛國家科學(xué)研究委員會(huì)任命來調(diào)查當(dāng)時(shí)人工智慧的發(fā)展?fàn)顮顟B(tài)，他沒能發(fā)現(xiàn)任何有關(guān)人工智慧的巨大成果，甚至明顯的結(jié)果也沒有，因而認(rèn)為沒有必要再保留一門獨(dú)立的“人工智慧”學(xué)科了。在1971年，英國政府同樣中止了對人工智慧研究的支持。Jam或許人工智慧在20世紀(jì)70年代最為重要的進(jìn)展就是認(rèn)識(shí)到了對智慧型機(jī)器研究的問題範(fàn)疇需要有充分的限制。之前，人工智慧研究者們確信可以發(fā)明一種聰明的搜尋演算法和推理技術(shù)來效仿通用的、類似於人類的解決問題的方法。其中一種通用搜尋機(jī)制可以依據(jù)於元素化的推理步驟來發(fā)現(xiàn)完整的解決方案並可以利用弱知識(shí)範(fàn)疇。專家系統(tǒng)技術(shù)，成功的關(guān)鍵(20世紀(jì)70年代初期～20世紀(jì)80年代中期)

或許人工智慧在20世紀(jì)70年代最為重要的進(jìn)展就是認(rèn)識(shí)到了對智當(dāng)這種弱方法失敗之後，研究者們終於認(rèn)識(shí)到獲得實(shí)用結(jié)果的唯一途徑是透過執(zhí)行更大的推理步驟來解決狹窄專業(yè)領(lǐng)域的特殊問題。當(dāng)這種弱方法失敗之後，研究者們終於認(rèn)識(shí)到獲得實(shí)用結(jié)果的唯一途DENDRALDENDRAL是由史丹佛大學(xué)開發(fā)，用來分析化學(xué)問題。這項(xiàng)計(jì)畫得到了美國航空及太空總署(NASA)的資助，因?yàn)楫?dāng)時(shí)計(jì)畫發(fā)射一艘無人太空船去火星，基於大規(guī)模光譜儀提供的大量光譜資料，需要設(shè)計(jì)程式來分析火星表面的土壤的分子結(jié)構(gòu)。EdwardFeigenbaum、BruceBuchanan(資訊科學(xué)家)和JoshuaLederberg(基因領(lǐng)域的諾貝爾獎(jiǎng)獲得者)組成了解決這一極具挑戰(zhàn)性問題的研究團(tuán)隊(duì)。沒有一種科學(xué)演算法可以完成大規(guī)模光譜圖與分子結(jié)構(gòu)之間的對應(yīng)關(guān)係。Feigenbaum的工作就是把Lederberg的專業(yè)知識(shí)用電腦程式來實(shí)作，使它達(dá)到人類專家的水準(zhǔn)，這種程式後來被命名為專家系統(tǒng)。DENDRALDENDRAL是由史丹佛大學(xué)開發(fā)，用來分析化學(xué)DENDRAL成為人工智慧領(lǐng)域主要的“變革典範(fàn)”：從一般目標(biāo)、知識(shí)匱乏以及弱方法到特定領(lǐng)域和高深知識(shí)技術(shù)的變革。

這個(gè)計(jì)畫的目標(biāo)是開發(fā)可以達(dá)到富有經(jīng)驗(yàn)的人類化學(xué)家水準(zhǔn)的電腦程式。借助於從人類專家那裏提煉出的特定高品質(zhì)規(guī)則—經(jīng)驗(yàn)定律(rules-of-thumb)—形式的啟發(fā)式研究方法，DENDRAL團(tuán)隊(duì)證明了電腦可以在特定的問題領(lǐng)域裏達(dá)到與人類專家等同的能力。

DENDRAL計(jì)畫開創(chuàng)了專家系統(tǒng)的嶄新方法基本理論即知識(shí)工程，它包含了以專家所熟知的規(guī)則捕捉、分析和表達(dá)的技術(shù)。DENDRAL成為人工智慧領(lǐng)域主要的“變革典範(fàn)”：從一般目標(biāo)MYCINMYCIN是一個(gè)用以診斷傳染性血液疾病的基於規(guī)則的專家系統(tǒng)，它還為醫(yī)生提供了方便、友善的使用者介面治療建議。MYCIN的知識(shí)體系包含了大約450種相互獨(dú)立的IF-THEN條件規(guī)則，這些是從廣泛的專家晤談。在一個(gè)狹小的知識(shí)領(lǐng)域裏總結(jié)出來的。這些以規(guī)則的形式組成的知識(shí)與推理機(jī)制完全分離，系統(tǒng)開發(fā)者因此可以輕易地透過插入或刪除一些規(guī)則來操控系統(tǒng)中的知識(shí)。例如史丹佛大學(xué)之後開發(fā)的被稱為EMYCIN(EmptyMYCIN)的獨(dú)立於任何特定領(lǐng)域的MYCIN版本。MYCINMYCIN是一個(gè)用以診斷傳染性血液疾病的基於規(guī)則的PROSPECTORPROSPECTOR是一個(gè)史丹佛研究院開發(fā)的用於勘探礦藏的專家系統(tǒng)。9位元專家為系統(tǒng)提供了專業(yè)知識(shí)和經(jīng)驗(yàn)。為了表達(dá)這些知識(shí)，PROSPECTOR系統(tǒng)採用了結(jié)合規(guī)則和語意網(wǎng)路的混合結(jié)構(gòu)，它具有上千個(gè)規(guī)則來表達(dá)廣泛的領(lǐng)域知識(shí)，還擁有一個(gè)包括知識(shí)獲得系統(tǒng)的複雜的系統(tǒng)支援函式庫。

系統(tǒng)首先要求作為探測地質(zhì)學(xué)家的使用者輸入待檢沉澱物的特徵：地質(zhì)框架、結(jié)構(gòu)、巖石和礦藏的種類；然後程式將這些特徵與礦石沉澱物模型進(jìn)行比對，如果需要的話還會(huì)要求使用者提供更多的資訊；最後，系統(tǒng)對待檢沉澱礦石物進(jìn)行評估並做出結(jié)論，還可以解釋做出相關(guān)決定的步驟。PROSPECTORPROSPECTOR是一個(gè)史丹佛研究院開1986年的一次普查(Waterman，1986)報(bào)告了在化學(xué)、電子、工程、地質(zhì)、管理、醫(yī)學(xué)、程序控制以及軍事科學(xué)等不同領(lǐng)域裏大量的專家系統(tǒng)成功應(yīng)用範(fàn)例。儘管Waterman發(fā)現(xiàn)了將近200個(gè)專家系統(tǒng)，但大多數(shù)應(yīng)用都集中在醫(yī)療診斷領(lǐng)域。7年後另一項(xiàng)類似調(diào)查(Durkin,1994)報(bào)告了超過2500個(gè)開發(fā)出的專家系統(tǒng)，新興的應(yīng)用領(lǐng)域是商業(yè)和製造業(yè)，佔(zhàn)到了應(yīng)用總數(shù)的60%。專家系統(tǒng)技術(shù)明顯成熟了。1986年的一次普查(Waterman，1986)報(bào)告了在化但是:專家系統(tǒng)侷限於非常狹小的專業(yè)領(lǐng)域。例如開發(fā)MYCIN系統(tǒng)是用於診斷傳染性血液疾病，它本身缺乏真正的人體生理學(xué)知識(shí)。如果病人所患疾病不止一個(gè)，我們就無法依靠MYCIN了。事實(shí)上，如果患有其他疾病的話，針對血液疾病的治療處方甚至?xí)怯泻Φ?。專家系統(tǒng)可以顯示用來解決問題的規(guī)則串列，但無法進(jìn)行相關(guān)性累積，也不具有對問題領(lǐng)域更深刻理解的啟發(fā)式知識(shí)。但是:專家系統(tǒng)侷限於非常狹小的專業(yè)領(lǐng)域。例如開發(fā)MYCIN系專家系統(tǒng)也很難進(jìn)行核對和驗(yàn)證。當(dāng)給定一項(xiàng)有別於標(biāo)準(zhǔn)問題的任務(wù)時(shí)，專家系統(tǒng)可能在嘗試解決它的過程中最終陷入出乎預(yù)料的失敗境地。

啟發(fā)式規(guī)則表現(xiàn)了知識(shí)的抽象形式，缺乏對領(lǐng)域的基本理解，這使得確認(rèn)非正確性、不完全性和不一致性知識(shí)的任務(wù)相當(dāng)困難。

專家系統(tǒng)、特別是第一代專家系統(tǒng)不具備從它們的經(jīng)驗(yàn)中學(xué)習(xí)的能力。專家系統(tǒng)的開發(fā)相對獨(dú)立而且無法進(jìn)行快速擴(kuò)展，複雜的系統(tǒng)要花費(fèi)超過30人年。專家系統(tǒng)也很難進(jìn)行核對和驗(yàn)證。當(dāng)給定一項(xiàng)有別於標(biāo)準(zhǔn)問題的任務(wù)在20世紀(jì)80年代中期，研究者、工程師和領(lǐng)域?qū)＜覀儼l(fā)現(xiàn)建造一個(gè)專家系統(tǒng)不只是需要買一套推理系統(tǒng)或?qū)＜蚁到y(tǒng)核心程式然後嵌入足夠多的規(guī)則那麼簡單，伴隨著人工智慧相關(guān)項(xiàng)目資助的嚴(yán)重削減，對於專家系統(tǒng)的技術(shù)可行性的醒悟甚至促使人們開始預(yù)測人工智慧的“冬季”即將來臨，人工智慧研究者決定重新審定神經(jīng)網(wǎng)路技術(shù)。

如何使機(jī)器學(xué)習(xí)，神經(jīng)網(wǎng)路的再生(20世紀(jì)80年代中期至今)

如何使機(jī)器學(xué)習(xí)，神經(jīng)網(wǎng)路的再生到20世紀(jì)60年代後期，神經(jīng)計(jì)算所必需的基礎(chǔ)理論和概念都已經(jīng)定型，然而直到80年代中期相對應(yīng)的解決方法才出現(xiàn)。造成滯後的原因之一是技術(shù)層面的：那時(shí)還沒有個(gè)人電腦或高性能工作站可用來進(jìn)行人工神經(jīng)網(wǎng)的模式化和測試。在20世紀(jì)80年代，由於仿腦資訊處理的需求、電腦科技的發(fā)展以及神經(jīng)科學(xué)的進(jìn)步，神經(jīng)網(wǎng)路領(lǐng)域經(jīng)歷了戲劇性的復(fù)甦。多個(gè)研究前沿領(lǐng)域在理論和設(shè)計(jì)兩方面都做出了重要的貢獻(xiàn)。到20世紀(jì)60年代後期，神經(jīng)計(jì)算所必需的基礎(chǔ)理論和概念都已經(jīng)Grossberg建立了自我組織(適應(yīng)諧振理論)的新原理，為神經(jīng)網(wǎng)路的新體系奠定了基礎(chǔ)(Grossberg，1980)。Hopfield為神經(jīng)網(wǎng)路引入了回授—Hopfield網(wǎng)路，這在20世紀(jì)80年代引產(chǎn)生了廣泛的關(guān)注(Hopfield，1982)

。Kohonen發(fā)表了有關(guān)自我組織對應(yīng)圖的論文(Kohonen，1982)

Barto、Sutton和Anderson發(fā)表了有關(guān)加強(qiáng)學(xué)習(xí)與其在控制中的應(yīng)用的論文(Bartoetal.，1983)。Grossberg建立了自我組織(適應(yīng)諧振理論)的新原理，為然而真正的突破是在1986年，Rumelhart和McClelland在ParallelDistributedProcessing(1986)一書中重新發(fā)明了向後傳送學(xué)習(xí)演算法(BPN:BackPropagationNetwork)，該演算法由Bryson和Ho於1969年首次提出(Bryson和Ho，1969)。

自從McCulloch和Pitts建立了早期模型以來，人工神經(jīng)網(wǎng)路已經(jīng)經(jīng)歷了很長的歷程而成為根植於神經(jīng)科學(xué)、心理學(xué)、數(shù)學(xué)和工程學(xué)的跨學(xué)科主題，並將繼續(xù)在理論和實(shí)際應(yīng)用方面得以發(fā)展。然而真正的突破是在1986年，Rumelhart和McCle知識(shí)工程的新時(shí)代，文字計(jì)算(20世紀(jì)80年代後期至今)

神經(jīng)網(wǎng)路技術(shù)比基於符號(hào)推理的系統(tǒng)能提供更多的與真實(shí)世界的自然互動(dòng)，它可以學(xué)習(xí)，與不同的問題環(huán)境變化相適應(yīng)，在規(guī)則未知的條件下也可以建立模式，並且可以處理模糊的不完整資訊。然而，神經(jīng)網(wǎng)路缺乏解釋功能，常常像黑盒子一樣工作，以目前的技術(shù)來處理神經(jīng)網(wǎng)路的訓(xùn)練還很耗時(shí)，而且頻繁的再訓(xùn)練可能帶來致命的困難。知識(shí)工程的新時(shí)代，文字計(jì)算神經(jīng)網(wǎng)路技術(shù)比基於符號(hào)推理的系統(tǒng)能傳統(tǒng)的專家系統(tǒng)特別適合於具有精確輸入和邏輯輸出的封閉式系統(tǒng)的應(yīng)用。它們以規(guī)則的形式利用專家知識(shí)，必要時(shí)還可以與使用者進(jìn)行互動(dòng)以建立特殊的事實(shí)。該系統(tǒng)最主要的缺點(diǎn)是人類專家不可能總是以規(guī)則的形式表達(dá)他們的知識(shí)或者闡明他們推理的界限，這可能會(huì)妨礙專家系統(tǒng)積累必要的知識(shí)，從而導(dǎo)致失敗。傳統(tǒng)的專家系統(tǒng)特別適合於具有精確輸入和邏輯輸出的封閉式系統(tǒng)的一項(xiàng)非常重要的處理模糊的、不精確或不確定知識(shí)和資料的技術(shù)是模糊邏輯。專家並非總是用機(jī)率值來思考問題，而是使用諸如經(jīng)常、一般、有時(shí)、偶爾和很少一類的術(shù)語。模糊邏輯則是使用模糊值來捕捉文字的涵義、人類的推理以及做出決定。模糊邏輯提供了突破傳統(tǒng)專家系統(tǒng)計(jì)算瓶頸的途徑。模糊邏輯的核心是依存於語言變數(shù)的概念，而語言變數(shù)的值並非數(shù)值而是文字。一項(xiàng)非常重要的處理模糊的、不精確或不確定知識(shí)和資料的技術(shù)是模模糊邏輯或模糊集理論是由柏克萊電子工程系主任LotfiZadeh教授於1965年提出的。它提供了一種採用文字進(jìn)行計(jì)算的方法。然而模糊集理論被科技社會(huì)接受的過程卻是很難、很緩慢，部分困難來自於它過激的名稱—“模糊”，似乎太隨便而難以被認(rèn)真對待。儘管模糊理論被西方所忽略，在東方卻被日本認(rèn)真地採納了，而且從1987年起被成功地應(yīng)用到他們自己設(shè)計(jì)的洗碗機(jī)、洗衣機(jī)、空調(diào)、電視、影印機(jī)甚至汽車上。

模糊邏輯或模糊集理論是由柏克萊電子工程系主任LotfiZa

模糊邏輯模型在基於知識(shí)和決策支援的系統(tǒng)中應(yīng)用的益處可以歸納為以下幾點(diǎn):計(jì)算能力的提高：基於模糊規(guī)則的系統(tǒng)比傳統(tǒng)的專家系統(tǒng)運(yùn)算速度快而且所需的規(guī)則少，模糊專家系統(tǒng)融合了相關(guān)規(guī)則，使其更為強(qiáng)大。LotfiZadeh確信用不了幾年，大多數(shù)的專家系統(tǒng)將會(huì)採用模糊邏輯來解決高階非線性和計(jì)算困難的問題。 模糊邏輯模型在基於知識(shí)和決策支援的系統(tǒng)中應(yīng)用的益處可以歸納認(rèn)知模型的改善：模糊系統(tǒng)允許知識(shí)以反映專家對複雜問題的思考模式進(jìn)行編碼，他們經(jīng)常以一些不精確的例如高矮、快慢、輕重的術(shù)語思考。為了構(gòu)建傳統(tǒng)的規(guī)則，我們必須定義這些術(shù)語明確的界限，從而將專門的知識(shí)分解成碎片，而這種碎片化導(dǎo)致傳統(tǒng)的專家系統(tǒng)在處理高複雜度問題時(shí)表現(xiàn)不佳。相反，模糊專家系統(tǒng)對不確定的資訊模式化，以更接近於專家心中的表達(dá)方式來捕捉專門的知識(shí)，從而改善了對問題的認(rèn)知模型。認(rèn)知模型的改善：模糊系統(tǒng)允許知識(shí)以反映專家對複雜問題的思考模具有多個(gè)專家的表達(dá)能力：傳統(tǒng)的專家系統(tǒng)建立在非常狹小的經(jīng)驗(yàn)範(fàn)疇裏，這使系統(tǒng)的表現(xiàn)完全依賴於對專家的正確選擇。當(dāng)需要構(gòu)建更為複雜的專家系統(tǒng)或?qū)ｉT的知識(shí)無法很好地被定義時(shí)，就需要多位元專家的參與。但是多位專家往往很難達(dá)成一致，經(jīng)常會(huì)有不同甚至對立的觀點(diǎn)，這些在商業(yè)和管理領(lǐng)域尤為突顯，當(dāng)其中並不存在一個(gè)簡單的解決方案，而不得不考慮對立的觀點(diǎn)。模糊專家系統(tǒng)能幫助我們表達(dá)有對立觀點(diǎn)的多位專家專門的知識(shí)。具有多個(gè)專家的