建構(gòu)整合決策樹(shù)與關(guān)連規(guī)則之資料挖礦架構(gòu)及實(shí)證研究_第1頁(yè)
建構(gòu)整合決策樹(shù)與關(guān)連規(guī)則之資料挖礦架構(gòu)及實(shí)證研究_第2頁(yè)
建構(gòu)整合決策樹(shù)與關(guān)連規(guī)則之資料挖礦架構(gòu)及實(shí)證研究_第3頁(yè)
建構(gòu)整合決策樹(shù)與關(guān)連規(guī)則之資料挖礦架構(gòu)及實(shí)證研究_第4頁(yè)
建構(gòu)整合決策樹(shù)與關(guān)連規(guī)則之資料挖礦架構(gòu)及實(shí)證研究_第5頁(yè)
已閱讀5頁(yè),還剩76頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

1、建構(gòu)整合決策樹(shù)與關(guān)連規(guī)則之資料挖礦架構(gòu)及實(shí)證研究期末報(bào)告組別:三資四B H24932128 謝殿臣資四B H24932089 黃孝慈資四B H24932437 顏?zhàn)饲嘧髡撸簵罹扒?一、緒論_研究背景及重要性隨著資訊科技的進(jìn)步,企業(yè)所記錄或儲(chǔ)存的大量資料,對(duì)於不同階層的使用者來(lái),資料代表著不同的意義與價(jià)值。當(dāng)大量的資料被企業(yè)儲(chǔ)存起來(lái),如何發(fā)揮與創(chuàng)造出資料價(jià)值變成為將資料由負(fù)債轉(zhuǎn)換資產(chǎn)的成功關(guān)鍵。2一、緒論_研究背景及重要性決策結(jié)果解釋(視覺(jué)化技術(shù))資料挖礦(資訊探索)資料探索(OLAP、統(tǒng)計(jì)分析、查詢報(bào)表)資料倉(cāng)儲(chǔ)、資料超市資料來(lái)源(資料庫(kù)系統(tǒng)、OLTP、檔案)資訊量 價(jià)值性決策者企業(yè)主管資料分

2、析者資料庫(kù)管理者圖1.1 企業(yè)中的資料階層3一、緒論_研究目的目的:事故排除方法: 建構(gòu)整合決策樹(shù)與關(guān)連規(guī)則之資料挖礦架構(gòu)及實(shí)證研究。實(shí)驗(yàn)對(duì)象: 以臺(tái)灣電力公司與某半導(dǎo)體廠兩個(gè)不同產(chǎn)業(yè)之案例做為實(shí)證,已檢驗(yàn)此資料挖礦架構(gòu)之效度。4一、緒論_論文結(jié)構(gòu)與研究流程1.2圖研究流程問(wèn)題定義與架構(gòu)問(wèn)題定義理論架構(gòu)結(jié)果分析與討論結(jié)論專家訪談實(shí)證研究一臺(tái)灣電力公司實(shí)證研究二某半導(dǎo)體大廠5二、文獻(xiàn)探討_知識(shí)發(fā)現(xiàn)與資料挖礦表2.2 資料挖礦的定義2.2圖 資料挖礦的四個(gè)循環(huán)確認(rèn)問(wèn)題類型評(píng)估挖礦結(jié)果採(cǎi)用適當(dāng)工具進(jìn)行挖礦工作6二、文獻(xiàn)探討_知識(shí)發(fā)現(xiàn)與資料挖礦2.3圖 資料挖礦過(guò)程的主要步驟問(wèn)題定義獲取相關(guān)領(lǐng)域知識(shí)選

3、取資料資料前置處理分析與解釋報(bào)告與使用資訊7二、文獻(xiàn)探討_知識(shí)發(fā)現(xiàn)與資料挖礦2.4圖 資料挖礦專案流程步驟2.5圖 適用各產(chǎn)業(yè)之資料挖礦架構(gòu)8二、文獻(xiàn)探討_資料挖礦模式與工具資料挖礦模式(Model)的六種形式資料挖礦模式(Model)分類迴歸時(shí)間序列分群關(guān)聯(lián)分析順序挖掘監(jiān)督式學(xué)習(xí)非監(jiān)督式學(xué)習(xí)9二、文獻(xiàn)探討_資料挖礦模式與工具2.6圖資料挖礦的技術(shù)資料挖礦(Data Mining)資料庫(kù)技術(shù)(Database Technology)統(tǒng)計(jì)學(xué)(Statistics)資訊科學(xué)(Information Science)機(jī)器學(xué)習(xí)(Machine Learning)視覺(jué)化技術(shù)(Visualization)

4、其他領(lǐng)域研究10二、文獻(xiàn)探討_資料挖礦挖掘結(jié)果類型資料挖礦所處理的問(wèn)題類型由上而下:利用現(xiàn)有的模型來(lái)建立資料,藉此來(lái)描述某一特定變數(shù)。由下而上:不需要特別標(biāo)註在某一變數(shù)或某一種値,而是試著尋找所有變數(shù)中是否有隱藏某種關(guān)係。分類(Classification)預(yù)測(cè)(Prediction) 分群(Clustering)關(guān)聯(lián)規(guī)則分析(Association Rule)資料挖礦所處理的問(wèn)題類型由上而下 由下而上 11二、文獻(xiàn)探討_資料挖礦工具資料挖礦屬於探索導(dǎo)向,不需事先假設(shè)以求驗(yàn)證。挖礦者需在一開(kāi)始就釐清處理的工作目的為何?資料挖礦工具依照解決的問(wèn)題類型與挖礦的目的而異。通常不會(huì)只使用單一工具來(lái)進(jìn)行

5、挖掘工作。12二、文獻(xiàn)探討_資料挖礦工具表2.3 挖礦問(wèn)題類型及可使用的工具 (附註:表工具可使用之挖掘問(wèn)題類型) 問(wèn)題類型 工具分類Classification預(yù)測(cè)Prediction關(guān)聯(lián)分組Affinity Grouping聚集分析Clustering基本統(tǒng)計(jì)關(guān)聯(lián)規(guī)則/購(gòu)物籃分析記憶基礎(chǔ)法遺傳演算法 聚類偵測(cè)法鍊結(jié)分析法決策樹(shù)類神經(jīng)網(wǎng)路13二、文獻(xiàn)探討_資料挖礦工具表2.4 資料挖掘工具的基本特性介紹的演算法如下:遺傳演算法類神經(jīng)網(wǎng)路Fuzzy Logic記憶基礎(chǔ)理解決策樹(shù)。使用14種特性作介紹。14二、文獻(xiàn)探討_資料挖礦工具表2.5資料挖礦工具間的比較(附註:表資料挖礦工具能表現(xiàn)的能力)

6、 工具表現(xiàn)能力Regression/ANOVA類神經(jīng)網(wǎng)路決策樹(shù)關(guān)聯(lián)規(guī)則模式使用上(Model free)對(duì)離群値的穩(wěn)定性(Robust to Outliers)具體解釋能力(Physical intertation)連續(xù)變數(shù)處理能力(Continuous outputs)類別變數(shù)處理能力(Discrete outputs)15二、文獻(xiàn)探討_關(guān)聯(lián)規(guī)則是最常被應(yīng)用的模式之一關(guān)聯(lián)規(guī)則分析(association Rule Analysis)從資料庫(kù)龐大的資料中,探索資料間欄位有趣的關(guān)係或相關(guān)性。購(gòu)物籃分析如何從日積月累的交易資料中,以有效的方法找出商品間的關(guān)聯(lián)性,進(jìn)而推斷消費(fèi)者購(gòu)買行為,創(chuàng)造無(wú)限商機(jī)

7、。16二、文獻(xiàn)探討_關(guān)聯(lián)規(guī)則定義與說(shuō)明進(jìn)行關(guān)聯(lián)規(guī)則挖礦時(shí),作業(yè)流程的兩大步驟找出所有的高頻項(xiàng)目組(Frequent Itemsets)高頻項(xiàng)目組所出現(xiàn)的次數(shù)必須大於等於事先定義的最小支持度數(shù)目。此步驟決定了整體作業(yè)的效能從找到高頻項(xiàng)目組產(chǎn)生關(guān)聯(lián)規(guī)則所產(chǎn)生的規(guī)則必須滿足決策者所給定支持度與信賴度的最低門檻値,規(guī)則才成立。17二、文獻(xiàn)探討_關(guān)聯(lián)規(guī)則定義與說(shuō)明定義描述18二、文獻(xiàn)探討_關(guān)聯(lián)規(guī)則定義與說(shuō)明關(guān)聯(lián)規(guī)則的成立必須滿足決策者所訂定之最小支持度(Minmum Support Threshold),和最小信賴度(Minmum Confidence Threshold)。有意義的關(guān)聯(lián)規(guī)則其支持度與信

8、賴度必須大於或等於所訂定之最小門檻値。增益指標(biāo)加入後,若增益大於1,則表示規(guī)則的預(yù)測(cè)結(jié)果比單純的亂數(shù)還要好,反之,則較差。19二、文獻(xiàn)探討_關(guān)聯(lián)規(guī)則定義與說(shuō)明若規(guī)則表示為X=Y,則1.支持度(Support)在規(guī)則(Rule)中,項(xiàng)目(Items)一起出現(xiàn)的交易暨路佔(zhàn)全部交易紀(jì)錄的百分比。最小支持度控制了一個(gè)關(guān)聯(lián)規(guī)則必須涵蓋的最少資料數(shù)目,以篩選掉不顯著的規(guī)則,在實(shí)務(wù)上才有應(yīng)用價(jià)値。支持度代表的意義為X與Y一起出現(xiàn)的機(jī)率。 20二、文獻(xiàn)探討_關(guān)聯(lián)規(guī)則定義與說(shuō)明若規(guī)則表示為X=Y,則2.信賴度(Confidence)代表此條規(guī)則的預(yù)測(cè)強(qiáng)度。X發(fā)生之下發(fā)生Y結(jié)果的機(jī)率足以使得此關(guān)聯(lián)規(guī)則得以成立。計(jì)

9、算在前提項(xiàng)目X發(fā)生的情況下,發(fā)生結(jié)果Y的機(jī)率。 21二、文獻(xiàn)探討_關(guān)聯(lián)規(guī)則定義與說(shuō)明若規(guī)則表示為X=Y,則3.增益(Lift or Improvement)比較信賴度與結(jié)果項(xiàng)目Y單獨(dú)發(fā)生時(shí)之機(jī)率兩者間的大小。關(guān)聯(lián)規(guī)則的條件機(jī)率比母體中原本發(fā)生的機(jī)率大才具有意義。 22二、文獻(xiàn)探討_關(guān)聯(lián)規(guī)則類型關(guān)聯(lián)規(guī)則類型1.以屬性質(zhì)的形態(tài)為基礎(chǔ)若挖礦規(guī)則焦點(diǎn)放在項(xiàng)目(Item)是否出現(xiàn),則稱為布林値的關(guān)聯(lián)規(guī)則(Boolean Association Rule) 。2.以規(guī)則中涵蓋資料維度為基礎(chǔ)若要挖礦的規(guī)則的項(xiàng)目或?qū)傩灾墼趩我痪S度時(shí),稱之為單一維度關(guān)聯(lián)規(guī)則(Single Dimensional Associ

10、ation Rule) 。3.以規(guī)則集合中所涵蓋的抽象層級(jí)(Level of Abstraction)為基礎(chǔ)規(guī)則屬性或是項(xiàng)目全為同一層級(jí),則稱為單一層級(jí)關(guān)聯(lián)規(guī)則(Single-Level Association Rule) 。23二、文獻(xiàn)探討_關(guān)聯(lián)規(guī)則類型2.7圖 概念層級(jí)樹(shù)24二、文獻(xiàn)探討_關(guān)聯(lián)規(guī)則演算法與特性表2.6 關(guān)聯(lián)規(guī)則演算法與特性演算法作者/年代主要特色缺點(diǎn)AprioriAgrawal(1994)反覆產(chǎn)生候選項(xiàng)目組,找出所有高頻項(xiàng)目組,進(jìn)而推導(dǎo)規(guī)則。需反覆搜尋資料庫(kù),花費(fèi)I/O時(shí)間。PartitionSavasere(1995)將資料庫(kù)分區(qū)段,找出個(gè)區(qū)段之高頻項(xiàng)目組並集合之,再次搜

11、尋資料庫(kù)找出真正高頻項(xiàng)目組。在各區(qū)段中會(huì)產(chǎn)生較多非相關(guān)項(xiàng)目組。DHPJong等人(1997)利用雜湊表(hash table)刪減不必要的候選項(xiàng)目組。一開(kāi)始會(huì)花時(shí)間建立hash tableBSMWur等人(1999)使用表格運(yùn)算方式產(chǎn)生高頻項(xiàng)目組,改善Apriori多次掃描資料庫(kù)的缺點(diǎn)。需事先轉(zhuǎn)換運(yùn)算表格。25二、文獻(xiàn)探討_關(guān)聯(lián)規(guī)則的應(yīng)用1.商業(yè)應(yīng)用藉由關(guān)聯(lián)規(guī)則方法了解顧客購(gòu)買行為的資訊,協(xié)助零售業(yè)在進(jìn)行商品擺放位置規(guī)畫(huà)。2.工業(yè)應(yīng)用利用關(guān)聯(lián)規(guī)則發(fā)展一彈性且有項(xiàng)的巢式製造系統(tǒng)(Cellular Manufacturing System) ,找出機(jī)臺(tái)間的最佳組合,形成群組技術(shù)(Group Tec

12、hnology) 。3.醫(yī)學(xué)應(yīng)用利用關(guān)聯(lián)規(guī)則做藥品櫥位管理,或以過(guò)去看診暨路檢式藥品使用量與方法是否正確,並可分析個(gè)病例特徵間關(guān)聯(lián)程度。26二、文獻(xiàn)探討_決策樹(shù)決策樹(shù)監(jiān)督式的特徵萃取演算法,廣泛應(yīng)用來(lái)解決分類(Classification)形態(tài)問(wèn)題的工具,亦可做為探索與預(yù)測(cè)之用。能夠?qū)⑤斎胱償?shù)依據(jù)某種規(guī)則或資料進(jìn)行分類,並以樹(shù)枝狀方式表現(xiàn)類別之間由輸入變數(shù)所造成的區(qū)別,因此決策樹(shù)可對(duì)資料進(jìn)行架構(gòu)的分類。27二、文獻(xiàn)探討_決策樹(shù)決策樹(shù)演算法的四大步驟1.決策樹(shù)的切割(Splitting)決策樹(shù)須將輸入的預(yù)測(cè)變數(shù)作分類,用以解釋目標(biāo)變數(shù)變異的原因。2.停止長(zhǎng)樹(shù)(Stopping)當(dāng)無(wú)法找出任何分隔

13、預(yù)測(cè)變數(shù)可以顯著降低下一節(jié)點(diǎn)的分散度,表示樹(shù)以生長(zhǎng)完整(Complete) 。28二、文獻(xiàn)探討_決策樹(shù)決策樹(shù)演算法的四大步驟3.評(píng)估(Assessment)評(píng)估整個(gè)決策樹(shù)的錯(cuò)分率(Misclassification) 或是評(píng)估每個(gè)節(jié)點(diǎn)的錯(cuò)誤率(Error Rate) 。公式如下:29二、文獻(xiàn)探討_決策樹(shù)決策樹(shù)演算法的四大步驟4.決策樹(shù)的修剪當(dāng)決策樹(shù)所生長(zhǎng)的層級(jí)越深時(shí),子節(jié)點(diǎn)的資料比數(shù)就會(huì)越來(lái)越少,資料的代表性就越低,所產(chǎn)生的法則可能會(huì)造成過(guò)度學(xué)習(xí)(Over Fitting)而產(chǎn)生偏差,此時(shí)演算法中就應(yīng)加修剪的步驟。找出錯(cuò)誤的分支給予修剪,如:CART、C4.5。以測(cè)試資料(Testing Da

14、ta)驗(yàn)證、抽樣方法來(lái)減少?zèng)Q策樹(shù)過(guò)度學(xué)習(xí)現(xiàn)象的發(fā)生。30二、文獻(xiàn)探討_決策樹(shù)2.11圖修剪對(duì)錯(cuò)誤率的影響31二、文獻(xiàn)探討_決策樹(shù)演算法表2.7 常用決策樹(shù)演算法之比較 演算法比較準(zhǔn)則常見(jiàn)幾種決策樹(shù)的演算法CARTID3C4.5CHAID作者(年代)Briemen(1984)Quinlan(1986)Quinlin(1993)Hartigan(1975)處理資料形態(tài)離散、連續(xù)離散、連續(xù)離散、連續(xù)離散分裂樹(shù)二元樹(shù)不受限制不受限制不受限制連續(xù)形資料處理方式分2枝不受限制不受限制無(wú)法處理分枝準(zhǔn)則Gini値Information GainGain_Ratio統(tǒng)計(jì)檢定(卡方分配)32二、文獻(xiàn)探討_決策樹(shù)於

15、事故診斷的相關(guān)研究表2.8 應(yīng)用決策樹(shù)於事故排出之相關(guān)研究研究者實(shí)證對(duì)象使用的演算法Braha&Shmilovici(2003)半導(dǎo)體黃光區(qū)C4.5鄭人傑(2003)晶圓過(guò)站記綠與CP測(cè)試値Kruskal-Wallis、卡方交互影響檢測(cè)、變異降低分枝法則劉中光(2002)印刷電路板(PCB)決策樹(shù)結(jié)合SOM方法Raghavan(2002)良率、IC E-T Test parameter利用決策樹(shù)(CART、CHAID) Fan(2001)WAT、InLine Manufacturing data決策樹(shù)蔡智政(2001)晶圓批量製程管制(LPC)資料以CART決策樹(shù)分析LPC李培瑞(2001)半

16、導(dǎo)體WAT資料、CP資料結(jié)合人工類神經(jīng)網(wǎng)路與決策樹(shù)林鼎浩(2000)半導(dǎo)體WAT與製造相關(guān)資料無(wú)母數(shù)Kruskal-Wallis統(tǒng)計(jì)檢定法33三、研究架構(gòu)_問(wèn)題定義透過(guò)清楚的問(wèn)題定義,瞭解問(wèn)題類型包含哪些類別,才知道有哪些是屬於關(guān)鍵性的資料。34三、研究架構(gòu)_資料選擇對(duì)領(lǐng)域知識(shí)及問(wèn)題有了基本的認(rèn)識(shí)之後,便是進(jìn)行資料選擇的工作,應(yīng)先對(duì)資料有進(jìn)一步的瞭解,而非將資料盲目的丟進(jìn)模式分析。資料取得的方式如下表:檔案(File)好處是取得快速且閱讀容易,但是一旦建立好以後日後想再做資料處理就不太容易處理,如:Microsoft Excel。關(guān)聯(lián)資料庫(kù)(Relational Databases)在關(guān)聯(lián)式資

17、料庫(kù)中,透過(guò)查詢工具語(yǔ)言(SQL)可以蒐集到想要的資料。資料倉(cāng)儲(chǔ)(Data Warehouse)資料量通常達(dá)數(shù)百M(fèi)ega甚至上Giga,資料讀取方式是以切割的觀念,並非巷資料庫(kù)連結(jié)表格的方式處理35三、研究架構(gòu)_資料前置處理一般資料可分成質(zhì)與量?jī)深悾|(zhì)的資料又分成空間性與時(shí)間性兩種,掘取欲分析的資料,並以去蕪存菁的方式轉(zhuǎn)化處理,才能確保分析資料的品質(zhì)和分析結(jié)果的正確性。資料前置處理的步驟需要不斷學(xué)習(xí)與經(jīng)濟(jì)累積。資料前置處理形式資料清理資料整合資料轉(zhuǎn)換資料化約。36三、研究架構(gòu)_資料前置處理資料前置處理通常會(huì)採(cǎi)取的動(dòng)作如下:1.資料的基本分佈與檢視: 對(duì)於資料的基本數(shù)理特性做醫(yī)界面性的檢視,分佈

18、為常 態(tài)、非常態(tài)、偏右、偏左等,瞭解資料的長(zhǎng)相與分佈以 便做後續(xù)處理。2.偏離值的檢測(cè)與處理: 對(duì)於散佈在正常分佈外的資料點(diǎn)作出處理,譬如直接刪 除還是保留其資訊。37三、研究架構(gòu)_資料前置處理3.空白值與缺值的處理: 空白值與缺值所代表的意義並不相同,空白值為無(wú)法 填入的資料;缺值則為資料的遺漏或錯(cuò)誤。要?jiǎng)h除該 筆資料或者以特殊方式補(bǔ)值,對(duì)於挖礦結(jié)果的解釋會(huì) 有不同的影響,所以須對(duì)資料有近一步的了解。4.資料為度轉(zhuǎn)換: 般而言高維度的資料計(jì)算複雜,所花費(fèi)的時(shí)間較 多,因此維度的降低亦是一種重要的課題。38三、研究架構(gòu)_資料前置處理5.資料格式化或分佈轉(zhuǎn)換: 資料處理時(shí),資料的格式轉(zhuǎn)換與其所代

19、表的相對(duì)意義都須 瞭解。資料格式化和轉(zhuǎn)換亦會(huì)挖掘出另層意義的結(jié)果。 般將資料數(shù)字分成四種不同的衡量尺度,名義尺度、順 序尺度、區(qū)間尺度、比例尺度衡量。39三、研究架構(gòu)_資料前置處理衡量的層次內(nèi)容說(shuō)明舉例名目尺度(Nominal Scale)又稱類別尺度,使用數(shù)字或標(biāo)記區(qū)分物件或事件,此尺度並無(wú)大小之分。機(jī)臺(tái)和貨批的編號(hào)等。順序尺度(Ordinal Scale)又稱等級(jí)尺度,就事務(wù)之某特質(zhì)好壞次序加以排列,有方向次序的比較,但沒(méi)有距離或獨(dú)特的原點(diǎn)。各種Bin值的分類、成績(jī)區(qū)間尺度(Interval Scale)以此尺度表現(xiàn)之變數(shù),可區(qū)分類別及排出大小順序之外,可算出差異之大小。區(qū)間尺度中,零點(diǎn)的

20、位置並非固定的,而且衡量的單位也是任意的。機(jī)臺(tái)的溫度、量測(cè)的參數(shù)比例尺度(Ratio Scale)可說(shuō)出名稱、排出順序、算出差距、亦可表示出比例的關(guān)係。比例尺度具有絕對(duì)零度的。化學(xué)藥劑使用量、重量40三、研究架構(gòu)_目標(biāo)與顯著變數(shù)的選取當(dāng)目標(biāo)變數(shù)與署醒確定後,接下來(lái)即確認(rèn)預(yù)測(cè)變數(shù)。為避免加入對(duì)目標(biāo)變數(shù)結(jié)果無(wú)顯著影響的資料,可利用統(tǒng)計(jì)方法檢定預(yù)測(cè)變數(shù)與目標(biāo)變數(shù)是否獨(dú)立。41三、研究架構(gòu)_目標(biāo)與顯著變數(shù)的選取變數(shù)衡量尺度對(duì)應(yīng)之統(tǒng)計(jì)檢定方法:獨(dú)立變數(shù)(Independent Variable)相依變數(shù)(Dependent Variable)變數(shù)尺度名目尺度順序尺度區(qū)間尺度名目尺度Chi-SquareC

21、hi-SquareChi-Square順序尺度Spearman積差相關(guān)區(qū)間尺度T-testANOVAT-test、ANOVA、K-W(無(wú)母數(shù)方法)Pearson相關(guān)Regression42三、研究架構(gòu)_目標(biāo)與顯著變數(shù)的選取K-W法適用資料分配不符合常態(tài),或是已確定其為非常態(tài)分佈的情況下,此種檢驗(yàn)對(duì)平均值差異敏感,可將此方法想像成一個(gè)對(duì)處理平均相等的檢驗(yàn)。K-W Test 其主要步驟如下:1.先將觀測(cè)值依遞增順序,然後以 取代觀測(cè)值。2.令 處理i知下秩的和。3.求檢定統(tǒng)計(jì)量。N為所有觀測(cè)值的數(shù)目43三、研究架構(gòu)_ K-W法 是第i個(gè)處理下的觀測(cè)值數(shù)目,N是所有觀測(cè)值的數(shù)目總和44三、研究架構(gòu)_

22、 K-W法(a)當(dāng)k=3, 時(shí),可查詢K-T test檢定附 表,決定機(jī)率值P-value, 如果P-value 則拒絕虛無(wú) 假設(shè),表示k可能不致。 (b) 當(dāng) ,則表示這K個(gè)處理中某些處理會(huì)產(chǎn)生 較其他處理為大的觀測(cè)值,可有效檢定在資料 非常態(tài)分佈時(shí)不同處理是有造成差異的原因。45三、研究架構(gòu)_資料挖礦與決策樹(shù)資料挖礦對(duì)於不同的資料賀企業(yè)問(wèn)題,不同的模式和演算法將可能產(chǎn)出最好的結(jié)果。決策樹(shù)決策樹(shù)會(huì)根據(jù)目標(biāo)變數(shù),將資料進(jìn)行適當(dāng)?shù)姆诸?,並以樹(shù)枝狀架構(gòu)呈現(xiàn)其分類結(jié)果。由分類結(jié)果亦可萃取出其分類的特徵規(guī)則。46三、研究架構(gòu)_關(guān)聯(lián)規(guī)則關(guān)聯(lián)規(guī)則關(guān)聯(lián)規(guī)則主要是從龐大資料中,探索資料間欄位的相關(guān)性,這些規(guī)則

23、展示了屬性值。在大量資料中找出有趣的規(guī)則,以便幫助使用者制定決策的依據(jù)。關(guān)聯(lián)規(guī)則步驟1.計(jì)算支持度2.找出所有的高頻項(xiàng)目組3.計(jì)算信賴度4.找出候選規(guī)則5.產(chǎn)生關(guān)聯(lián)規(guī)則6.整理Y為目標(biāo)變數(shù)之規(guī)則47三、研究架構(gòu)_整合決策樹(shù)與關(guān)聯(lián)規(guī)則工具決策樹(shù)關(guān)聯(lián)規(guī)則優(yōu)點(diǎn)明白指出最佳變數(shù)的能力產(chǎn)生易於了解的規(guī)則節(jié)省分類時(shí)的計(jì)算時(shí)間可處理連續(xù)與類別變數(shù)能完整的呈現(xiàn)各變數(shù)之影 響,與變數(shù)組合能產(chǎn)生簡(jiǎn)單明瞭的結(jié)論適用不同形式的原始資料計(jì)算模式簡(jiǎn)單易懂缺點(diǎn)當(dāng)類別太多時(shí),資料量小, 錯(cuò)誤會(huì)增加的比較快。無(wú)法 全面的看到各種變數(shù)的影響 程度對(duì)有時(shí)間順序的資料,需要 很多欲處理的工作結(jié)果多且凌亂,難已決定哪 一變數(shù)較重要與適

24、當(dāng)?shù)慕M合當(dāng)問(wèn)題變大時(shí),運(yùn)算量會(huì)成 幾何級(jí)數(shù)增加對(duì)於資料的個(gè)別資訊不甚重 視容易剷除罕見(jiàn)變數(shù)48三、研究架構(gòu)_解釋與評(píng)估挖礦的結(jié)果對(duì)於工程師而言是否有提供幫助,整個(gè)挖掘的過(guò)程是否有效率,皆是透過(guò)結(jié)果解釋與討論重複循環(huán),才可使得研究模式與結(jié)果更加完備。若挖掘出的樣形式有價(jià)值的,之後便可將相同屬性、類別的規(guī)則儲(chǔ)存至規(guī)則庫(kù),以建立自動(dòng)化的製程監(jiān)控的事故偵測(cè)與分類機(jī)制或是事故排除的決策支援系統(tǒng)。49四、實(shí)證研究本章針對(duì)於兩種不同類型之產(chǎn)業(yè)資料,以前述所提之研究方法進(jìn)行事故定位與事故診斷,以驗(yàn)證整合決策樹(shù)與關(guān)聯(lián)規(guī)則資料挖礦架構(gòu)之效度。50四、實(shí)證研究1_臺(tái)灣電力配電事故定位問(wèn)題定義配電事故為影響電力系統(tǒng)安

25、全性、可靠性以及供電品質(zhì)的重要因素。但這樣一連串的試驗(yàn)將對(duì)於線路造成損害,且也無(wú)法在短時(shí)間內(nèi)使供電恢復(fù),因此為提高供電品質(zhì),如何發(fā)展一個(gè)可以快速找到事故發(fā)生地點(diǎn)的方法,即成為電力公司所關(guān)心的議題。51四、實(shí)證研究1_臺(tái)灣電力配電事故定位資料選擇 本研究所採(cǎi)用之資料為臺(tái)電公司於 19951997 年間,針對(duì)臺(tái)北市區(qū)每次配電事故所記錄之配電事故紀(jì)錄表,共有 1649 筆資料,每筆配電事故資料皆記錄 23 項(xiàng)變數(shù)資料(如表 4.1)。首先針對(duì)損壞部位資料屬性進(jìn)行統(tǒng)計(jì)與圖表分析,以初步檢視資料之分佈樣型,其分佈如圖 4.1 所示。52四、實(shí)證研究1_臺(tái)灣電力配電事故定位資料前置處理 本案例為推導(dǎo)事故之

26、損壞設(shè)備與特殊的事故資料樣型,以快速的找到事故發(fā)生地點(diǎn)為目標(biāo),因此損壞部位屬性為本研究模式之目標(biāo)項(xiàng)。 最後本實(shí)證研究的輸入與目標(biāo)屬性如表 4.2 所示。 53四、實(shí)證研究1_臺(tái)灣電力配電事故定位目標(biāo)與顯著變數(shù)的選取 為推導(dǎo)事故之損壞設(shè)備與特殊的事故資料樣型,以快速的找到事故發(fā)生地點(diǎn)為目標(biāo),因此損壞部位為模式之目標(biāo)變數(shù),共 60 項(xiàng)變數(shù)值。由於輸入變數(shù)已刪除在找出事故地點(diǎn)之前並無(wú)法獲得資料,剩 8 個(gè)輸入變數(shù),經(jīng)由與工程師討論後,並不需刪減多餘變數(shù),因此,直接將表 4.2 中的變數(shù)丟入模式中。54四、實(shí)證研究1_臺(tái)灣電力配電事故定位資料挖礦-以關(guān)聯(lián)規(guī)則推導(dǎo)顯著事故定位規(guī)則經(jīng)由資料的前置處理(圖

27、4.2)後,將資料格式轉(zhuǎn)換為能以挖礦模式建構(gòu)分析的資料格式,設(shè)定參數(shù)後,推導(dǎo)顯著關(guān)聯(lián)規(guī)則。研究設(shè)定最小支持度為 1.67,最小信賴度為 50,而增益則需大於 1,參數(shù)設(shè)定依據(jù)如下。支持度信賴度增益55四、實(shí)證研究1_臺(tái)灣電力配電事故定位資料挖礦-以關(guān)聯(lián)規(guī)則推導(dǎo)顯著事故定位規(guī)則評(píng)估規(guī)則好壞的參數(shù)錯(cuò)分率(FP),希望所推導(dǎo)之規(guī)則,皆在所能容忍之決策風(fēng)險(xiǎn)下,因在此加入 ROC Curve 的觀念,隨著不同的臨界值條件下,TP比率與 FP比率變化所構(gòu)成的特徵曲線,如圖 4.3 所示。關(guān)聯(lián)規(guī)則若有較大的 TP與較小的 FP,則此規(guī)則是較佳的。在此驗(yàn)證中,錯(cuò)分率小於 0.25。 56四、實(shí)證研究1_臺(tái)灣電

28、力配電事故定位資料挖礦-以關(guān)聯(lián)規(guī)則推導(dǎo)顯著事故定位規(guī)則由表 4.3 可知,關(guān)聯(lián)規(guī)則結(jié)果僅與高壓電纜、用戶設(shè)備、高壓電纜直線接頭以及熔絲鏈開(kāi)關(guān)四種損壞設(shè)備有關(guān)。在損壞設(shè)備為高壓電纜直線接頭與熔絲鏈開(kāi)關(guān)所找出之規(guī)則,雖其信賴度只介於50%70%,但其規(guī)則之錯(cuò)分率相當(dāng)?shù)?,仍可容忍決策風(fēng)險(xiǎn)之內(nèi)(0.25),因此,所找出之顯著規(guī)則是好的,可藉由此規(guī)則推斷出損壞部位。 57四、實(shí)證研究1_臺(tái)灣電力配電事故定位資料挖礦-以決策樹(shù)挖掘顯著分類規(guī)則 利用 780 筆資料進(jìn)行資料篩選,首先選出具有 13 筆資料以上之損壞部位,挑選過(guò)後僅剩下 650 筆資料以及 12 種損壞部位。以初步的簡(jiǎn)化模式,形成決策樹(shù)的輸入

29、資料。其資料處理過(guò)程如圖 4.4 。針對(duì)此 699 筆資料進(jìn)行資料分佈之繪製,可得圖 4.5 之次數(shù)分佈圖。 58四、實(shí)證研究1_臺(tái)灣電力配電事故定位資料挖礦-以決策樹(shù)挖掘顯著分類規(guī)則 本研究決策樹(shù)所使用軟體為 Scenario,其演算法的結(jié)果類似 CHAID,若針對(duì)連續(xù)型的目標(biāo)變數(shù)是以F-Test作為分枝方法,若針對(duì)間斷型的變數(shù),其以Chi-Square Test 作為分枝準(zhǔn)則。在長(zhǎng)樹(shù)的過(guò)程設(shè)定上,枝葉中顯著目標(biāo)變數(shù)值資料最少需有 13 筆資料,且下一層的子集合純度一定要比上一層的母集合(Parentsubset)較高,且下一層子集合正確率(純度)需大於 50%,以使得枝葉具有絕對(duì)之顯著程度

30、,以及最多有三層枝葉等。 59四、實(shí)證研究1_臺(tái)灣電力配電事故定位解釋與評(píng)估 決策樹(shù)提供影響目標(biāo)變數(shù)之關(guān)鍵預(yù)測(cè)變數(shù)資訊,提供工程師快速且準(zhǔn)確之事故定位資訊參考。決策樹(shù)的結(jié)果呈現(xiàn)上,會(huì)將影響最大的變數(shù)放在第一層,且顯示變數(shù)之間的相對(duì)關(guān)係,但這樣的作法會(huì)將其他變數(shù)之影響分散在較下層的枝葉中,而無(wú)法全面的看到各種變數(shù)的影響程度。關(guān)聯(lián)規(guī)則之結(jié)果為針對(duì)整體資料而言,顯示各關(guān)聯(lián)規(guī)則之顯著性,其優(yōu)點(diǎn)為能夠更完整的呈現(xiàn)各變數(shù)之影響,缺點(diǎn)則是關(guān)聯(lián)規(guī)則之結(jié)果多且零亂。 60四、實(shí)證研究1_臺(tái)灣電力配電事故定位解釋與評(píng)估本案例之研究目的,在特定決策環(huán)境下推測(cè)配電事故的樣型,減少事故定位所需的時(shí)間,因此,在顯著關(guān)聯(lián)規(guī)

31、則的篩選,加入 ROC 曲線中的錯(cuò)分率概念,以期望每筆決策規(guī)則,都在工程師可容忍的風(fēng)險(xiǎn)下。61四、實(shí)證研究2_以某半導(dǎo)體廠工程資料為實(shí)證對(duì)象 問(wèn)題定義半導(dǎo)體產(chǎn)品製造製程中,若有貨批出現(xiàn)了低良率的問(wèn)題,這將會(huì)導(dǎo)致工廠的生產(chǎn)力下滑及製造成本的增加。因此,我們必須回溯相關(guān)的製造資料並尋找影響良率的原因,以儘快解決此製程問(wèn)題。62四、實(shí)證研究2_以某半導(dǎo)體廠工程資料為實(shí)證對(duì)象資料選擇 積體電路的製程相當(dāng)複雜,往往需經(jīng)過(guò)數(shù)百個(gè)不同的站別、流程才完成。且加上產(chǎn)品特性差異,因而製造程式等種種環(huán)境參數(shù)亦會(huì)有所不同。在生產(chǎn)製造的過(guò)程中,會(huì)累積大量產(chǎn)品經(jīng)過(guò)電性測(cè)試或是物理特性監(jiān)控量測(cè)的結(jié)果,以檢驗(yàn)產(chǎn)品是否在規(guī)格內(nèi)

32、的資料。整個(gè)資料蒐集流程可見(jiàn)圖 4.6。 63四、實(shí)證研究2_以某半導(dǎo)體廠工程資料為實(shí)證對(duì)象資料選擇資料類型大概可以分成幾大類:WIP 類型(Wafer In Process)Metrology 類型Defect 類型Parametric 類型Bin Map類型Non-Lot類型大量的製程資料,記錄了晶圓在製造與測(cè)試的種種狀況。因此工程師便可以透過(guò)工程資料分析系統(tǒng)瞭解產(chǎn)品的生產(chǎn)測(cè)試狀況,以進(jìn)行製程的改善與事故診斷。 64四、實(shí)證研究2_以某半導(dǎo)體廠工程資料為實(shí)證對(duì)象資料前置處理 工程資料主要可分為四部分:基本資料、歷史資料、CP 資料、WAT 資料。經(jīng)過(guò)前置處理後,可從圖 4.7 良率分佈圖中

33、見(jiàn),CP 良率值大致可區(qū)分成兩群,以 60 為分界值,將 CP 良率值大於等於 60 為高良率,小於 60 為低良率(與 k-mean 分群的結(jié)果相同,圖 4.8)。65四、實(shí)證研究2_以某半導(dǎo)體廠工程資料為實(shí)證對(duì)象目標(biāo)與顯著變數(shù)的選取首先,利用 Kruskal-Wallis 檢定來(lái)檢測(cè)是否在屬性之各層級(jí)下,其目標(biāo)變數(shù)晶片針測(cè)良率是否具有顯著的差異。在此所設(shè)定的顯著水準(zhǔn)為0.05。Kruskal-Wallis 檢定選取出 36 的顯著的候選屬性,由 P-value 由小排到大。66四、實(shí)證研究2_以某半導(dǎo)體廠工程資料為實(shí)證對(duì)象資料挖礦-決策樹(shù)分析以萃取特徵將目標(biāo)資料分成兩群,cluster 1 為所定義之高良率,cluster 2 為所定義之低良率,經(jīng)

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論