第十一章-方差分析與試驗設(shè)計-課件

第十一章方差分析與

試驗設(shè)計第十一章方差分析與

試驗設(shè)計1方差分析導(dǎo)論方差分析多重比較方法試驗設(shè)計（完全隨機化試驗設(shè)計、隨機化區(qū)組設(shè)計、雙因素方差分析）方差分析導(dǎo)論2方差分析導(dǎo)論之前已經(jīng)討論過對于雙總體均值差異的假設(shè)檢驗，那么如果是三個或三個以上的總體均值差異比較的檢驗?zāi)?？先看一個現(xiàn)實例子：某公司有下屬甲、乙、丙三家工廠生產(chǎn)主要產(chǎn)品。為了確定這些工廠中有多少員工了解全面質(zhì)量管理，從每個工廠中抽取一個由6名員工組成的樣本，對這些樣本進行質(zhì)量管理有關(guān)知識的考核。得到了下表所示的考試分?jǐn)?shù)：方差分析導(dǎo)論之前已經(jīng)討論過對于雙總體均值差異的假設(shè)檢驗，那么3員工代號工廠甲工廠乙工廠丙185715927575643827362476746957169756858267員工代號工廠甲工廠乙工廠丙185715927575643824公司想知道：下屬的三個工廠工人在質(zhì)量管理知識掌握上是否有差異？因此相應(yīng)的檢驗假設(shè)為：；Ha:u1,u2,u3不全相等該例題中，響應(yīng)變量(responsevariables)為工人考分；因素(factor)為工廠；各工廠的名稱所屬為處理(Treatment)我們本章引入的方差分析方法就是用來檢驗：三個或三個以上總體均值的方法。如果拒絕了H0,則說明：三個或三個以上的總體均值不全相等；至少有兩個總體均值不同。公司想知道：下屬的三個工廠工人在質(zhì)量管理知識掌握上是否有差異5進行方差分析之前有幾個假設(shè)：1.對于每個總體，響應(yīng)變量服從正態(tài)分布；2.對于所有總體，響應(yīng)變量的方差相同；3.觀測值是獨立的。進行方差分析之前有幾個假設(shè)：6方差分析的原理：如果H0：u1=u2=u3為真，且滿足以上假定時，對于三個樣本均值都來自同一個抽樣分布，那么此時該總體的均值估計(或稱為)可以用三個樣本均值的算術(shù)平均數(shù)來估計。方差分析的原理：7此時的總體方差的估計可以由：此時可以由樣本的組間方差估計得到；也可以通過樣本的組內(nèi)方差的平均值估計。在H0為真的情況下，二者的比值應(yīng)接近于1。組間方差：組內(nèi)估計：此時的總體方差的估計可以由：8如果H0：u1=u2=u3為假，說明總體均值不全相等，他們來自不同的抽樣分布。此時的樣本均值不接近。相應(yīng)的，組間方差增大。此時的組間方差不適合估計且組間方差和組內(nèi)方差的比值遠(yuǎn)大于1.如果H0：u1=u2=u3為假，說明總體均值不全相等，他們來9由上例計算:可見，總體方差的組間估計遠(yuǎn)大于組內(nèi)估計，比率為9.如前所述，當(dāng)總體方差的組間估計與組內(nèi)估計的比值較大時，可能導(dǎo)致拒絕原假設(shè)，那么多大的程度可以拒絕H0的原假設(shè)呢？由上例計算:10方差分析的思想：比較總體方差的組間估計和組內(nèi)估計：組間估計是以樣本均值間的變動來估計總體方差組內(nèi)估計是合并每個樣本內(nèi)的變動來估計總體方差比較總體方差的組內(nèi)估計和組間估計在各總體均值無差異時，這兩個估計應(yīng)很接近若兩個估計很接近，則不能否定各總體均值無差異若兩個估計不是很接近，則按照一定的原則否定各總體均值無差異的假定方差分析的思想：比較總體方差的組內(nèi)估計和組間估計在各總體均值11方差分析根據(jù)之前對方差分析原理的闡述，我們可以用判斷樣本方差比值的方法對k個總體均值進行檢驗。假設(shè)從k個總體或處理中選擇一個樣本容量為n的簡單隨機樣本。我們有以下定義，方差分析根據(jù)之前對方差分析原理的闡述，我們可以用判斷樣本方差12其中，nT＝n1+n2+…+nk其中，nT＝n1+n2+…+nk13若每個樣本的樣本容量相等,則總樣本平均值為:即總體均值恰好等于k個樣本均值的算術(shù)平均數(shù).若每個樣本的樣本容量相等,則總樣本平均值為:14定義總體方差的組間估計和組內(nèi)估計的組間估計:MSTR稱為處理均方(meansquareduetotreatments)其中,MSTR的分子稱為處理平方和SSTR(sumofsquaresduetotreatments)定義總體方差的組間估計和組內(nèi)估計15的組內(nèi)估計:MSE稱為組內(nèi)均方(meansquareduetoerror)其中,MSE的分子稱為組內(nèi)平方和,(sumofsquareduetoerror)若H0為真,組間估計是總體方差的無偏估計;若H0為假,組間估計得到的則偏大.不論H0真或假,組內(nèi)估計都是總體方差的無偏估計.組內(nèi)估計反映每個處理內(nèi)部的變動.的組內(nèi)估計:16定義方差分析的統(tǒng)計量F統(tǒng)計量的構(gòu)造:兩個chi方分布被各自自由度除以后的比值.在響應(yīng)變量服從獨立正態(tài)分布的假定下,且H0為真時,我們可以推知,SSTR/,SSE/分別服從自由度為(K-1)和(nT-k)的chi方分布.根據(jù)F分布的構(gòu)造,可知,統(tǒng)計量F=MSTR/MSE~F(k-1,nT-k)服從自由度為k-1和nT-k的F分布.由上例的數(shù)據(jù)計算可得,樣本F統(tǒng)計量為F=258/28.67=9定義方差分析的統(tǒng)計量17方差分析的拒絕規(guī)則:H0:u1=u2=…=uk;Ha:u1,u2,…,uk不全相等在顯著水平α下的拒絕規(guī)則為:若F>F(α;k-1,nT-k),則拒絕H0的原假設(shè),認(rèn)為總體1,總體2,….總體k的均值不全相等.上例中的拒絕域是,F>F(0,05,2,15)=3.68即當(dāng)由樣本信息計算得到的F統(tǒng)計量大于3.68時,拒絕初始假設(shè)H0.因為9>3.68,我們拒絕三個總體均值無差異的假設(shè).方差分析的拒絕規(guī)則:18αF=MSTR/MSEF(α;k-1,nT-k)αF=MSTR/MSEF(α;k-1,nT-k)19方差分析表(ANOVA)方差來源平方和自由度均方(meansquare)F統(tǒng)計量組間(處理)SSTRK-1MSTRMSTR/MSE組內(nèi)(誤差)SSEnT-kMSE合計SSTnT-1方差分析表(ANOVA)方差來源平方和自由度均方(mean20方差分析就是將總得平方和及自由度分解為相應(yīng)的來源:處理和誤差.當(dāng)各樣本的容量相等時,方差分析就是將總得平方和及自由度分解為相應(yīng)的來源:處理和誤差21多重比較方法之前討論的方差分析檢驗原假設(shè)時,只能得到所有總體均值是否相等的結(jié)論,但具體到若干個配對總體均值是否相等,就不能得出準(zhǔn)確結(jié)論.多重比較方法:FisherLSD方法(LeastSignificantDifference)該法是對總體方差估計稍微做出修改得出,別切給予兩個總體情形的t檢驗統(tǒng)計量.多重比較方法之前討論的方差分析檢驗原假設(shè)時,只能得到所有總體22LSD方法的多重比較步驟1.H0:ui=uj;Ha:ui≠uj2.檢驗統(tǒng)計量3.拒絕規(guī)則為:如果t>t(a/2)或t<-t(a/2),則拒絕H0其中的t分布自由度為(nT-k)LSD方法的多重比較步驟1.H0:ui=uj;Ha:23上例,我們對甲乙丙三家工廠的員工測試表明,三家工廠員工對質(zhì)量管理的知識認(rèn)同沒有達(dá)到一致.但具體是哪兩家工廠間,或所有工廠間出現(xiàn)了認(rèn)識差異呢?用LSD多重比較方法分別對甲乙、甲丙、乙丙來進行判斷,相應(yīng)的變量為：n1=n2=n3=6,k=3,nT=18;MSTR=258;MSE=28.67上例,我們對甲乙丙三家工廠的員工測試表明,三家工廠員工對質(zhì)量24H0:u1=u2;Ha:u1≠u2在假定H0為真的情形下，有統(tǒng)計量t服從自由度為15的t分布此時，t<t(0.025;15)=2.131不能拒絕H0，不能得出甲乙兩廠工人對質(zhì)量認(rèn)知有差異的結(jié)論。H0:u1=u2;Ha:u1≠u225H0:u1=u3;Ha:u1≠u3在假定H0為真的情形下，有統(tǒng)計量t服從自由度為15的t分布此時，t>t(0.025;15)=2.131拒絕H0，可以得出甲丙兩廠工人對質(zhì)量認(rèn)知有差異的結(jié)論。H0:u1=u3;Ha:u1≠u326H0:u2=u3;Ha:u2≠u3在假定H0為真的情形下，有統(tǒng)計量t服從自由度為15的t分布此時，t<t(0.025;15)=2.131拒絕H0，得出乙丙兩廠工人對質(zhì)量認(rèn)知有差異的結(jié)論。H0:u2=u3;Ha:u2≠u327換句話說，通過判斷統(tǒng)計量（樣本均值間的差值），可以判定是否拒絕H0.假設(shè)，H0:ui=uj;Ha:ui≠uj統(tǒng)計量為拒絕法則為：若，則拒絕H0其中換句話說，通過判斷統(tǒng)計量（樣本均值間的差值），可以判定是否拒28我們用該法來對甲乙丙三個工廠進行多重比較。由題意，可計算即判斷，樣本均值差是否大于6.59,即可判定兩總體均值是否有差異。（無法得出甲乙總體均值有差異）（乙丙兩廠總體均值有差異）（甲丙兩廠總體均值有差異）我們用該法來對甲乙丙三個工廠進行多重比較。29利用LSD方法對兩個總體均值之差進行置信區(qū)間估計：由上例可知，U1-u2的95%置信區(qū)間為：U1-u3的95%置信區(qū)間為：U2-u3的95%置信區(qū)間為：若區(qū)間包含0值，則不能拒絕兩總體均值相等的假設(shè)；若區(qū)間不包含0值，則得出兩總體均值不等的結(jié)論。利用LSD方法對兩個總體均值之差進行置信區(qū)間估計：30關(guān)于第一類錯誤的概率1、FISHERLSD方法的使用前提是：方差分析是我們有證據(jù)拒絕所有總體均值相等的假設(shè)。2、比較性第一類錯誤概率與實驗性第一類錯誤概率：我們用LSD方法分別對兩兩配對總體進行了比較，在每個檢驗中，都將顯著水平設(shè)定為5%，對于每一個檢驗，犯第一類錯誤的概率是5%,在多重比較問題中，這個第一類錯誤概率稱為比較性第一類錯誤概率。關(guān)于第一類錯誤的概率31在以上三個比較過程中，至少有一次犯第一類錯誤的概率應(yīng)為：1-0.95^3=0.1426這個概率稱為試驗性第一類錯誤概率。將其記為：3、Bonferroni修正在多重比較問題中，若有k個總體，則有，這時，對α＝5%，若k＝5，則試驗性第一類錯誤概率為，顯然，要使試驗性第一類錯誤概率降低，我們要減少α的設(shè)定，我們令，該值稱為Bonferroni修正。在以上三個比較過程中，至少有一次犯第一類錯誤的概率應(yīng)為：32由上例可知，k=3，經(jīng)過修正的α值應(yīng)為0.05/3=1.7%，即需要選擇比較性第一類錯誤概率α=1.7%4、若樣本容量固定，則在多重檢驗中減少第一類錯誤概率，將增加犯第二類錯誤的概率。因此在多重比較檢驗中取較小的比較性第一類錯誤概率，必定要冒第二類錯誤的風(fēng)險。由上例可知，k=3，經(jīng)過修正的α值應(yīng)為33試驗設(shè)計：完全隨機化設(shè)計某公司開發(fā)一種新的城市供水過濾設(shè)備，購得元件后，由屬下一家工廠負(fù)責(zé)裝配。工程部確定了三種最佳裝配方法，并從全體裝配工人隨機抽取了若干名工人進行操作，目的是要比較三中裝配方法的優(yōu)劣。在這項研究中，響應(yīng)變量為裝配元件個數(shù)；因素為裝配方法；處理為方法1、方法2、方法3（分別對應(yīng)三個總體）；試驗單元：被抽到的每個工人。在該試驗中，三個總體分別是：使用裝配方法1的全體員工；使用裝配方法2的全體員工；使用裝配方法3的全體員工。試驗設(shè)計：完全隨機化設(shè)計某公司開發(fā)一種新的城市供水過濾設(shè)備，34這個試驗設(shè)計稱為完全隨機化設(shè)計，它要求將三種裝配方式的其中一個隨機分配給工人，例如方法1隨機分配給第一名工人；方法2隨機分配給第二名工人；方法3隨機分配給第三名工人。即每個工人接受任一裝配方法的機會相等。所有的裝配工進行試驗抽取15名工人做為隨機樣本將每一種裝配方法隨機指派給5個工人方法1n1=5方法2n2=5方法3n3=5這個試驗設(shè)計稱為完全隨機化設(shè)計，它要求將三種裝配方式的其中一35當(dāng)數(shù)據(jù)來自完全隨機化試驗設(shè)計是，為檢驗均值是否相等的假設(shè)，我們可以使用之前敘述的方差分析方法。工人號方法1方法2方法315858482646957355715946664475676849樣本均值626652樣本方差27.226.531樣本標(biāo)準(zhǔn)差5.245.155.57當(dāng)數(shù)據(jù)來自完全隨機化試驗設(shè)計是，為檢驗均值是否相等的假設(shè)，我36根據(jù)之前方差分析的步驟，我們分別計算主要統(tǒng)計量，MSTR,MSE及F根據(jù)之前方差分析的步驟，我們分別計算主要統(tǒng)計量，MSTR,M37進行假設(shè)設(shè)定：H0:u1=u2=u3;Ha:u1,u2,u3不全相等檢驗統(tǒng)計量F，F(xiàn)=MSTR/MSE在原假設(shè)為真，所有總體滿足正態(tài)分布假定，且所有觀測值獨立的前提下，該統(tǒng)計量服從自由度為（2，12）的F分布。由樣本計算F值F=260/28.33=9.18在顯著水平為5%下，檢驗的拒絕域為：F>F(0.05;2,12)=3.89進行假設(shè)設(shè)定：38由于F=9.18>3.89,說明拒絕H0原假設(shè)，即三種裝配方法的平均產(chǎn)量有差異。相應(yīng)的ANOVA表方差來源平方和自由度均方(meansquare)F統(tǒng)計量組間(處理)52022609.18組內(nèi)(誤差)3401228.33合計86014由于F=9.18>3.89,說明拒絕H0原假設(shè)，即三種裝配方39試驗設(shè)計：隨機化區(qū)組設(shè)計什么叫隨機化區(qū)組設(shè)計當(dāng)試驗單元同質(zhì)時，完全隨機設(shè)計有效；若試驗單元異質(zhì)，則需要采用隨機化區(qū)間設(shè)計。這個設(shè)計的目的就是通過剔除MSE項中的外部來源方差，來得到實際誤差方差的最佳估計。隨機化區(qū)組設(shè)計由b個區(qū)組所組成，每個區(qū)組包含k個試驗單位。K個處理被隨機的指派給每個區(qū)組中的單位，且每個處理在每個區(qū)組中只出現(xiàn)一次。試驗設(shè)計：隨機化區(qū)組設(shè)計什么叫隨機化區(qū)組設(shè)計40例：一項對3種不同包裝設(shè)計的顧客偏好研究采用隨機化區(qū)組試驗設(shè)計，在4個超級市場進行。該試驗進行了3周。超級市場包裝1包裝2包裝31173423215262131238462216例：一項對3種不同包裝設(shè)計的顧客偏好研究采用隨機化區(qū)組試驗設(shè)41表中給出的是每個超級市場在給定三周內(nèi)每周每種包裝設(shè)計售出的單位數(shù)。問這些數(shù)據(jù)是否可以提供足夠的證據(jù)表明各種包裝設(shè)計的平均銷售量有差異？在純隨機設(shè)計中，包裝設(shè)計被隨機的指派到每個超級市場，然而由題可知，超級市場由于受到地域、人流量等的因素影響，存在異質(zhì)性。因此總體方差的組內(nèi)估計MSE除了誤差的影響以外，還受到市場間的異質(zhì)而導(dǎo)致的誤差。因此，如果仍采用純隨機設(shè)計的方差分析方法，則可能產(chǎn)生錯誤的結(jié)果。表中給出的是每個超級市場在給定三周內(nèi)每周每種包裝設(shè)計售出的單42SST=SSTR+SSBL+SSE總方差可以分解為：分解為處理平方和（SSTR），區(qū)組平方和（SSBL）以及誤差平方和（SSE）其中，k為處理個數(shù)，b為區(qū)組數(shù)，nT為總的樣本大小，SST=SSTR+SSBL+SSE43方差來源平方和自由度均方(meansquare)F統(tǒng)計量處理SSTRk-1MSTRMSTR/MSE區(qū)組SSBLb-1MSBL誤差SSE(k-1)(b-1)MSE合計SSTnT-1方差來源平方和自由度均方(meansquare)F統(tǒng)計量處44由例題計算得到各統(tǒng)計量:

SSE=SST-SSTR-SSBL=45.5由例題計算得到各統(tǒng)計量:45由例題計算得到各統(tǒng)計量:方差來源平方和自由度均方(meansquare)F統(tǒng)計量處理547.1672273.48336.08區(qū)組3483116誤差45.567.58合計940.66711由例題計算得到各統(tǒng)計量:方差來源平方和自由度均方(mean46同樣的，我們也可以根據(jù)統(tǒng)計量F=MSTR/MSE的抽樣分布來判定處理均值之間的差異。在假定H0為真，總體滿足正態(tài)分布，且觀測值獨立的情形下，統(tǒng)計量F服從自由度為（k-1,(k-1)*(b-1))的F分布。拒絕規(guī)則為：若F>F(a;k-1,(k-1)*(b-1))，則拒絕H0的原假設(shè)。本例的F統(tǒng)計量為36.08>10.92，因此我們拒絕原假設(shè)，認(rèn)為各種包裝設(shè)計的平均銷售量有差異。同樣的，我們也可以根據(jù)統(tǒng)計量F=MSTR/MSE的抽樣分布來47例：空中交管員的壓力測試一項研究通過衡量空中交通管制員的工作壓力，建議改造并重新設(shè)置管制員工作站。設(shè)計三個工作方案，先想知道這三個工作方案對減輕管制員壓力的效果有多大差異。由于不同的管制員對壓力的承受力是不同的，即考察對象不是同質(zhì)的，組內(nèi)方差有兩個來源，一個是隨機誤差，一個是管制員的個人差異導(dǎo)致的誤差。因此我們通過隨機化區(qū)組設(shè)計將個人差異從MSE中分離出來。為了體現(xiàn)隨機化的特點，我們以管制員為區(qū)組，將三個方案以隨機的順序指派給每個管制員。每個管制員要操作每個系統(tǒng)。例：空中交管員的壓力測試48第十一章-方差分析與試驗設(shè)計-課件49收集到以下數(shù)據(jù)：可以計算得到以下匯總數(shù)據(jù)：收集到以下數(shù)據(jù)：50第十一章-方差分析與試驗設(shè)計-課件51計算SST,SSTR,SSBL及SSESSE=SST-SSTR-SSBL=19計算SST,SSTR,SSBL及SSE52將各平方和被各自的自由度除以后，可得到相應(yīng)的均方：MSTR=SSTR/(K-1)=10.5MSE=SSE/{(k-1)*(b-1)}=1.9MSBL=SSBL/(b-1)=6F=MSTR/MSE=10.5/1.9=5.53將各平方和被各自的自由度除以后，可得到相應(yīng)的均方：53計算的結(jié)果通過ANOVA表表示出來，如下：通過比較F與F(a;2,10)可以得出是否拒絕H0的結(jié)論：F＝5.53>F(a;2,10)=4.1，拒絕原假設(shè)H0:u1=u2=u3說明，統(tǒng)計上可以認(rèn)為三種方案在對空中交通管制員平均壓力效果上有差異。計算的結(jié)果通過ANOVA表表示出來，如下：54試驗設(shè)計：雙因素試驗之前的試驗設(shè)計僅針對一個因子(factor)考慮相應(yīng)的統(tǒng)計結(jié)論，現(xiàn)在我們需要考慮關(guān)于兩個或更多因子相關(guān)的結(jié)論。我們介紹雙因素試驗以及雙因素的方差分析方法。例：某大學(xué)考慮以下三種GMAT輔導(dǎo)課程（factor1），對應(yīng)的有三個因子值（處理）：1.3小時復(fù)習(xí)，內(nèi)容覆蓋GMAT?？碱}型；2.1天課程，覆蓋有關(guān)考試資料，及模擬考試；3.10周課程，發(fā)現(xiàn)學(xué)生弱點并建立個人改進課程。另外，報考GMAT考試的學(xué)生主要來自三類學(xué)院（factor2）,對應(yīng)的三個因子值（處理），分別為1.商學(xué)院；2.工學(xué)院；3.藝術(shù)與科學(xué)學(xué)院。試驗設(shè)計：雙因素試驗之前的試驗設(shè)計僅針對一個因子(facto55因此，發(fā)現(xiàn)影響考試成績的兩個因素分別為：課程類型及考生所在的院系?，F(xiàn)想考察輔導(dǎo)課程是否GMAT成績的影響不同？考生所在的院系是否對GMAT成績的影響不同？以及是否某些院校的考生參加某種輔導(dǎo)課程表現(xiàn)不錯，但參加另一種輔導(dǎo)課程則表現(xiàn)不佳？顯著水平為：5%因此，發(fā)現(xiàn)影響考試成績的兩個因素分別為：56現(xiàn)分別從各學(xué)院抽取6名考生，將其隨機安排，其中各學(xué)院中的兩名學(xué)生參加課程1，兩名參加課程2，兩名參加課程3。由GMAT考試收集到的考分?jǐn)?shù)據(jù)如下：現(xiàn)分別從各學(xué)院抽取6名考生，將其隨機安排，其中各學(xué)院中的兩名57因此，總的觀測個數(shù)為18.因子1的處理個數(shù)為3，因子2的處理個數(shù)為3.且樣本進行了2次復(fù)制。(在每個組合中有2個觀測值)由于雙因素之間也可能產(chǎn)生影響，因此有交互作用（interaction），如果這個影響對GMAT考分有明顯作用，我們就能得出輔導(dǎo)課程效果依賴于畢業(yè)院校的結(jié)論。因此，總的觀測個數(shù)為18.因子1的處理個數(shù)為3，因子2的處理58方差分析方法：SST=SSA+SSB+SSAB+SSE設(shè)，a—因子1的水平數(shù)（處理數(shù)）；b-因子2的水平數(shù)(處理數(shù))；r-復(fù)制的個數(shù)；nT為總的觀測個數(shù)。方差分析方法：59相關(guān)記號：A的第i個處理與B的第j個處理的第k個復(fù)制的觀測值A(chǔ)的第i個處理的樣本均值B的第j個處理的樣本均值A(chǔ)的第i個處理與B的第j個處理的組合的樣本均值所有nT個觀測值的樣本均值相關(guān)記號：60第十一章-方差分析與試驗設(shè)計-課件61第十一章-方差分析與試驗設(shè)計-課件62根據(jù)GMAT分?jǐn)?shù)數(shù)據(jù)，我們計算以上統(tǒng)計量：方差來源平方和自由度均方(meansquare)F統(tǒng)計量因素16100230501.38因素24530022265010.27交互作用11200428001.27誤差1985092206合計8245017根據(jù)GMAT分?jǐn)?shù)數(shù)據(jù)，我們計算以上統(tǒng)計量：方差來源平方和自由631.檢驗輔導(dǎo)課程是否對GMAT成績影響差異？H0:u1=u2=u3;Ha:u1,u2,u3不全相等F=MSA/MSE=1.38在H0為真的前提下，F(xiàn)統(tǒng)計量服從自由度為(2,9)的F分布。F<4.26，不能拒絕H0的假定，我們認(rèn)為輔導(dǎo)課程之間對成績的影響沒有明顯差異。1.檢驗輔導(dǎo)課程是否對GMAT成績影響差異？642.檢驗學(xué)院類型是否對成績有影響差異？H0:u1=u2=u3;Ha:u1,u2,u3不全相等F=MSB/MSE=10.27在H0為真的前提下，F(xiàn)統(tǒng)計量服從自由度為(2,9)的F分布。F>4.26，拒絕H0的假定，我們認(rèn)為不同的學(xué)院對成績的影響有明顯差異。即三個來自不同學(xué)院的學(xué)生參加相同課程會產(chǎn)生明顯差異的考試分?jǐn)?shù)。2.檢驗學(xué)院類型是否對成績有影響差異？653.檢驗兩因素是否有顯著的交互作用？H0:V1=V2=V3;H0:v1,v2,v3不全相等統(tǒng)計量F=MSAB/MSE＝1.27在原假設(shè)為真(即三種輔導(dǎo)課程對不同學(xué)院學(xué)生的考試成績影響相同)，則該統(tǒng)計量服從自由度為(4,9)的F分布，因為F<F(a;4,9)=3.63，所以不能拒絕H0假設(shè)，即認(rèn)為三種輔導(dǎo)課程對不同學(xué)院學(xué)生的GMAT考試影響沒有顯著差異。3.檢驗兩因素是否有顯著的交互作用？66作業(yè)1.一次研究調(diào)查了市場專業(yè)人員的公司倫理價值觀念。假定在類似的研究中得到了下列數(shù)據(jù)（高分值表明倫理價值觀念程度高）。對于顯著水平0.05，檢驗三個專業(yè)人員群體之間的觀念有無顯著差異。作業(yè)1.一次研究調(diào)查了市場專業(yè)人員的公司倫理價值觀念。假定在672.一位汽車交易商進行測試以判斷完成一個小型引擎啟動所需分鐘數(shù)是否與使用計算機引擎分析器或電子分析器有關(guān)。因為啟動時間對于微型、中型和大型汽車是不同的，使用了三種類型的汽車作為試驗中的區(qū)組，得到如下數(shù)據(jù)。顯著水平為0.05.2.一位汽車交易商進行測試以判斷完成一個小型引擎啟動所需分鐘683.一家郵購公司設(shè)計了一個析因試驗以檢驗雜志廣告大小以及廣告方案對于收到郵購請求的數(shù)目（千個）的影響?？疾炝巳N廣告方案和兩種不同大小的廣告，得到如下數(shù)據(jù)。利用雙因素分析檢驗屬于廣告方案、廣告大小或交互作用的顯著影響。顯著水平為5%3.一家郵購公司設(shè)計了一個析因試驗以檢驗雜志廣告大小以及廣告69謝謝騎封篙尊慈榷灶琴村店矣墾桂乖新壓胚奠倘擅寞僥蝕麗鑒晰溶廷籮侶郎蟲林森-消化系統(tǒng)疾病的癥狀體征與檢查林森-消化系統(tǒng)疾病的癥狀體征與檢查謝謝騎封篙尊慈榷灶琴村店矣墾桂乖新壓胚奠倘擅寞僥蝕麗鑒晰溶廷70第十一章方差分析與

試驗設(shè)計第十一章方差分析與

試驗設(shè)計71方差分析導(dǎo)論方差分析多重比較方法試驗設(shè)計（完全隨機化試驗設(shè)計、隨機化區(qū)組設(shè)計、雙因素方差分析）方差分析導(dǎo)論72方差分析導(dǎo)論之前已經(jīng)討論過對于雙總體均值差異的假設(shè)檢驗，那么如果是三個或三個以上的總體均值差異比較的檢驗?zāi)?？先看一個現(xiàn)實例子：某公司有下屬甲、乙、丙三家工廠生產(chǎn)主要產(chǎn)品。為了確定這些工廠中有多少員工了解全面質(zhì)量管理，從每個工廠中抽取一個由6名員工組成的樣本，對這些樣本進行質(zhì)量管理有關(guān)知識的考核。得到了下表所示的考試分?jǐn)?shù)：方差分析導(dǎo)論之前已經(jīng)討論過對于雙總體均值差異的假設(shè)檢驗，那么73員工代號工廠甲工廠乙工廠丙185715927575643827362476746957169756858267員工代號工廠甲工廠乙工廠丙1857159275756438274公司想知道：下屬的三個工廠工人在質(zhì)量管理知識掌握上是否有差異？因此相應(yīng)的檢驗假設(shè)為：；Ha:u1,u2,u3不全相等該例題中，響應(yīng)變量(responsevariables)為工人考分；因素(factor)為工廠；各工廠的名稱所屬為處理(Treatment)我們本章引入的方差分析方法就是用來檢驗：三個或三個以上總體均值的方法。如果拒絕了H0,則說明：三個或三個以上的總體均值不全相等；至少有兩個總體均值不同。公司想知道：下屬的三個工廠工人在質(zhì)量管理知識掌握上是否有差異75進行方差分析之前有幾個假設(shè)：1.對于每個總體，響應(yīng)變量服從正態(tài)分布；2.對于所有總體，響應(yīng)變量的方差相同；3.觀測值是獨立的。進行方差分析之前有幾個假設(shè)：76方差分析的原理：如果H0：u1=u2=u3為真，且滿足以上假定時，對于三個樣本均值都來自同一個抽樣分布，那么此時該總體的均值估計(或稱為)可以用三個樣本均值的算術(shù)平均數(shù)來估計。方差分析的原理：77此時的總體方差的估計可以由：此時可以由樣本的組間方差估計得到；也可以通過樣本的組內(nèi)方差的平均值估計。在H0為真的情況下，二者的比值應(yīng)接近于1。組間方差：組內(nèi)估計：此時的總體方差的估計可以由：78如果H0：u1=u2=u3為假，說明總體均值不全相等，他們來自不同的抽樣分布。此時的樣本均值不接近。相應(yīng)的，組間方差增大。此時的組間方差不適合估計且組間方差和組內(nèi)方差的比值遠(yuǎn)大于1.如果H0：u1=u2=u3為假，說明總體均值不全相等，他們來79由上例計算:可見，總體方差的組間估計遠(yuǎn)大于組內(nèi)估計，比率為9.如前所述，當(dāng)總體方差的組間估計與組內(nèi)估計的比值較大時，可能導(dǎo)致拒絕原假設(shè)，那么多大的程度可以拒絕H0的原假設(shè)呢？由上例計算:80方差分析的思想：比較總體方差的組間估計和組內(nèi)估計：組間估計是以樣本均值間的變動來估計總體方差組內(nèi)估計是合并每個樣本內(nèi)的變動來估計總體方差比較總體方差的組內(nèi)估計和組間估計在各總體均值無差異時，這兩個估計應(yīng)很接近若兩個估計很接近，則不能否定各總體均值無差異若兩個估計不是很接近，則按照一定的原則否定各總體均值無差異的假定方差分析的思想：比較總體方差的組內(nèi)估計和組間估計在各總體均值81方差分析根據(jù)之前對方差分析原理的闡述，我們可以用判斷樣本方差比值的方法對k個總體均值進行檢驗。假設(shè)從k個總體或處理中選擇一個樣本容量為n的簡單隨機樣本。我們有以下定義，方差分析根據(jù)之前對方差分析原理的闡述，我們可以用判斷樣本方差82其中，nT＝n1+n2+…+nk其中，nT＝n1+n2+…+nk83若每個樣本的樣本容量相等,則總樣本平均值為:即總體均值恰好等于k個樣本均值的算術(shù)平均數(shù).若每個樣本的樣本容量相等,則總樣本平均值為:84定義總體方差的組間估計和組內(nèi)估計的組間估計:MSTR稱為處理均方(meansquareduetotreatments)其中,MSTR的分子稱為處理平方和SSTR(sumofsquaresduetotreatments)定義總體方差的組間估計和組內(nèi)估計85的組內(nèi)估計:MSE稱為組內(nèi)均方(meansquareduetoerror)其中,MSE的分子稱為組內(nèi)平方和,(sumofsquareduetoerror)若H0為真,組間估計是總體方差的無偏估計;若H0為假,組間估計得到的則偏大.不論H0真或假,組內(nèi)估計都是總體方差的無偏估計.組內(nèi)估計反映每個處理內(nèi)部的變動.的組內(nèi)估計:86定義方差分析的統(tǒng)計量F統(tǒng)計量的構(gòu)造:兩個chi方分布被各自自由度除以后的比值.在響應(yīng)變量服從獨立正態(tài)分布的假定下,且H0為真時,我們可以推知,SSTR/,SSE/分別服從自由度為(K-1)和(nT-k)的chi方分布.根據(jù)F分布的構(gòu)造,可知,統(tǒng)計量F=MSTR/MSE~F(k-1,nT-k)服從自由度為k-1和nT-k的F分布.由上例的數(shù)據(jù)計算可得,樣本F統(tǒng)計量為F=258/28.67=9定義方差分析的統(tǒng)計量87方差分析的拒絕規(guī)則:H0:u1=u2=…=uk;Ha:u1,u2,…,uk不全相等在顯著水平α下的拒絕規(guī)則為:若F>F(α;k-1,nT-k),則拒絕H0的原假設(shè),認(rèn)為總體1,總體2,….總體k的均值不全相等.上例中的拒絕域是,F>F(0,05,2,15)=3.68即當(dāng)由樣本信息計算得到的F統(tǒng)計量大于3.68時,拒絕初始假設(shè)H0.因為9>3.68,我們拒絕三個總體均值無差異的假設(shè).方差分析的拒絕規(guī)則:88αF=MSTR/MSEF(α;k-1,nT-k)αF=MSTR/MSEF(α;k-1,nT-k)89方差分析表(ANOVA)方差來源平方和自由度均方(meansquare)F統(tǒng)計量組間(處理)SSTRK-1MSTRMSTR/MSE組內(nèi)(誤差)SSEnT-kMSE合計SSTnT-1方差分析表(ANOVA)方差來源平方和自由度均方(mean90方差分析就是將總得平方和及自由度分解為相應(yīng)的來源:處理和誤差.當(dāng)各樣本的容量相等時,方差分析就是將總得平方和及自由度分解為相應(yīng)的來源:處理和誤差91多重比較方法之前討論的方差分析檢驗原假設(shè)時,只能得到所有總體均值是否相等的結(jié)論,但具體到若干個配對總體均值是否相等,就不能得出準(zhǔn)確結(jié)論.多重比較方法:FisherLSD方法(LeastSignificantDifference)該法是對總體方差估計稍微做出修改得出,別切給予兩個總體情形的t檢驗統(tǒng)計量.多重比較方法之前討論的方差分析檢驗原假設(shè)時,只能得到所有總體92LSD方法的多重比較步驟1.H0:ui=uj;Ha:ui≠uj2.檢驗統(tǒng)計量3.拒絕規(guī)則為:如果t>t(a/2)或t<-t(a/2),則拒絕H0其中的t分布自由度為(nT-k)LSD方法的多重比較步驟1.H0:ui=uj;Ha:93上例,我們對甲乙丙三家工廠的員工測試表明,三家工廠員工對質(zhì)量管理的知識認(rèn)同沒有達(dá)到一致.但具體是哪兩家工廠間,或所有工廠間出現(xiàn)了認(rèn)識差異呢?用LSD多重比較方法分別對甲乙、甲丙、乙丙來進行判斷,相應(yīng)的變量為：n1=n2=n3=6,k=3,nT=18;MSTR=258;MSE=28.67上例,我們對甲乙丙三家工廠的員工測試表明,三家工廠員工對質(zhì)量94H0:u1=u2;Ha:u1≠u2在假定H0為真的情形下，有統(tǒng)計量t服從自由度為15的t分布此時，t<t(0.025;15)=2.131不能拒絕H0，不能得出甲乙兩廠工人對質(zhì)量認(rèn)知有差異的結(jié)論。H0:u1=u2;Ha:u1≠u295H0:u1=u3;Ha:u1≠u3在假定H0為真的情形下，有統(tǒng)計量t服從自由度為15的t分布此時，t>t(0.025;15)=2.131拒絕H0，可以得出甲丙兩廠工人對質(zhì)量認(rèn)知有差異的結(jié)論。H0:u1=u3;Ha:u1≠u396H0:u2=u3;Ha:u2≠u3在假定H0為真的情形下，有統(tǒng)計量t服從自由度為15的t分布此時，t<t(0.025;15)=2.131拒絕H0，得出乙丙兩廠工人對質(zhì)量認(rèn)知有差異的結(jié)論。H0:u2=u3;Ha:u2≠u397換句話說，通過判斷統(tǒng)計量（樣本均值間的差值），可以判定是否拒絕H0.假設(shè)，H0:ui=uj;Ha:ui≠uj統(tǒng)計量為拒絕法則為：若，則拒絕H0其中換句話說，通過判斷統(tǒng)計量（樣本均值間的差值），可以判定是否拒98我們用該法來對甲乙丙三個工廠進行多重比較。由題意，可計算即判斷，樣本均值差是否大于6.59,即可判定兩總體均值是否有差異。（無法得出甲乙總體均值有差異）（乙丙兩廠總體均值有差異）（甲丙兩廠總體均值有差異）我們用該法來對甲乙丙三個工廠進行多重比較。99利用LSD方法對兩個總體均值之差進行置信區(qū)間估計：由上例可知，U1-u2的95%置信區(qū)間為：U1-u3的95%置信區(qū)間為：U2-u3的95%置信區(qū)間為：若區(qū)間包含0值，則不能拒絕兩總體均值相等的假設(shè)；若區(qū)間不包含0值，則得出兩總體均值不等的結(jié)論。利用LSD方法對兩個總體均值之差進行置信區(qū)間估計：100關(guān)于第一類錯誤的概率1、FISHERLSD方法的使用前提是：方差分析是我們有證據(jù)拒絕所有總體均值相等的假設(shè)。2、比較性第一類錯誤概率與實驗性第一類錯誤概率：我們用LSD方法分別對兩兩配對總體進行了比較，在每個檢驗中，都將顯著水平設(shè)定為5%，對于每一個檢驗，犯第一類錯誤的概率是5%,在多重比較問題中，這個第一類錯誤概率稱為比較性第一類錯誤概率。關(guān)于第一類錯誤的概率101在以上三個比較過程中，至少有一次犯第一類錯誤的概率應(yīng)為：1-0.95^3=0.1426這個概率稱為試驗性第一類錯誤概率。將其記為：3、Bonferroni修正在多重比較問題中，若有k個總體，則有，這時，對α＝5%，若k＝5，則試驗性第一類錯誤概率為，顯然，要使試驗性第一類錯誤概率降低，我們要減少α的設(shè)定，我們令，該值稱為Bonferroni修正。在以上三個比較過程中，至少有一次犯第一類錯誤的概率應(yīng)為：102由上例可知，k=3，經(jīng)過修正的α值應(yīng)為0.05/3=1.7%，即需要選擇比較性第一類錯誤概率α=1.7%4、若樣本容量固定，則在多重檢驗中減少第一類錯誤概率，將增加犯第二類錯誤的概率。因此在多重比較檢驗中取較小的比較性第一類錯誤概率，必定要冒第二類錯誤的風(fēng)險。由上例可知，k=3，經(jīng)過修正的α值應(yīng)為103試驗設(shè)計：完全隨機化設(shè)計某公司開發(fā)一種新的城市供水過濾設(shè)備，購得元件后，由屬下一家工廠負(fù)責(zé)裝配。工程部確定了三種最佳裝配方法，并從全體裝配工人隨機抽取了若干名工人進行操作，目的是要比較三中裝配方法的優(yōu)劣。在這項研究中，響應(yīng)變量為裝配元件個數(shù)；因素為裝配方法；處理為方法1、方法2、方法3（分別對應(yīng)三個總體）；試驗單元：被抽到的每個工人。在該試驗中，三個總體分別是：使用裝配方法1的全體員工；使用裝配方法2的全體員工；使用裝配方法3的全體員工。試驗設(shè)計：完全隨機化設(shè)計某公司開發(fā)一種新的城市供水過濾設(shè)備，104這個試驗設(shè)計稱為完全隨機化設(shè)計，它要求將三種裝配方式的其中一個隨機分配給工人，例如方法1隨機分配給第一名工人；方法2隨機分配給第二名工人；方法3隨機分配給第三名工人。即每個工人接受任一裝配方法的機會相等。所有的裝配工進行試驗抽取15名工人做為隨機樣本將每一種裝配方法隨機指派給5個工人方法1n1=5方法2n2=5方法3n3=5這個試驗設(shè)計稱為完全隨機化設(shè)計，它要求將三種裝配方式的其中一105當(dāng)數(shù)據(jù)來自完全隨機化試驗設(shè)計是，為檢驗均值是否相等的假設(shè)，我們可以使用之前敘述的方差分析方法。工人號方法1方法2方法315858482646957355715946664475676849樣本均值626652樣本方差27.226.531樣本標(biāo)準(zhǔn)差5.245.155.57當(dāng)數(shù)據(jù)來自完全隨機化試驗設(shè)計是，為檢驗均值是否相等的假設(shè)，我106根據(jù)之前方差分析的步驟，我們分別計算主要統(tǒng)計量，MSTR,MSE及F根據(jù)之前方差分析的步驟，我們分別計算主要統(tǒng)計量，MSTR,M107進行假設(shè)設(shè)定：H0:u1=u2=u3;Ha:u1,u2,u3不全相等檢驗統(tǒng)計量F，F(xiàn)=MSTR/MSE在原假設(shè)為真，所有總體滿足正態(tài)分布假定，且所有觀測值獨立的前提下，該統(tǒng)計量服從自由度為（2，12）的F分布。由樣本計算F值F=260/28.33=9.18在顯著水平為5%下，檢驗的拒絕域為：F>F(0.05;2,12)=3.89進行假設(shè)設(shè)定：108由于F=9.18>3.89,說明拒絕H0原假設(shè)，即三種裝配方法的平均產(chǎn)量有差異。相應(yīng)的ANOVA表方差來源平方和自由度均方(meansquare)F統(tǒng)計量組間(處理)52022609.18組內(nèi)(誤差)3401228.33合計86014由于F=9.18>3.89,說明拒絕H0原假設(shè)，即三種裝配方109試驗設(shè)計：隨機化區(qū)組設(shè)計什么叫隨機化區(qū)組設(shè)計當(dāng)試驗單元同質(zhì)時，完全隨機設(shè)計有效；若試驗單元異質(zhì)，則需要采用隨機化區(qū)間設(shè)計。這個設(shè)計的目的就是通過剔除MSE項中的外部來源方差，來得到實際誤差方差的最佳估計。隨機化區(qū)組設(shè)計由b個區(qū)組所組成，每個區(qū)組包含k個試驗單位。K個處理被隨機的指派給每個區(qū)組中的單位，且每個處理在每個區(qū)組中只出現(xiàn)一次。試驗設(shè)計：隨機化區(qū)組設(shè)計什么叫隨機化區(qū)組設(shè)計110例：一項對3種不同包裝設(shè)計的顧客偏好研究采用隨機化區(qū)組試驗設(shè)計，在4個超級市場進行。該試驗進行了3周。超級市場包裝1包裝2包裝31173423215262131238462216例：一項對3種不同包裝設(shè)計的顧客偏好研究采用隨機化區(qū)組試驗設(shè)111表中給出的是每個超級市場在給定三周內(nèi)每周每種包裝設(shè)計售出的單位數(shù)。問這些數(shù)據(jù)是否可以提供足夠的證據(jù)表明各種包裝設(shè)計的平均銷售量有差異？在純隨機設(shè)計中，包裝設(shè)計被隨機的指派到每個超級市場，然而由題可知，超級市場由于受到地域、人流量等的因素影響，存在異質(zhì)性。因此總體方差的組內(nèi)估計MSE除了誤差的影響以外，還受到市場間的異質(zhì)而導(dǎo)致的誤差。因此，如果仍采用純隨機設(shè)計的方差分析方法，則可能產(chǎn)生錯誤的結(jié)果。表中給出的是每個超級市場在給定三周內(nèi)每周每種包裝設(shè)計售出的單112SST=SSTR+SSBL+SSE總方差可以分解為：分解為處理平方和（SSTR），區(qū)組平方和（SSBL）以及誤差平方和（SSE）其中，k為處理個數(shù)，b為區(qū)組數(shù)，nT為總的樣本大小，SST=SSTR+SSBL+SSE113方差來源平方和自由度均方(meansquare)F統(tǒng)計量處理SSTRk-1MSTRMSTR/MSE區(qū)組SSBLb-1MSBL誤差SSE(k-1)(b-1)MSE合計SSTnT-1方差來源平方和自由度均方(meansquare)F統(tǒng)計量處114由例題計算得到各統(tǒng)計量:

SSE=SST-SSTR-SSBL=45.5由例題計算得到各統(tǒng)計量:115由例題計算得到各統(tǒng)計量:方差來源平方和自由度均方(meansquare)F統(tǒng)計量處理547.1672273.48336.08區(qū)組3483116誤差45.567.58合計940.66711由例題計算得到各統(tǒng)計量:方差來源平方和自由度均方(mean116同樣的，我們也可以根據(jù)統(tǒng)計量F=MSTR/MSE的抽樣分布來判定處理均值之間的差異。在假定H0為真，總體滿足正態(tài)分布，且觀測值獨立的情形下，統(tǒng)計量F服從自由度為（k-1,(k-1)*(b-1))的F分布。拒絕規(guī)則為：若F>F(a;k-1,(k-1)*(b-1))，則拒絕H0的原假設(shè)。本例的F統(tǒng)計量為36.08>10.92，因此我們拒絕原假設(shè)，認(rèn)為各種包裝設(shè)計的平均銷售量有差異。同樣的，我們也可以根據(jù)統(tǒng)計量F=MSTR/MSE的抽樣分布來117例：空中交管員的壓力測試一項研究通過衡量空中交通管制員的工作壓力，建議改造并重新設(shè)置管制員工作站。設(shè)計三個工作方案，先想知道這三個工作方案對減輕管制員壓力的效果有多大差異。由于不同的管制員對壓力的承受力是不同的，即考察對象不是同質(zhì)的，組內(nèi)方差有兩個來源，一個是隨機誤差，一個是管制員的個人差異導(dǎo)致的誤差。因此我們通過隨機化區(qū)組設(shè)計將個人差異從MSE中分離出來。為了體現(xiàn)隨機化的特點，我們以管制員為區(qū)組，將三個方案以隨機的順序指派給每個管制員。每個管制員要操作每個系統(tǒng)。例：空中交管員的壓力測試118第十一章-方差分析與試驗設(shè)計-課件119收集到以下數(shù)據(jù)：可以計算得到以下匯總數(shù)據(jù)：收集到以下數(shù)據(jù)：120第十一章-方差分析與試驗設(shè)計-課件121計算SST,SSTR,SSBL及SSESSE=SST-SSTR-SSBL=19計算SST,SSTR,SSBL及SSE122將各平方和被各自的自由度除以后，可得到相應(yīng)的均方：MSTR=SSTR/(K-1)=10.5MSE=SSE/{(k-1)*(b-1)}=1.9MSBL=SSBL/(b-1)=6F=MSTR/MSE=10.5/1.9=5.53將各平方和被各自的自由度除以后，可得到相應(yīng)的均方：123計算的結(jié)果通過ANOVA表表示出來，如下：通過比較F與F(a;2,10)可以得出是否拒絕H0的結(jié)論：F＝5.53>F(a;2,10)=4.1，拒絕原假設(shè)H0:u1=u2=u3說明，統(tǒng)計上可以認(rèn)為三種方案在對空中交通管制員平均壓力效果上有差異。計算的結(jié)果通過ANOVA表表示出來，如下：124試驗設(shè)計：雙因素試驗之前的試驗設(shè)計僅針對一個因子(factor)考慮相應(yīng)的統(tǒng)計結(jié)論，現(xiàn)在我們需要考慮關(guān)于兩個或更多因子相關(guān)的結(jié)論。我們介紹雙因素試驗以及雙因素的方差分析方法。例：某大學(xué)考慮以下三種GMAT輔導(dǎo)課程（factor1），對應(yīng)的有三個因子值（處理）：1.3小時復(fù)習(xí)，內(nèi)容覆蓋GMAT?？碱}型；2.1天課程，覆蓋有關(guān)考試資料，及模擬考試；3.10周課程，發(fā)現(xiàn)學(xué)生弱點并建立個人改進課程。另外，報考GMAT考試的學(xué)生主要來自三類學(xué)院（factor2）,對應(yīng)的三個因子值（處理），分別為1.商學(xué)院；2.工學(xué)院；3.藝術(shù)與科學(xué)學(xué)院。試驗設(shè)計：雙因素試驗之