第五章 回歸設(shè)計

第五章回歸設(shè)計第1頁，課件共78頁，創(chuàng)作于2023年2月§5.1回歸設(shè)計的基本概念回歸設(shè)計方法是由英國統(tǒng)計學(xué)家G.Box在20世紀(jì)50年代初針對化工生產(chǎn)提出的?；貧w設(shè)計也稱為響應(yīng)面設(shè)計，目的是尋求試驗指標(biāo)與各定量因子間的定量規(guī)律，找到工作條件的最優(yōu)值（最優(yōu)工藝、最佳配方等）。它是在多元線性回歸的基礎(chǔ)上用主動收集數(shù)據(jù)的方法獲得具有較好性質(zhì)的回歸方程的一種試驗設(shè)計方法。第2頁，課件共78頁，創(chuàng)作于2023年2月5.1.1回歸分析——數(shù)據(jù)處理由被動變主動

古典的回歸分析方法只是被動地處理已有的試驗數(shù)據(jù)，對試驗點的安排不提任何要求，試驗點散亂而不均勻，預(yù)測值的標(biāo)準(zhǔn)誤很大，且對于回歸方程的精度研究也很少。其后果：（1）盲目增加試驗次數(shù)，這些試驗數(shù)據(jù)還不能提供充分的信息，在許多復(fù)因子試驗問題中達(dá)不到試驗?zāi)康?。?）對模型的合適性有時無法檢驗，因為在被動處理數(shù)據(jù)時在同一試驗點上不一定存在重復(fù)試驗數(shù)據(jù)。為了適應(yīng)尋求最佳工藝、最佳配方、建立生產(chǎn)過程的數(shù)學(xué)模型等的需要，人們就要求以較少的試驗次數(shù)建立精度較高的回歸方程。第3頁，課件共78頁，創(chuàng)作于2023年2月

為此，要求擺脫古典回歸分析的被動局面，主動把試驗的安排、數(shù)據(jù)的處理和回歸方程的精度統(tǒng)一起來考慮，即根據(jù)試驗?zāi)康暮蛿?shù)據(jù)分析的要求來選擇試驗點，不僅使得在每一個試驗點上獲得的數(shù)據(jù)含有最大的信息，從而減少試驗次數(shù)，而且使數(shù)據(jù)的統(tǒng)計分析具有一些較好的性質(zhì)。這就是二十世紀(jì)五十年代發(fā)展起來的“回歸設(shè)計”所研究的問題。

回歸設(shè)計的分類：根據(jù)建立的回歸方程的次數(shù)不同，回歸設(shè)計通常有一次回歸設(shè)計、二次回歸設(shè)計等；根據(jù)設(shè)計的性質(zhì)又有正交設(shè)計、旋轉(zhuǎn)設(shè)計、通用設(shè)計和最優(yōu)設(shè)計等。

本章僅介紹二次回歸的各種設(shè)計方法。第4頁，課件共78頁，創(chuàng)作于2023年2月5.1.2多項式回歸模型

在一些試驗中希望建立試驗指標(biāo)y與各個定量因子之間關(guān)系的定量表達(dá)式，即回歸方程，以便通過該回歸方程找出使指標(biāo)滿足極值要求的各因子的取值。

可以假定y與間有如下關(guān)系：

這里是的一個函數(shù)，其圖形也稱為響應(yīng)曲面。

是隨機誤差，通常假定它服從均值為0，方差為

的正態(tài)分布。

第5頁，課件共78頁，創(chuàng)作于2023年2月

試驗設(shè)計中，我們稱為因子或自變量。稱

的可能取值的空間為因子空間。我們的任務(wù)就是從因子空間中尋找一個最佳工藝條件（最優(yōu)點）

，使y滿足要求。

當(dāng)f的函數(shù)形式已知時，可以通過最優(yōu)化的方法去尋找

。在許多情況下f的形式并不知道，這時常常用一個多項式去逼近它，即假定：這里各為未知參數(shù)，稱為回歸系數(shù)，通常需要通過試驗數(shù)據(jù)對它們進(jìn)行估計。第6頁，課件共78頁，創(chuàng)作于2023年2月在實際中常用如下的一次與二次回歸方程：若用表示相應(yīng)的估計，則稱為y關(guān)于的多項式回歸方程。第7頁，課件共78頁，創(chuàng)作于2023年2月5.1.3多元線性回歸

多項式回歸模型，在對變量作了變換并重新命名后也可以看成是一個多元線性回歸模型。比如對二次回歸模型令即變成五元線性回歸模型。

1）回歸模型

假定回歸模型為：

第8頁，課件共78頁，創(chuàng)作于2023年2月記隨機變量的觀測向量為回歸參數(shù)向量為，隨機誤差向量為結(jié)構(gòu)矩陣上述模型可以表示為矩陣形式：第9頁，課件共78頁，創(chuàng)作于2023年2月

2）回歸系數(shù)的最小二乘估計估計回歸模型中回歸系數(shù)的方法是最小二乘法。記回歸系數(shù)的最小二乘估計為，應(yīng)滿足如下正規(guī)方程組：

當(dāng)存在時，最小二乘估計為：在求得了最小二乘估計后，可以寫出回歸方程：

第10頁，課件共78頁，創(chuàng)作于2023年2月

3）對回歸方程的顯著性檢驗

對回歸方程的顯著性檢驗是指檢驗如下假設(shè)：

H0：

H1：不全為0

則平方和分解式

其中

為殘差平方和，自由度為

為回歸平方和，自由度為

當(dāng)H0為真時，有

給定的顯著性水平，拒絕域為

第11頁，課件共78頁，創(chuàng)作于2023年2月4）對回歸系數(shù)的顯著性檢驗

當(dāng)回歸方程顯著時，可進(jìn)一步檢驗?zāi)硞€回歸系數(shù)是否為0，也即檢驗如下假設(shè)：

每一項回歸系數(shù)j=1,2,…,p逐一進(jìn)行。常用的檢驗方法是t檢驗或等價的F檢驗，F(xiàn)統(tǒng)計量為：其中是中的第j+1個對角元素。記分子為，它是因子的回歸平方和。分母是模型中的無偏估計。第12頁，課件共78頁，創(chuàng)作于2023年2月

當(dāng)H0j為真時，有。給定的顯著性水平，當(dāng)時拒絕原假設(shè)H0j，即認(rèn)為顯著不為零，回歸關(guān)系顯著；否則人為回歸關(guān)系不顯著，可以將對應(yīng)的變量從回歸方程中刪除。注：當(dāng)有不顯著的系數(shù)時，一般情況下一次只能刪除一個F值最小的變量，重新計算回歸系數(shù)，再重新檢驗。通常要到余下的系數(shù)都顯著時為止。

第13頁，課件共78頁，創(chuàng)作于2023年2月

5）失擬檢驗當(dāng)在某些點有重復(fù)試驗數(shù)據(jù)，便可以對試驗指標(biāo)y

的期望是否是的函數(shù)進(jìn)行檢驗，這種檢驗稱為失擬檢驗，它檢驗如下假設(shè)：當(dāng)在有些試驗點上有mi重復(fù)試驗時，試驗點為n，總試驗次數(shù)為N，殘差平方和可進(jìn)一步分解為組內(nèi)平方和與組間平方和，其中組內(nèi)平方和就是純誤差平方和，記為，組間平方和稱為失擬平方和，記為，即：

第14頁，課件共78頁，創(chuàng)作于2023年2月，，，，檢驗統(tǒng)計量為

在H0為真時，，對于給定的顯著性水平下，拒絕域為：

當(dāng)拒絕H0時，需要尋找原因，改變模型，否則接受線性回歸模型合適，可以將Se與SLf合并作為SE檢驗方程是否顯著。其中第15頁，課件共78頁，創(chuàng)作于2023年2月5.1.4因子水平的編碼在回歸問題中各因子的量綱不同，其取值的范圍也不同，為了數(shù)據(jù)處理的方便，對所有的因子作一個線性變換，使所有因子的取值范圍都轉(zhuǎn)化為中心在原點的一個單位“立方體”中，這一變換稱為對因子水平的編碼。方法如下：設(shè)因子的取值范圍為：與分別為因子的下水平()與上水平()其中心也稱為零水平：

因子的變化半徑為令編碼值，而實際值此變換式就稱為“編碼變換”

第16頁，課件共78頁，創(chuàng)作于2023年2月例5.1.1因子z的取值范圍為：10~30，，對其作編碼：

編碼后，10對應(yīng)-1，30對應(yīng)1，20對應(yīng)0。變換后，正交點在編碼空間為中心在原點的立方體，其邊長為2。

編碼變換后，zm對應(yīng)的編碼為

，zM對應(yīng)的編碼為

，z0對應(yīng)的編碼為0。這樣不管什么取值范圍，都轉(zhuǎn)化為值域[-1,1]或[-,]。見示意圖。第17頁，課件共78頁，創(chuàng)作于2023年2月§5.2Box－Benhken設(shè)計Box－Behnken設(shè)計是由統(tǒng)計學(xué)家Box和Behnken提出的一種比較常用的回歸設(shè)計方法，適用于2至5個因子的優(yōu)化實驗。Box－Behnken設(shè)計首先假定實驗范圍內(nèi)因子存在二次項，其基試驗點的選取為編碼立方體的每條棱的中點，即任意兩因子做22交互，而其它因子固定在0水平。再加上中心點。第18頁，課件共78頁，創(chuàng)作于2023年2月三因子Box-Behnken設(shè)計試驗點示意圖Box－Benhken設(shè)計第19頁，課件共78頁，創(chuàng)作于2023年2月例題：對超高壓殺滅枯草芽孢桿菌效果Y的研究發(fā)現(xiàn)：溫度、壓力、保壓時間是滅活枯草芽孢桿菌顯著影響因子。研究結(jié)果表明殺滅6個數(shù)量級的枯草芽孢桿菌的殺菌條件：溫度為T=30～60℃，壓力為P=200～600MPa，保壓時間為M=10～20min，試分析最優(yōu)殺菌工藝參數(shù)。Box－Benhken設(shè)計第20頁，課件共78頁，創(chuàng)作于2023年2月Box－Benhken設(shè)計題解：本試驗采用Box-Behnken設(shè)計，以溫度T，壓力P，保壓時間M三個外界因子為自變量，并以+1、0、-1分別代表自變量的高、中、低水平，對自變量進(jìn)行編碼。超高壓殺滅菌的數(shù)量級Y為響應(yīng)值（Y=-log10Nt/N0

，即經(jīng)超高壓作用后枯草芽孢桿菌死亡的數(shù)量級，Nt為超高壓處理后1ml菌液中的活菌數(shù)，N0為對照1ml菌液中的活菌數(shù)）第21頁，課件共78頁，創(chuàng)作于2023年2月Box－Benhken設(shè)計因子代號水平編碼-101溫度(℃)T304560壓力(MPa)P200400600保壓時間(min)M101520試驗因子的水平及編碼表第22頁，課件共78頁，創(chuàng)作于2023年2月Box－Benhken設(shè)計試驗設(shè)計與試驗結(jié)果列表TrialNo.TPMY1-10-14.27210-15.443-1015.1141015.795-1-102.1161-103.217-1106.0481106.8790-1-12.70100-113.441101-16.23120116.43130005.45140005.32150005.67160005.43170005.23第23頁，課件共78頁，創(chuàng)作于2023年2月Box－Benhken設(shè)計分析結(jié)果FactorDFSSMSFPT42.0412470.51031213.670.0020P426.7978746.699469179.46<.0001M40.7164850.1791214.800.0352在0.05水平下，只有溫度（T）壓力（P）和保壓時間（M）與滅菌效果都存在顯著的回歸關(guān)系。在T=60.37,P=663.87,M=13.51時，滅菌效果最大，達(dá)到6.79。需要進(jìn)行試驗驗證。第24頁，課件共78頁，創(chuàng)作于2023年2月Box－Benhken設(shè)計T=60.37,P=663.87,M=13.51時，極大值Y=6.79第25頁，課件共78頁，創(chuàng)作于2023年2月§5.3二次回歸的中心組合設(shè)計

一、中心組合設(shè)計方案

中心組合設(shè)計中的試驗點由三部分組成：（1）將編碼值-1與1看成每個因子的兩個水平，采用二水平正交表安排試驗，可以是全因子試驗，也可以是其1/2實施，1/4實施等，稱這種試驗點為正交點。這樣的點有mc=2p個，選取正交表的p個基本列構(gòu)成。（2）在每一因子的坐標(biāo)軸上取兩個試驗點，該因子的編碼值分別為-與，其它因子的編碼值為0。由于有p個因子，因此這部分試驗點共有2p個。稱這種試驗點為星號點或主軸點。（3）在試驗區(qū)域的中心進(jìn)行m0次重復(fù)試驗，這時每個因子的編碼值均為0。稱這種試驗點為中心點。第26頁，課件共78頁，創(chuàng)作于2023年2月

如p=2的中心組合設(shè)計方案是：第27頁，課件共78頁，創(chuàng)作于2023年2月

如p=2的中心組合設(shè)計試驗點的分布圖第28頁，課件共78頁，創(chuàng)作于2023年2月二、中心組合設(shè)計方案的特點該方案總試驗次數(shù)n為：

每個因子都取5個水平，故該方案所布的試驗點范圍較廣。該方案還有較大的靈活性，因為在方案中留有兩個待定參數(shù)m0（中心點的試驗次數(shù)）和（主軸點的位置），使二次回歸設(shè)計具有正交性、旋轉(zhuǎn)性、通用性和D最優(yōu)性優(yōu)良性質(zhì)等。中心點處的m0次重復(fù)，可以準(zhǔn)確估計試驗誤差，從而使對方程與系數(shù)的檢驗有了可靠依據(jù)。第29頁，課件共78頁，創(chuàng)作于2023年2月§5.4二次回歸正交設(shè)計

二次回歸正交設(shè)計是二次回歸中心組合設(shè)計的一種常用設(shè)計方法。如果一個設(shè)計具有正交性，則數(shù)據(jù)分析將是十分方便的，由于所得的回歸系數(shù)的估計值之間互不相關(guān)，因此刪除某些因子時不會影響其它的回歸系數(shù)的估計，從而很容易寫出所有回歸系數(shù)為顯著的回歸方程。我們可以適當(dāng)選擇m0與使二次回歸中心組合設(shè)計具有正交性。第30頁，課件共78頁，創(chuàng)作于2023年2月5.4.1二次中心組合設(shè)計的結(jié)構(gòu)矩陣X與系數(shù)矩陣

p=2的中心組合設(shè)計回歸模型的結(jié)構(gòu)式為

結(jié)構(gòu)矩陣如下：x0x1x2x1x2(x1)2(x2)2第31頁，課件共78頁，創(chuàng)作于2023年2月這里mc=4，2p=4，則n=mc+2p+m0=8+m0，再記那么各平方項所對應(yīng)的行、列在非對角線都有非0元素第32頁，課件共78頁，創(chuàng)作于2023年2月5.4.2正交性的實現(xiàn)

要使中心組合設(shè)計具有正交性，就要求為對角陣。首先利用“中心化”變換使各平方項列的和為0，為此把列的元素減去該列的均值，而此時的陣為：

這里GG是p階對稱方陣：

第33頁，課件共78頁，創(chuàng)作于2023年2月為使設(shè)計成為正交的只要設(shè)法使g=0因為n=mc+2p+m0設(shè)定m0后，因此可以適當(dāng)選取使g=0。對不同的因子個數(shù)p與中心點重復(fù)次數(shù)m0，對應(yīng)的值見表5.4.1。

第34頁，課件共78頁，創(chuàng)作于2023年2月表5.4.1二次回歸正交設(shè)計的參數(shù)值表

第35頁，課件共78頁，創(chuàng)作于2023年2月

1．回歸系數(shù)的估計

在對列作了中心化變換后，我們可以首先建立y

關(guān)于諸的回歸方程：

再記，其中

則各項回歸系數(shù)：5.4.3統(tǒng)計分析第36頁，課件共78頁，創(chuàng)作于2023年2月2．對回歸方程與回歸系數(shù)的檢驗

由于是正交設(shè)計，各項的回歸平方和為

總回歸平方和為仍然用表示總平方和，其自由度為，則殘差平方和為回歸方程的檢驗：第37頁，課件共78頁，創(chuàng)作于2023年2月

若在中心點上有重復(fù)試驗的話，還可以進(jìn)一步對進(jìn)行分解：則失擬項：可用對二次回歸模型的合適性進(jìn)行檢驗。各項回歸系數(shù)可用進(jìn)行檢驗。第38頁，課件共78頁，創(chuàng)作于2023年2月

例5.4.1為提高鉆頭的壽命，在數(shù)控機床上進(jìn)行試驗，考察鉆頭的壽命與鉆頭軸向振動頻率F及振幅A的關(guān)系。

在試驗中，F(xiàn)與A的變動范圍分別為：[125Hz，375Hz]與[1.5，5.5]，采用二次回歸正交組合設(shè)計，并在中心點重復(fù)進(jìn)行三次試驗。1．對因子的取值進(jìn)行編碼現(xiàn)在有兩個因子，即p=2，現(xiàn)在中心點進(jìn)行三次試驗，即m0=3，則查得此二次回歸正交組合設(shè)計中的=1.148。因子F與A的零水平分別是250，3.5;它們的變化半徑分別是109，1.74.

因子編碼值見表5.4.4。第39頁，課件共78頁，創(chuàng)作于2023年2月5.4.4第40頁，課件共78頁，創(chuàng)作于2023年2月

2．試驗計劃與試驗結(jié)果

本例的試驗計劃及試驗結(jié)果見表5.4.5。表5.4.5試驗計劃與試驗結(jié)果

第41頁，課件共78頁，創(chuàng)作于2023年2月5.4.6

3．參數(shù)估計第42頁，課件共78頁，創(chuàng)作于2023年2月4.模型、方程及系數(shù)的檢驗

本例中由于在中心點有3次重復(fù)試驗，所以在給出所得到的回歸方程之前，先對模型的合適性、方程及系數(shù)作顯著性檢驗：中心點上3次試驗結(jié)果的平均值為=206，由此求得純誤差平方和Se=1026，從而失擬平方和為：SLf=1281.53-1026=255.53，失擬檢驗的統(tǒng)計量為：

在時，，所以認(rèn)為模型合適。有關(guān)方程與系數(shù)的檢驗見表5.4.7。第43頁，課件共78頁，創(chuàng)作于2023年2月

由于，所以認(rèn)為方程顯著。又，。所以與的系數(shù)在顯著性水平0.05上是顯著的，x2的系數(shù)在顯著性水平0.10上是顯著的。5.4.7第44頁，課件共78頁，創(chuàng)作于2023年2月5.寫出二次回歸方程并求最佳條件

我們可以寫出在0.10水平上各系數(shù)都顯著的回歸方程為：再將(5.4.16)代入，即可得y關(guān)于x1,x2的二次回歸方程：

最后再將編碼式代入，即可得y關(guān)于F，A的二次回歸方程：為延長壽命，可以將回歸方程對F與A分別求導(dǎo)，并令其為零以解出最佳水平組合為F=291.58，A=3.50，在該水平組合下，平均壽命的估計是211.6。

第45頁，課件共78頁，創(chuàng)作于2023年2月5.5二次回歸旋轉(zhuǎn)設(shè)計5.5.1旋轉(zhuǎn)性回歸正交設(shè)計的最大優(yōu)點是試驗次數(shù)較少，計算簡便，又消除了回歸系數(shù)間的相關(guān)性。但是其缺點是預(yù)測值的方差依賴于試驗點在因子空間中的位置。由于誤差的干擾，試驗者不能根據(jù)預(yù)測值直接尋找最優(yōu)區(qū)域。

若能使二次設(shè)計具有旋轉(zhuǎn)性，即能使與試驗中心距離相等(ρ)的點上預(yù)測值的方差相等，即Var()=f(ρ)，那就有助于克服上述缺點。所以試驗者常常希望犧牲部分的正交性而獲得旋轉(zhuǎn)性，計算的工作量可以交由計算機幫助處理。

第46頁，課件共78頁，創(chuàng)作于2023年2月5.5.2二次旋轉(zhuǎn)設(shè)計

一個中心組合設(shè)計要成為二次旋轉(zhuǎn)設(shè)計應(yīng)滿足旋轉(zhuǎn)性條件和非退化條件。

1.二次設(shè)計的旋轉(zhuǎn)性條件

二次設(shè)計的旋轉(zhuǎn)性條件為：第47頁，課件共78頁，創(chuàng)作于2023年2月2.二次旋轉(zhuǎn)設(shè)計的非退化條件：

為使設(shè)計是使矩陣不退化，就要求試驗點的分布滿足：在中心組合設(shè)計方案中n個試驗點分布在三個不同半徑的球面上，其中：個點分布在半徑為的球面上；

2p個點分布在半徑為的球面上；個點分布在半徑為的球面上。滿足不會使矩陣

退化的條件。第48頁，課件共78頁，創(chuàng)作于2023年2月3.的選取為使設(shè)計滿足旋轉(zhuǎn)性條件只要適當(dāng)選取參數(shù)，在中心組合設(shè)計中有：

因此，，為使設(shè)計具有旋轉(zhuǎn)性，則要求

即只要：或當(dāng)對中心組合設(shè)計提出進(jìn)一步的要求時，可以確定設(shè)計中的另一個參數(shù)m0。

第49頁，課件共78頁，創(chuàng)作于2023年2月5.5.3二次回歸正交旋轉(zhuǎn)設(shè)計（Orthogonal）

當(dāng)要求一個回歸設(shè)計不僅具有旋轉(zhuǎn)性，還要求具有正交性，或至少是近似正交的，稱為二次回歸正交旋轉(zhuǎn)設(shè)計。這需要使的非對角線元素全為0，即只需要：

在g的表達(dá)式中，mc是給定的，因為滿足旋轉(zhuǎn)性也已確定，式中，所以g只是m0的函數(shù)，所以可解出m0。如果解得的m0是整數(shù)，則所得設(shè)計為正交旋轉(zhuǎn)設(shè)計；如果m0不是整數(shù)，則取最接近的整數(shù)，這時是近似正交的旋轉(zhuǎn)設(shè)計。

第50頁，課件共78頁，創(chuàng)作于2023年2月

二次回歸正交（或近似正交）旋轉(zhuǎn)組合設(shè)計的參數(shù)與m0見表5.5.1。表5.5.1二次回歸正交旋轉(zhuǎn)組合設(shè)計參數(shù)第51頁，課件共78頁，創(chuàng)作于2023年2月5.5.4二次回歸通用旋轉(zhuǎn)設(shè)計(UniformPrecision)

所謂一個設(shè)計具有通用性是指在與編碼中心距離小于1的任意點(x1,x2,…,xp)上的預(yù)測值的方差近似相等。

一個旋轉(zhuǎn)設(shè)計各點預(yù)測值的方差僅與該點到中心的距離ρ有關(guān)，即Var()=f(ρ)。而通用設(shè)計要求當(dāng)ρ<1時，f(ρ)基本為一個常數(shù)。根據(jù)這一要求，可以通過數(shù)值的方法來確定m0。當(dāng)一個回歸設(shè)計既要具有旋轉(zhuǎn)性又要具有通用性時，稱為二次回歸通用旋轉(zhuǎn)設(shè)計，設(shè)計的參數(shù)與m0見表5.5.2。

第52頁，課件共78頁，創(chuàng)作于2023年2月5.5.2第53頁，課件共78頁，創(chuàng)作于2023年2月5.5.5數(shù)據(jù)分析

由于正交旋轉(zhuǎn)設(shè)計的數(shù)據(jù)分析同前面的回歸正交設(shè)計一樣，所以下面僅對通用旋轉(zhuǎn)組合設(shè)計的數(shù)據(jù)分析作介紹。

1．回歸系數(shù)的估計如果記X’Y陣中的元素為：

根據(jù)不同的p與實施方案，計算中用到的K，E，F(xiàn)，G的值已列成表格供使用。第54頁，課件共78頁，創(chuàng)作于2023年2月則各項回歸系數(shù)的估計為：第55頁，課件共78頁，創(chuàng)作于2023年2月

2．對回歸方程的檢驗總平方和：殘差平方和：回歸平方和：各自由度分別為：第56頁，課件共78頁，創(chuàng)作于2023年2月由于在中心點有m0次重復(fù)試驗，因此還可將SE分解為：

其自由度分別為：

先檢驗?zāi)Ｐ偷暮线m性，即失擬檢驗：

當(dāng)模型合適時，再檢驗方程的顯著性：第57頁，課件共78頁，創(chuàng)作于2023年2月

3．對回歸系數(shù)的顯著性檢驗

各項的回歸平方和及σ2的估計，如下：檢驗各項回歸系數(shù)的統(tǒng)計量依次為：

第58頁，課件共78頁，創(chuàng)作于2023年2月

如果有不顯著的項，要刪去該項，一次只能剔除一項，由于這里不是正交設(shè)計，所以回歸系數(shù)間具有相關(guān)性，刪除一個變量后，回歸系數(shù)需要重新計算。

由于求回歸系數(shù)的正規(guī)方程組的系數(shù)矩陣階數(shù)較高，求逆矩陣相當(dāng)麻煩，通常將這項工作交給計算機協(xié)助完成。統(tǒng)計分析方法和前述一樣，用反應(yīng)面回歸分析。第59頁，課件共78頁，創(chuàng)作于2023年2月5.5.6二次通用旋轉(zhuǎn)設(shè)計實例

例5.5.1

某三因子（x1,x2,x3）優(yōu)化試驗，試驗指標(biāo)Y具有望大特性，采用二次通用旋轉(zhuǎn)設(shè)計，查表得到γ=1.682,n=20，各因子的水平編碼見下表。1.因子水平編碼表因子編碼x1x2x3+γ80120300169.8699.73239.1705570150-140.1440.2760.83-γ30200第60頁，課件共78頁，創(chuàng)作于2023年2月2.試驗設(shè)計與結(jié)果NOX1X2X3Y11-1-1-130.42-1-1145.33-11-115.94-11132.251-1-143.561-1172.0711-124.2811148.59-1.68180028.4101.68180053.6NOX1X2X3Y1110-1.6818056.81201.6818029.11300-1.681814.314001.681852.11500043.31600042.01700043.51800043.61900042.32000044.0第61頁，課件共78頁，創(chuàng)作于2023年2月3.模型檢驗Source

DFSSMSFPModel93696.605410.7338371.8610.0001Linear33431.6311143.8771035.6180.0001Quadratic3176.793658.9312153.353810.0001CrossProduct388.1829.3933326.611470.0001Error1011.045361.104536Lackoffit57.9370271.5874052.5534670.1633PureError53.1083330.621667Total193707.65第62頁，課件共78頁，創(chuàng)作于2023年2月4.參數(shù)估計及其檢驗TermEstimateStdErrtPr>|t|X17.8188740.2843927.493460.0001X2-8.566080.28439-30.12090.0001X310.80570.2843937.996020.0001X1*X1-0.706850.276846-2.553230.028705X1*X2-1.90.371574-5.113390.000455X1*X32.70.3715747.2663920.0001X2*X2-0.017410.276846-0.06290.951088X2*X3-0.350.371574-0.941940.368422X3*X3-3.464570.276846-12.51440.0001第63頁，課件共78頁，創(chuàng)作于2023年2月5.去掉不顯著的項重新回歸——模型檢驗SourceDFSSMSFPr>FModel73695.62527.9458526.6410.0001Error1212.029731.002478(Lackoffit)78.9213971.2744852.050110.223309(PureError)53.1083330.621667Total193707.65第64頁，課件共78頁，創(chuàng)作于2023年2月6.重新回歸后——參數(shù)估計TermEstimateStdErrtPr>|t|X17.8188740.27093328.859050.0001X2-8.566080.270933-31.6170.0001X310.80570.27093339.883270.0001X1*X1-0.705120.262443-2.686770.019788X1*X2-1.90.353991-5.367370.000169X1*X32.70.3539917.6273110.0001X3*X3-3.462850.262443-13.19470.0001第65頁，課件共78頁，創(chuàng)作于2023年2月7.回歸方程及其駐點Y1=43.096+7.819*X1

-8.5669*X2

+10.806*X3

-0.705*X1*X1-1.9*X1*X2

+2.7*X1*X3

-0.463*X3*X3駐點處X1-4.53107鞍點X26.711891Y=-6.296

X3-0.54514特征值0.865802-1.02896-4.02568在駐點處其二次型矩陣特征值有正有負(fù)，此駐點為鞍點，不存在極值，需進(jìn)行嶺脊分析。第66頁，課件共78頁，創(chuàng)作于2023年2月8.嶺脊分析半徑Y(jié)預(yù)測值標(biāo)準(zhǔn)誤X1X2X3043.1103180.4286350000.145.7716310.4272330.086905-0.0932550.1097060.248.4318250.4238690.180418-0.1906540.2103300.351.1010420.4211250.278880-0.2914100.3030960.453.7871420.4233790.381000-0.3948910.3891690.556.4962010.4364940.485803-0.5006040.4695790.659.2329320.4666900.592567-0.6081610.5452040.762.0010150.5188080.700760-0.7172610.6167770.864.8033500.5951280.809989-0.8276660.6849050.967.6422440.6956180.919966-0.9391880.7500891.070.5195490.8190191.030477-1.0516750.812741第67頁，課件共78頁，創(chuàng)作于2023年2月8.嶺脊分析（續(xù)）半徑Y(jié)預(yù)測值標(biāo)準(zhǔn)誤X1X2X31.173.436770.9637831.141363-1.1650.8732051.276.395141.1285371.252504-1.279070.9317661.379.395671.3121991.363813-1.393790.9886631.482.439221.5139641.475222-1.509091.0440961.585.526481.733241.586681-1.624911.0982361.688.658071.9695961.698153-1.74121.1512281.791.83452.2227141.809609-1.857921.2031961.895.056192.4923591.921028-1.975021.2542471.998.323552.7783522.032395-2.092471.3044732.0101.63693.080562.143697-2.210241.353954第68頁，課件共78頁，創(chuàng)作于2023年2月5.6D最優(yōu)混合設(shè)計5.6.1D最優(yōu)設(shè)計回歸設(shè)計的正交性、旋轉(zhuǎn)性和通用性各有其優(yōu)點，但是都沒有涉及統(tǒng)計意義上的優(yōu)劣。

最優(yōu)設(shè)計就是從統(tǒng)計意義上來研究不同試驗方案的優(yōu)劣并建立最優(yōu)方案。在所有的試驗方案中，能使回歸預(yù)測值與觀察值擬合最好的那個方案就是最優(yōu)方案，即最優(yōu)設(shè)計。判斷試驗方案的優(yōu)劣有很多標(biāo)準(zhǔn)，如：D優(yōu)良性、G優(yōu)良性、A優(yōu)良性、E優(yōu)良性、I優(yōu)良性、U優(yōu)良性等。其中以D優(yōu)良性的使用最為普遍，有人證明：事實上G優(yōu)良性與D優(yōu)良性等價。第69頁，課件共78頁，創(chuàng)作于2023年2月5.6.1D最優(yōu)設(shè)計

1943年，Wald提出信息矩陣的行列式極大值判別法。結(jié)構(gòu)矩陣和信息矩陣與試驗方案有關(guān)，設(shè)試驗方案為ε，可以證明，試驗方案的信息矩陣A(ε)的行列式的值|A(ε)|越大，回歸系數(shù)的預(yù)測值的方差越小，預(yù)測值的方差也越小，試驗方案也就越優(yōu)良。以此為依據(jù)，從各種試驗方案中挑選最優(yōu)設(shè)計方案的方法，稱為D最優(yōu)設(shè)計。在同一模型下，兩個試驗方案ε1和ε2，如果方案ε1的信息矩陣行列式的值大于ε2的值，即：|A(ε1)|>|A(ε2)|，則說明在D優(yōu)良性下方案ε1比ε2有更好的優(yōu)良性。第70頁，課件共78頁，創(chuàng)作于2023年2月5.6.2D最優(yōu)混合設(shè)計

D優(yōu)良設(shè)計一般不滿足正交性和旋轉(zhuǎn)性，于是有人以回歸組合設(shè)計為基礎(chǔ)，提出了部分兼有近似D優(yōu)良性、正交性和旋轉(zhuǎn)性的D最優(yōu)混合設(shè)計。

D最優(yōu)混合設(shè)計的設(shè)計方案處理數(shù)較少，試驗效率較高，回歸系數(shù)和待估參數(shù)之間擬合得較好，統(tǒng)計分析上也較為方便。到目前為止，人們已經(jīng)找到了若干2至6個因子的D最優(yōu)混合設(shè)計方案。如:R206,R207,R208,R310A,R310B,R311A,R311B,R312,R3414,R415,R416A,R416B,R416C,R521,R628A,R628B。其中R表示回歸設(shè)計，第一個數(shù)字表示因子數(shù)，第二三位數(shù)字表示處理個數(shù)，最后的字母表示相同因子的方案編號。第71頁，課件共78頁，創(chuàng)作于2023年2月5.6.2D最優(yōu)混合設(shè)計——方案示例R311ANOX1X2X3Y10