SPSS在非線(xiàn)性回歸分精講

SPSS在非線(xiàn)性回歸分析中的應(yīng)用第一頁(yè)，共二十五頁(yè)。8.4SPSS 在非線(xiàn)性回歸分析中的應(yīng)用

8.4.1非線(xiàn)性回歸分析的基本原理

非線(xiàn)性回歸分析是探討因變量和一組自變量之間的非線(xiàn)性相關(guān)模型的統(tǒng)計(jì)方法。線(xiàn)性回歸模型要求變量之間必須是線(xiàn)性關(guān)系，曲線(xiàn)估計(jì)只能處理能夠通過(guò)變量變換化為線(xiàn)性關(guān)系的非線(xiàn)性問(wèn)題，因此這些方法都有一定的局限性。相反的，非線(xiàn)性回歸可以估計(jì)因變量和自變量之間具有任意關(guān)系的模型，用戶(hù)根據(jù)自身需要可隨意設(shè)定估計(jì)方程的具體形式。因此，本方法在實(shí)際應(yīng)用中有很大的實(shí)用價(jià)值。第二頁(yè)，共二十五頁(yè)。8.4SPSS 在非線(xiàn)性回歸分析中的應(yīng)用

非線(xiàn)性回歸模型一般可以表示為如下形式：其中為期望函數(shù),該模型的結(jié)構(gòu)和線(xiàn)性回歸模型非常相似，所不同的是期望函數(shù)可能為任意形式，甚至在有的情況下沒(méi)有顯式關(guān)系式，回歸方程中參數(shù)的估計(jì)是通過(guò)迭代方法獲得的。第三頁(yè)，共二十五頁(yè)。8.4SPSS 在非線(xiàn)性回歸分析中的應(yīng)用

8.4.2非線(xiàn)性回歸分析的SPSS操作詳解

Step01：打開(kāi)對(duì)話(huà)框選擇菜單欄中的【Analyze（分析）】→【Regression（回歸）】→【Nonlinear（非線(xiàn)性）】命令，彈出【NonlinearRegression（非線(xiàn)性回歸）】對(duì)話(huà)框，這是非線(xiàn)性回歸的主操作窗口。第四頁(yè)，共二十五頁(yè)。8.4SPSS 在非線(xiàn)性回歸分析中的應(yīng)用

Step02：選擇因變量

在【NonlinearRegression（非線(xiàn)性回歸）】對(duì)話(huà)框左側(cè)的候選變量列表框中選擇一個(gè)變量，將其添加至【Dependent（自變量）】列表框中，即選擇該變量作為非線(xiàn)性回歸分析的因變量。Step03：設(shè)置參數(shù)變量和初始值單擊【Parameters（參數(shù)）】按鈕，將打開(kāi)如下圖所示的對(duì)話(huà)框，該對(duì)話(huà)框用于設(shè)置參數(shù)的初始值。第五頁(yè)，共二十五頁(yè)。8.4SPSS 在非線(xiàn)性回歸分析中的應(yīng)用

【Name（名稱(chēng)）】文本框：用于輸入?yún)?shù)名稱(chēng)。【StartingValue（初始值）】文本框：用于輸入?yún)?shù)的初始值。當(dāng)輸入完參數(shù)名和初始值后，單擊【Add】按鈕，則定義的變量及其初始值將顯示在下方的參數(shù)框中，參數(shù)的初始值可根據(jù)給定模型中參數(shù)定義范圍情況而定。如果需要修改已經(jīng)定義的參數(shù)變量，則先將其選中，然后在【Name（名稱(chēng)）】和【StartingValue（初始值）】文本框里進(jìn)行修改，完成后點(diǎn)擊【Change】按鈕確認(rèn)修改。如果要?jiǎng)h除已經(jīng)定義的參數(shù)變量，先用將其選中，然后點(diǎn)擊【Remove】按鈕刪除。如果勾選【Usestartingvaluesfrompreviousanalysis（使用上一分析的起始值）】復(fù)選框，表示使用前一次分析確定的初始值；當(dāng)算法的收斂速度減慢時(shí)，可選擇它繼續(xù)進(jìn)行搜索。完成后單擊【Continue】按鈕返回主程序窗口。第六頁(yè)，共二十五頁(yè)。8.4SPSS 在非線(xiàn)性回歸分析中的應(yīng)用

Step04：輸入回歸方程在【ModelExpression（模型表達(dá)式）】文本框中輸入需要擬合的方程式，該方程中包含自變量、參數(shù)變量和常數(shù)等。自變量從左側(cè)的候選變量列表框中選擇，參數(shù)變量從左側(cè)的【Parameters（參數(shù)）】列表框里選入。同時(shí)，擬合方程模型中的函數(shù)可以從【Function（函數(shù)組）】列表框里選入；方程模型的運(yùn)算符號(hào)可以用鼠標(biāo)從窗口“數(shù)字符號(hào)”顯示區(qū)中點(diǎn)擊輸入。Step05：迭代條件選擇

單擊【Loss】按鈕，將打開(kāi)如下圖所示的對(duì)話(huà)框。該對(duì)話(huà)框用來(lái)選擇損失函數(shù)來(lái)確定參數(shù)的迭代算法。第七頁(yè)，共二十五頁(yè)。8.4SPSS 在非線(xiàn)性回歸分析中的應(yīng)用

Sumofsquaredresiduals：系統(tǒng)默認(rèn)項(xiàng)，基于殘差平方和最小化的迭代算法。User-definedlossfunction：自定義選項(xiàng)，設(shè)置其他統(tǒng)計(jì)量為迭代條件。在下面文本輸入框中輸入相應(yīng)的統(tǒng)計(jì)量的表達(dá)式，這里稱(chēng)為損失函數(shù)。左側(cè)的候選變量列表框中，“RESID_”代表所選變量的殘差；“PRED_”代表預(yù)測(cè)值?？梢詮淖笙陆堑摹綪arameters（參數(shù)）】列表框中選擇已定義的參數(shù)進(jìn)入損失函數(shù)。第八頁(yè)，共二十五頁(yè)。8.4SPSS 在非線(xiàn)性回歸分析中的應(yīng)用

Step06：參數(shù)取值范圍選擇單擊【Constraints】按鈕，將打開(kāi)如下圖所示的對(duì)話(huà)框。該對(duì)話(huà)框用來(lái)設(shè)置回歸方程中參數(shù)的取值范圍。

Unconstrained：無(wú)約束條件，系統(tǒng)默認(rèn)項(xiàng)。

Defineparameterconstraint：可對(duì)選定的參數(shù)變量設(shè)置取值范圍。參數(shù)的取值范圍用不等式“=，<=，>=”來(lái)定義。例如這里限制參數(shù)“b”的迭代范圍是“b<=5”。第九頁(yè)，共二十五頁(yè)。8.4SPSS 在非線(xiàn)性回歸分析中的應(yīng)用

Step07：選擇預(yù)測(cè)值和殘差等輸出單擊【Save】按鈕，彈出如下圖所示的對(duì)話(huà)框。它表示要保存到數(shù)據(jù)文件中的統(tǒng)計(jì)量。

PredictedValues：輸出回歸模型的預(yù)測(cè)值。

Residuals：輸出回歸模型的殘差。

Derivatives：模型各個(gè)參數(shù)的一階導(dǎo)數(shù)值。

Lossfunctionvalues：損失函數(shù)值。第十頁(yè)，共二十五頁(yè)。8.4SPSS 在非線(xiàn)性回歸分析中的應(yīng)用Step08：迭代方法選擇單擊【Options】按鈕，彈出如下圖所示的對(duì)話(huà)框。它用于選擇各類(lèi)迭代算法。第十一頁(yè)，共二十五頁(yè)。8.4SPSS 在非線(xiàn)性回歸分析中的應(yīng)用Bootstrapestimatesofstandarderror：采用樣本重復(fù)法計(jì)算標(biāo)準(zhǔn)誤。樣本重復(fù)法需要順序二次規(guī)劃算法的支持。當(dāng)選中該項(xiàng)時(shí)，SPSS將自動(dòng)選中【SequentialquadraticProgramming（序列二次編程）】項(xiàng)?！綞stimationMethod】框中列出了參數(shù)的兩種估計(jì)方法：●SequentialQuadraticProgramming：順序二次規(guī)劃算法。該方法要求輸入的參數(shù)如下?！癕aximum”：最大迭代步數(shù)?！癝tepIimit”：最大步長(zhǎng)?！癘ptimality”：目標(biāo)函數(shù)的迭代誤差限。“Functionprecision”：函數(shù)精度，應(yīng)比目標(biāo)函數(shù)的迭代誤差限小。“Infinitestepsize”：當(dāng)一次迭代中參數(shù)值的變化大于設(shè)置值，則迭代停止?！馤evenberg-Marquardt：系統(tǒng)缺省設(shè)置，列文博格-麥夸爾迭代法。該法要求輸入的參數(shù)如下?！癕aximumiterations”：最大迭代步數(shù)?！癝um-of-squaresconvergence”：在一步迭代中目標(biāo)函數(shù)殘差平方和的變化比例小于設(shè)置的值時(shí)，迭代停止?！癙arameterconvergence”：在一步迭代中參數(shù)的變化比例小于設(shè)置值時(shí)，迭代停止。Step09：?jiǎn)螕簟綩K】按鈕，結(jié)束操作，SPSS軟件自動(dòng)輸出結(jié)果。第十二頁(yè)，共二十五頁(yè)。8.4SPSS 在非線(xiàn)性回歸分析中的應(yīng)用8.4.3實(shí)例分析：股票價(jià)格的預(yù)測(cè)1.實(shí)例內(nèi)容

假定數(shù)據(jù)文件8-4中是三個(gè)公司股票在15個(gè)月期間的股市收盤(pán)價(jià)。一家投資公司希望建立一個(gè)回歸模型用股票B和股票C的價(jià)格來(lái)預(yù)測(cè)股票A的價(jià)格。請(qǐng)建立回歸模型分析。8.3SPSS在曲線(xiàn)擬合中的應(yīng)用第十三頁(yè)，共二十五頁(yè)。8.4SPSS在非線(xiàn)性回歸分析中的應(yīng)用2.實(shí)例操作

本案例要利用股票B和股票C的價(jià)格來(lái)預(yù)測(cè)股票A的價(jià)格，因此選擇股票B和股票C為自變量，股票A為因變量來(lái)建立回歸方程：其中，y、x1和x2分別表示股票A、股票B和股票C的價(jià)格。第十四頁(yè)，共二十五頁(yè)。8.4SPSS在非線(xiàn)性回歸分析中的應(yīng)用接著利用散點(diǎn)矩陣圖來(lái)判斷三個(gè)變量之間的關(guān)系。散點(diǎn)矩陣圖8-29分為9個(gè)子圖，它們分別描述了三只股票中兩兩股票價(jià)格之間的變化?？梢钥吹剑善盇的價(jià)格和其他兩只股票的價(jià)格都存在顯著線(xiàn)性關(guān)系，這是否表示只需要建立一個(gè)二元線(xiàn)性模型即可呢？觀察自變量股票B和股票C之間散點(diǎn)圖看到，這兩只股票的價(jià)格也存在顯著的影響關(guān)系，這說(shuō)明了這兩個(gè)因變量之間可能存在交叉影響。于是，建立如下非線(xiàn)性回歸方程：第十五頁(yè)，共二十五頁(yè)。8.4SPSS在非線(xiàn)性回歸分析中的應(yīng)用第十六頁(yè)，共二十五頁(yè)。8.4SPSS在非線(xiàn)性回歸分析中的應(yīng)用3實(shí)例結(jié)果及分析（1）迭代過(guò)程表表8-17是回歸方程參數(shù)估計(jì)的迭代過(guò)程記錄。這里只進(jìn)行了兩次迭代就達(dá)到了精度要求。觀察殘差平方和“ResidualSumofSquares”的變化，可見(jiàn)隨著迭代的進(jìn)行，殘差變得越來(lái)越小。但這一過(guò)程不是無(wú)限進(jìn)行下去的，當(dāng)進(jìn)行了兩步迭代后，殘差以及各參數(shù)的估計(jì)值均穩(wěn)定下去了，模型達(dá)到收斂標(biāo)準(zhǔn)。第十七頁(yè)，共二十五頁(yè)。8.4SPSS在非線(xiàn)性回歸分析中的應(yīng)用（2）參數(shù)估計(jì)值表8-18列出了回歸模型中四個(gè)參數(shù)的迭代估計(jì)值、標(biāo)準(zhǔn)誤差和95%的置信區(qū)間。于是，得到股票A關(guān)于股票B和C的預(yù)測(cè)回歸模型為：可以看到，股票B和股票C都和股票A的價(jià)格變動(dòng)方向相同，而且股票B對(duì)股票A的影響更大。股票B、C的交互項(xiàng)會(huì)影響股票A下跌，但這種影響不太明顯。第十八頁(yè)，共二十五頁(yè)。8.4SPSS在非線(xiàn)性回歸分析中的應(yīng)用第十九頁(yè)，共二十五頁(yè)。8.4SPSS在非線(xiàn)性回歸分析中的應(yīng)用

（3）參數(shù)的相關(guān)系數(shù)矩陣表8-19是模型中四個(gè)估計(jì)參數(shù)的相關(guān)系數(shù)矩陣。對(duì)于較復(fù)雜的模型，參數(shù)間的相關(guān)系數(shù)可用來(lái)輔助進(jìn)行模型的改進(jìn)，本案例無(wú)太多價(jià)值。第二十頁(yè)，共二十五頁(yè)。8.4SPSS在非線(xiàn)性回歸分析中的應(yīng)用（4）方差分析表表8-20是非線(xiàn)性回歸分析的方差分析表。UncorrectedTotal為未修正的總誤差平方和，其值等于23368.000，自由度等于15；它被分解成回歸平方和23274.913和殘差平方和93.087，自由度分別是4和11。CorrectedTotal是經(jīng)修正的總誤差平方和，其值等于474.933，自由度是14；表的最后一列是均方。表8-20最后一行公式：R2=1-殘差平方和/修正平方和=0.804，這個(gè)結(jié)果說(shuō)明了這個(gè)非線(xiàn)性回歸模型的擬合效果，總體來(lái)看還是不錯(cuò)的。第二十一頁(yè)，共二十五頁(yè)。8.4SPSS在非線(xiàn)性回歸分析中的應(yīng)用第二十二頁(yè)，共二十五頁(yè)。8.4SPSS在非線(xiàn)性回歸分析中的應(yīng)用（5）線(xiàn)性回歸和非線(xiàn)性回歸的股票預(yù)測(cè)圖圖8-35顯示了原始數(shù)據(jù)、線(xiàn)性回歸模型、非線(xiàn)性回歸模型三者的比較。其中，“股票A”是實(shí)際曲線(xiàn)，“PredictedValues”是本案例建立的非線(xiàn)性回歸方程的預(yù)測(cè)曲線(xiàn)，“UnstandardizedPredictedValues”是不考慮股票B、C交互項(xiàng)的二元線(xiàn)性模型的預(yù)測(cè)曲線(xiàn)?？梢悦黠@看到，非線(xiàn)性回歸的預(yù)測(cè)效果要好于二元線(xiàn)性回歸的預(yù)測(cè)效果，說(shuō)明了這里我們引入股票B、C交互項(xiàng)的合理性。第