數(shù)值分析知識點手冊

數(shù)值分析知識點手冊

?基礎(chǔ)知識

?二進制/十進制轉(zhuǎn)換

二進制表達+進制表達

…力2瓦斯……電2?+仇2，+M2°+b-i2~‘+6-22-2…

?十進制轉(zhuǎn)換二進制

?整數(shù)部分：連續(xù)除以2記錄余項.從小數(shù)點向左記錄來記錄余項0或1

?小數(shù)部分：連續(xù)乘以2記錄余項。從小數(shù)點向右記錄來記錄余項0或1

?二進制轉(zhuǎn)換十進制:直接按指數(shù)即可

?實數(shù)的浮點數(shù)表示

?浮點數(shù)：符號、尾數(shù)，指數(shù)

?(Normalized)浮點數(shù)表示

±1.勵…bx2P

1精度|符號⑤|指數(shù)(M)尾數(shù)(N)|

單精度(32bit)1823

雙精度(64bit)11152

長精度(80bit)11564

?機器精度1和最小的比1大的浮點數(shù)的距離定義為機器精度，記為Ejmach}

?雙精度：E_{mach}

emach=2一52、2,2X10-16

?有效數(shù)字缺失

?舍入誤差(roundingerror):上溢/下溢(overflowandunderflow)何忽略的加法/有效數(shù)字

的丟失:兩個很相近數(shù)的相減

?相近的兩個數(shù)字相減導(dǎo)致有效數(shù)字的丟失，需要等價形式變化(例如方程求根問題)

?求解方程

?二分法

?二分法的理論基礎(chǔ)：令口(口)是區(qū)間［口,口］上的連續(xù)函數(shù)，滿足□(□)□(口)<0,則函數(shù)□在該區(qū)間

上至少一個根，即存在口，滿足□<口(口，以及口(口)=0

?誤差分析:二分法得到的序列滿足以下公式

b—a

\xn-r\<—

?如果誤差小于0.5x10人{-口},稱解精確到小數(shù)點后□位

?不動點迭代

?若□（口）=口，稱□為函數(shù)□（口）的不動點

?不動點迭代算法：令口_0為初始值，□_{□+1}=□（n_□），口=0,L?，若迭代收斂,則收斂到一

個不動點。

?存在唯一性

?設(shè)口G□[□,口]且對任意口e[□,口]有口（口）G[□,□],則□在該區(qū)間上有Y不動點

?若同時□'（口）存在，且存在正常數(shù)口<1使得□'（口）<□,V□G（□,□）,則[口,口]區(qū)間上的不

動點是唯一的

?收斂性

?令□_□表示迭代第口步的誤差，若下式成立，則該方法稱為線性收斂，收斂速度為S

鄉(xiāng)+1

lim—=S<1

i-*ooS[

?設(shè)口連續(xù)可微，□（□）=□,□=,□'（□）1<1,則對于一個足夠接近口的初始估計，以速度口線

性收斂到不動點r

?迭代終止條件

.決定終止算法的條件，稱終止條件

?絕對終止條件

]xi+1-xt\<rqj

?相對誤差條件

\xi+i-Xi\/\xi+1\<TOL

?混合終止條件

I項+i-%il/max（|%i+J6）<TOL

?精度的極限

?后向和前向誤差

?設(shè)口為函數(shù)口的根，即口（口）=o,設(shè)口_□是□的近似值。對于求根問題，近似口一口的后向誤差

為|口（口_口）|,前向誤差為|口-

?后向誤差是描述問題（函數(shù)口）改變量的誤差。前向誤差是所求的解的誤差

?設(shè)□為可微函數(shù)□的根，□(1■)=0,若f在r點的1階導(dǎo)數(shù)、2階導(dǎo)數(shù)……m-1階導(dǎo)數(shù)為0,

而m階導(dǎo)數(shù)非零，則稱函數(shù)在□點有口重根

?1重根稱為單根

?誤差放大因子

?描述問題：令□為口(口)=0的根，假設(shè)對問題有一個小的變化口口(口)，求相對應(yīng)根的變

化，即求△口使得口(口+△□)+□□(□+△0)=0

?根的敏感公式：令□為□(□)=0的根，□+△口為口(口)+□□(□)的根，則當口很小時，

△□?-□□(□)/□'(□)

?誤差放大因子:相對前向誤差/相對后向誤差

g(r)一

r//(r)

?所有輸入上的變化造成的最大誤差放大，稱為條件數(shù)

?高條件數(shù)問題稱病態(tài)問題，否則稱良態(tài)問題

?牛頓法和無梯度方法

?牛頓法

?用口_口點上切線的解作為迭代的下一步□一{口+1}

?令□_□表示第口步的誤差，若滿足以下條件，則稱迭代二次收斂

M=lim<8

?定理：令□為二階連續(xù)可微函數(shù)，滿足□(口)=0和□(□)w0,則牛頓方法局部二次收斂，

誤差滿足：

..e/"(r)

hm-i+j1-=M=.、

i->82f(r)

?重根問題和改進的牛頓方法

?重根問題：牛頓方法不能二次收斂到重根。

?如果口(口)有(口+1)階連續(xù)，包含口重根，則改進牛頓法□_{□+1)=-

收斂，具有二次收斂速度

?割線法

?思想：用差商替代牛頓法中的導(dǎo)數(shù)

?割線法

/(%)(4—々1)

Xi+i=Xi

f(.xt)-f(劭-1)

?超線性收斂：

a-1

/〃(r)

fif+1?

2f'(r)靖

a=(1+V5)/2?1.618

?割線法的推廣

?試位方法：在割線法的基礎(chǔ)上重新選擇區(qū)間進行運算

?Muller方法：使用最后三個迭代值進行拋物線擬合

?逆二次插值:在Muller算法的基礎(chǔ)上選擇x=P(y)型的拋物線插值

?Brent方法：對給定口_□,□_□，使用逆二次方法

?后向誤差得到改進

?包含根的區(qū)間至少減少一半

?割線法的收斂階

?若□'(口),□"(□)*0,則近似誤差

?插值

.拉格朗日插值

?給定口個數(shù)據(jù)點，找到次數(shù)為口-1的插值多項式

?拉格朗日插值的一般形式

L(])=(工一工1)…(z-zi)(z-Z+)…(z—占)

_*一?)…(z*-zi)("-zQ…5—占)

Pn-1(z)=MLi(x)+…+y?Ln(x)

?多項式插值的主定理對□個不同點，(口」,口」),-,(□_□,□,□),存在并僅存在一個不高于口

-1次的多項式口(口)滿足□(□_□)=□_0?

?牛頓差商

?差商

?零階差商

f[x0]=f(x0)

?一階差商

…上小"。]

七一/

?二階差商

門1/［項，士］一"工。，項1

/［九o,/，々］二------------------

^2-^0

?n階差商

〃階差商：flx0,X“…,5］=旦上2匕但

?差商與節(jié)點順序無關(guān)

?牛頓差商公式

3工)=￡[工門+*4z](x-X|)+/CxiXix](x-,ri)(x-X2)

2—一:-3------------------------------

+/E-t|x：-13X4](X-X1)(T—X2)(z—Z3)/

._________+???zK^Zfxi—Zi)…(工-zi).―

?插值誤差分析

?經(jīng)過(□!,□!),-,(□_□,□,□)的口-1階插值多項式的誤差是

?Hermite插值多項式:經(jīng)過(C1,01),,(□□,□□),且在這些節(jié)點上的導(dǎo)數(shù)值口1','

給定，所得到的2口-1階插值多項式

?龍格現(xiàn)象:插值次數(shù)越高，插值結(jié)果越偏離原函數(shù)的現(xiàn)象(解決：使用切比雪夫插值或者減少插

值點)

?切比雪夫插值

?減小誤差多項式的分子：取極小時口一口(口)稱為口階切比雪夫多項式

(%-與)…-=F?馬(%)

?切比雪夫多項式

?定義

Tn(x)=cos(narccos%)

?遞歸關(guān)系

To(%)=1,Ti(x)=%,

Tn+1M=2xTn(X)-Tn-l(x)

?□_□(□)為n次多項式，最高次項系數(shù)為2A(口-1)

?□_□(1)=1,□_□(-!)=(-1”口,最大絕對值為1

?□=cos(Darccos口)的零點為

(2i-1)7T

xi=~~y=L…'九

?=cos(Darccos口)的值在-1和1之間變化口+1次，這些極值點為

譏

Xi=cos——,i=0,…，n

n一

?三次樣條

?分段多項式構(gòu)成的插值函數(shù)稱為樣條

?三次樣條的通常的端點條件

?s'(x0)=f0',s'(xn)=fn'

?s"(x0)=f0",s"(xn)=fn"

?s(x0)=s(xn)(j=0,1,2)

?額外的條件

?)自竺二域逢」注■在邊界的拐點)b)非tfi結(jié)三次樣條(在區(qū)間［0,2］和

5】的三次方程)

12345

c)拋物線■點方程d)鉗制三次樣條(在甬個■點花制為?率。)

?自然樣條

Si=0,Sn.i=0

?曲率調(diào)整樣條

Si=VltSn_1=v2

?鉗制樣條

Sj=處,S；_1=v2

?拋物線端點樣條

cl1—0,d九一1=0

?貝塞爾曲線與最小一乘

.貝塞爾曲線

?主要思想：曲線參數(shù)化

?由端點和控制點可以確定一條三階貝塞爾曲線

端點：?——*（—%4,、—4）

控制點:（如力），（工3，、3）

四）=*+/>“+，、<+，/￡

y（z）=ri+bvt+cvt~+4M乙

=3（X2—盯）

Cx=3（X3-X2）-瓦

dx=X4-X]-bx-cx

by=3（冷-yi）

c.v=3（戶一Q）-by

dy=V4-JI-by-Cy.

?離散最小二乘逼近

?不一致方程組的求解，函數(shù)逼近：正交多項式

?針對不一致系統(tǒng)Ax=b,求解法線方程：A'Ax=A'b

?數(shù)據(jù)的最小二乘擬合模型:給定（□,□,□_□）,-,（□_□,）,找出最佳逼近的直線：口=口_0

?數(shù)據(jù)線性化:建立線性化的數(shù)據(jù)模型，例如：

.=任3）^^回g=1畛+C2t

?正交多項式

?最小二乘函數(shù)逼近：給定函數(shù)口，求P-口（口）使誤差極小，稱口_口（口）為該函數(shù)的最小二乘逼近多

項式,誤差由以下公式給出

■1t-

b—

2

E=[[f（x）-Pn（x）]dx

?給定函數(shù)集合｛□<?,□_□｝,設(shè)對所有口G[□,□],只要口_0口_0（□）+-+□_□□_□（□）=

。就有系數(shù)皆為零，則該集合線性無關(guān)，否則該集合線性相關(guān)

?正交基:｛口.0,…，□_口｝為區(qū)間口□]上的關(guān)于權(quán)函數(shù)口（口）正交集合函數(shù)，若□一口=1,則稱標準正

交

bHk

.

w(x)0)(x)Wk(x)dx=J=

?…為區(qū)間口□]上的關(guān)于權(quán)函數(shù)口的正交集合，則口(口)在該區(qū)間上的最小二乘逼近

為

n

6(%)=Wak(PkM

k=0

_—w(%)3晨%)/(%)dx_:w(%)0k(x)f(%)dx

kSal<PkM]2dx

?數(shù)值微分和積分

?數(shù)值微分

?只利用用口)來計算口'□□,口'',

?二點前向差分:h>0;二點后向差分:h<0

f(x+h)-/(g)

f'Qo)x0

h

?三點中心差分：

)(g+八)一/(須)-h)

f'M七-2h

?誤差分析：Taylor展開

尸(珀=加山？三皿-華h.

?■二階公式(三點中心差分公式)

?差分公式總結(jié)

?前向差分：口0,口0+h

f(x+h)~/(x)

----0----7-------0-,error=O\n)

?后向差分:DO,DO-fi

/3o)二/Qo-h)

error=O(h).

h~

?三點中心差分：DO-h,no,ao+ii

/(XQ+/?-)-/(Xp-/l)

error=O(/i2).

2h

?五點差分：00-2h,00-晨口0,DO+鼠口0+2h

f3)—2/i)—8f(xo-h)+8/(XQ+h)—/(①0+2h)

error=0(//)

12/i

?理查德森外推

?理查德森外推n階公式口仇）：□h口"+□八八n

?外推公式

空包3—。出+1）

邛2n-1，，'/

?Newton-Cotes公式

?用低階多項式來逼近待積分函數(shù)，用簡單定積分代替

?梯形法則：區(qū)間［00,口1=DO+配兩點拉格朗日插值公式

,,'x-xix-x0/"(ex)

〃為二加五二五+以力；+2!

P(x)dx=g(/(g)+/(xi))

E(x)dx

?辛普森法則：區(qū)間［口_0,D_2=口_0+2/i］三點拉格朗日插值公式（辛普森法的精度為3.）:

p(}=(:r-力)(才一也(二一-())(#一.運)"上()).一.-門)

(70-6Vl(6-?o)(xi-a：i)

)(即-X2)x2)"(數(shù)-x0)(x2-

(x—①o)Q—a:i)(x—X2)

E(r)=

3!

(0

f(x)dx=1(如+4如+y2)-^/(c)

?代數(shù)精度:最大的整數(shù)□使得數(shù)值積分方法對所有的□階或更低階多項式積分是精確的，稱為口階

（代數(shù)）精度

?復(fù)合牛頓-科特斯公式:將積分區(qū)間［a,b］等分成:□=口_0<0_1<口一2<<□_{□-!}<

=□

?復(fù)合梯形法則:m個連續(xù)的子區(qū)間上對梯形法則公式求和

￡/（x）dx=?1?（"+%+2>y）-S濯丸/<c）

其中A=（6—以）/帆，c在a和6之間.

?復(fù)合辛普森公式：m個連續(xù)的子區(qū)間上對梯形法則公式求和

0（工出=:［g+y.,+4號+2臥'"（5.25）

其中c在a和6之間.

?開牛頓-科特斯公式

?中點公式

琮/?一）〃=⑵（%+9+//（。）

?復(fù)合中點公式

fafWdx=九鴕+9+”與〃（c）

?龍貝格積分

《數(shù)值分析》P239

?復(fù)合梯形法可表達為，令□=2A{D-l},cJ是h無關(guān)的，于是可以外推

|/（力業(yè)='1■（%+%+zgy）+cN+cH+qh6+???

?步長序列的定義

h\=b-a

人2=—a）

乙

*

*

hi=奈"（6-a）

?R_{jl}是使用步長為hj的復(fù)合梯形法則

）,對于j=2,3,…，

Z，T

Rjt=2/（a+（2t-1）A；）

?R_{jk}公式

R_4iR,,i-R,T.I

K"-41—］

?自適應(yīng)積分

?根據(jù)劃分檢測以判斷是否復(fù)合精度需要繼續(xù)計算

if|St..?-Sc.,tj-SCf.H|<3.TOL.（號一）

接受S【..,J+SSJ作為區(qū)間［a,6］上的近似

else

對于區(qū)間［a,c］和［c,句遞歸重復(fù)上面的步驟

end

?高斯積分

?高斯積分

，(5.44)

其中

G=JL.(x)cLru=1

系數(shù)G的值放在如上所述的表中，同時具有較高的精度.表5.1中的值一直給到〃=4.

?高斯積分表

?51高斯積分系數(shù)N階勘讓值多項式(5.44)的根x,以及系數(shù)c.

itWx.系數(shù)c.

-/I7T--0.577350269189631-1.00000000000000

2

7173-O.577350269189631*1.00000000000000

-y57s=-0.774596669241485/9-0.55555555555555

30-0.000000000000008/9-0.88888888888888

y57T-O.774596669241485/9-0.5SS5555555SS55

-0.861136311S9405-：V-■-0.34785484513745

180

-j!匕套庖--0.33998104358486絲舒度=0.65214515486255

J*叁晅7339981043S8486典捻圖=0.6521451548625S

生Q晅-0.34785484S13745

8611363115940S

?在ab］區(qū)間上的高斯積分

,7（x）dx=1/八6二%+6+。）寧&

aJ一1、Z，Z

?方程組直接法

?高斯消去法

?寫成增廣矩陣的形式進行高斯消去過程

?主元:斜對角線元素為0

?主元為0導(dǎo)致高斯消去法終止

?高斯消去法的復(fù)雜度為口但3)

?消去的復(fù)雜度為2/303

?回代的復(fù)雜度為1/3于

.LU分解

?LU分解將系數(shù)矩陣A寫成下三角矩陣□和上三角矩陣口的乘積，問題變?yōu)椤酢蹩?b

?LU分解方法

數(shù)值分析P72線代P171

?使用結(jié)論

?將矩陣□的從第□行減去第□行的□倍可表示為矩陣□一口口(-□)口,其中口一口□(-0)為主

對角為I,(□，⑴元素為一口，其他元素為0的矩陣

?-□)的逆(c)

?步驟

?確定A化為U的行變換

?把標出的元素除以主元以后放在L的左下方

?圖示

?特殊的分解

?Doolittle分解:L的主元為1

?Crount分解:U的主元為1(可以通過LDU求得)

?LDU分解：L單位下三角矩陣，U單位上三角矩陣，D非奇異對角矩陣

IDU分制

在U中黑取出對角受灣D

18行等小對角元崇的

?choleski分解:L和U的主元相等

?誤差來源

?向量和矩陣范數(shù)

?向量范數(shù)

?定義與性質(zhì)

*||口||稱為向量范數(shù)

?正性，||口||>0,等號當前僅當口=□時成立

.線性性，||口口||=|葉||口||

?三角不等式,II口+D||<II口II+||y||

?定義方式

?1-范數(shù)：向量元素絕對值之和

II訓(xùn)1=￡區(qū)1

i=l

?2-范數(shù)：向量元素絕對值的平方和再開方

1同2=\￡姆

\4=1

?8.范數(shù)：所有向量元素絕對值中的最大值

x|L=max\Xi|

t

?矩陣的范數(shù)

?定義與性質(zhì)

?IHI稱為口X口矩陣的范數(shù)

?正性，II口||20,等號當前僅當口=口時成立

?線性性，||口口||=|斗網(wǎng)|

?三角不等式，||口+n||<||口||+||口||

?相容性：||口口||<||口||中口||

?稱II口-口||為兩矩陣之間的距離

?定義方式

?1-范數(shù)：列和范數(shù)，即所有矩陣列向量絕對值之和的最大值

Il^lli=max￡M』

3i=l

?2-范數(shù)：即A，A矩陣的最大特征值的開平方

11卻2=

?8-范數(shù)：所有矩陣行向量絕對值之和的最大值

N

ll^lloo=maxV|aij|

*#1

?特征值、特征向量和譜半徑

?特征多項式：□(X)=det(口-人口)

?特征值：特征多項式的零點

?特征向量：若特征值人滿足口口=入口，口H0,則稱□為特征向量

?譜半徑:絕對值最大的特征值，口(□)=max|入|,人為口的特征值

?□(□)4||口||對任意算子范數(shù)成立

?誤差放大和條件數(shù)

?誤差放大因子:相對前向誤差/相對后向誤差

llxi—allg/llxlls

llrlloo/ll^lloo

?前向誤差:解誤差的無窮范數(shù)||口-La||

?后向誤差：余項的無窮范數(shù)||口-

?條件數(shù):方陣□的條件數(shù)cond(口)為最大的誤差放大因子

?□X□矩陣□的條件數(shù)為cond(□)=||口||||口八(-1)||

?Hilbert矩陣:元素口口口=1/(口+□-1)

?PA=LU

?部分主元

?在消去第k列時，找到第p行，k<p<n,定位最大的a_pk,必要時交換第p行和第k行，

然后繼續(xù)進行消元

?L的元素的絕對值不大于1

?置換矩陣

?□x□矩陣，其每行、每列僅以一個1,其他元素全為0

?置換矩陣基礎(chǔ)定理：□為單位矩陣經(jīng)過一組特定行交換以后的置換陣，貝11□□為矩陣口經(jīng)過相

同行交換以后的矩陣

?PA=LU過程

?進行部分主元過程

?計算置換矩陣P

?0作為存儲位置.在位置(i,j)的每個0里,保存用于消去該位置元素的乘子

?再次進行部分主元過程

?迭代法

?迭代方法

?Jacobi迭代方法

?D表示A的主對角線矩陣，L表示矩陣A的下三角矩陣(主對角線以下的元素)，U表示

上三角矩陣(主對角線以上的元素)

?A=L+D+U

?迭代過程：x_{k+l}=DA{-l}(b-(L+U)x)

?Gauss-Seidel迭代

?最近更新的未知變量的值在每一步中都使用

?x_{k+l}=DA{-l}(b-Ux_k-Lx_(k+l))

?SOR迭代

?迭代公式

*+1=

，)Bux^+fu

_?3=(O+wZ)-1[(1-3)?！?九=+3E)Tb.

?迭代法的收斂性

?嚴格對角占優(yōu)矩陣：對角元比非對角元大

|a“|＞〉:|。燈|

?若□為嚴格對角占優(yōu)矩陣，則Jacobi和Gauss-Seidel迭代收斂

?稀疏矩陣計算

?稀疏矩陣：很多元素都是0系數(shù)矩陣

?稀疏矩陣中的nA2個矩陣元素，只有0(n)個非零元素

?完全矩陣——直接法；稀疏矩陣——迭代法

?在存儲空間、計算量具有優(yōu)勢

?對稱正定矩陣

?對稱正定矩陣

?對稱矩陣：A'=A

?正定矩陣:X'Ax>0對任意x成立

?對稱矩陣是正定矩陣當且僅當所有特征值是正數(shù)

?□是口X□對稱正定矩陣，X是滿秩n*m矩陣，n>=m,則X'AX對稱正定

?任何對稱正定矩陣的主子矩陣對稱正定

?楚列斯基分解

?楚列斯基因子分解:口=R'R

?若口對稱正定，則存在□滿足口=n1R

?楚列斯基分解過程

數(shù)值分析P109

?最上面一行第一位數(shù)開方，剩下的元素除以第一個元素記為向量u

?在剩下的主子陣中減去外積U'u

?找到剩下的R

?共朝梯度法

?n元函數(shù)□(口)的梯度：f函數(shù)對每一個變量求導(dǎo)所組成的向量

▽/(工)=gradf(x)=圜聶,…，豪)

?□是□階對稱正定矩陣，口是方程組口口=口的解的充分必要條件是口是二次函數(shù)□(□)=1/2口

力□的極小點

Ax*=6<=>〃'*)=酵八為.

?令A(yù)是對稱正定的n*n矩陣。對于兩個n維向量v和w,定義A內(nèi)積(v,w)_A=v'Aw,當A

內(nèi)積為0時，向量v和w為共輾

?求解方法具體見數(shù)值分析P110頁

?適用矩陣：大型稀疏矩陣，良態(tài)矩陣

?病態(tài)矩陣的預(yù)處理方法

?預(yù)條件子：一個和A足夠接近的容易求逆的n*n的矩陣,形式是MA-lAx=MA-lb

?雅克比預(yù)條件子：M=D;MA-1=D，1,是對角線元素的倒數(shù)

?高斯-賽德爾預(yù)條件子：M=(D+L)DA-1(D+U)

?非線性方程組

?多元牛頓方法

?雅可比矩陣：多變量情況下的導(dǎo)數(shù)f

?多變量牛頓方法：x_{k+l}=x_k-（雅克比矩陣”-l*F（x_k）

?多變量牛頓方法求解:計算（雅可比矩陣）s=x_k的解，s是下一個迭代值

?Broden方法

?可以更好的近似估計，見數(shù)值分析P120

?特征值和奇異值

?特征值

?特征值問題等價于求特征多項式的根

?若□為□的特征值

?□□為□□的特征值

?□-□為口-□□的特征值

?□A□為□人口特征值

?口為對稱矩陣，則

?所有特征值均為實數(shù)

?有□個線性無關(guān)特征向量

?存在正交矩陣□使得口,口口},其中□的第口列向量為對應(yīng)于口_□的特征

向量

?Gerschgorin圓盤定理

?復(fù)平面上的圓

/?,=lzeC|lz-a.,1<y|a0|I

[得）

?□的所有特征值在區(qū)域所有的圓盤上，并且若□個圓盤的并集與剩余口一口個圓盤不交，則

該并集包含□個特征值

?特征值計算

?鬲法

?若|D_1|>|口_2|>->|□_□!>0,則可以用幕法求得最大的特征值口」

?與最大的特征值口」相關(guān)的向量我們稱作占優(yōu)特征向量

?幕迭代方法：考慮AAk*x的迭代方式，x在迭代過程中要時刻歸一,不要太大

?反幕法

?可將幕法進行簡單的修改得到更快的收斂

?反黑法：設(shè)口為口X口矩陣,特征值□」,?，口_n,則(□-□□)A{-1}(□H□□)有

特征值：l/(Ll-q),,l/(Ln-q),對應(yīng)的特征向量保持不變

?使用幕法求(□-口口)7-1}(口X□□)的最大特征值，□一k此為矩陣□最接近口的特

征值

心…占

|4一1i內(nèi)一q|

?瑞利商迭代

?瑞利商：口=(x'Ax)/(x'x),其中若x是特征向量的近似，貝卯是特征值的最優(yōu)近似

雪)=等

?設(shè)□為口X口實對稱矩陣，特征值人」>->A_Q,則

(4%,%)(Ax,%)

入1=max------,入八=min------

xeRn(%,%)XERn(x,x)

?可利用Rayleigh商估計最大特征值，瑞利商迭代對稱矩陣三次收斂，一般則二次收斂

?QR分解方法計算特征值

?相似矩陣：口和□相似，若存在□使得口=□A{-i}ns

?相似矩陣具有相同的特征值

?QR算法

?方陣正交：Q'=QA{-1}

?若口為正交矩陣,口為向量,則：||Qx||_2=||x||_2

?QR分解的思想:若A=QR,Ax=b等價于Rx=Q'b

?數(shù)據(jù)求解與最小二乘擬合模型相同

?利用Gram-Schmidt正交化進行QR

?Schmidt正交化過程

?首先正交(使用投影辦法)

R=a_也?nB

'(%A)(“4T)

?然后歸T名即可

?QR分解過程

?先將A的列向量施密特正交化找到Q

?R=Q'A

?Householder變換

?Householder反射(變換)□'□=1,口長度為(！，□=□-2口口’

?Householder反射對稱正交:口A{-1}=□'=口

?構(gòu)造Householder變換:設(shè)口和口eCIA口具有相同的長度||口||_2=||Q||_2,則存在□使

得口=□-2口口’，滿足□口=y

?迭代得到上海森伯格矩陣

?QR算法求特征值

?A是上海森