多元統(tǒng)計(jì)分析-高等代數(shù)初步(研究生用)

1、多變量分析中常用的矩陣代數(shù)華中師大 劉華山一、矩陣及其主要相關(guān)概念（一）矩陣（matrix）：一群數(shù)排列成m行（row,橫行）n列（column,縱列）所得到的數(shù)表，或數(shù)的矩形陣列。如： 矩陣用大寫(xiě)黑體字母表示為：A，或i為行序數(shù)，j為列序數(shù)。 一行一列的矩陣等同于一個(gè)數(shù)，即A=（a）=a（二）方陣（square matrix）：行數(shù)與列數(shù)相等的矩陣。如B為3階方陣。 （三）方陣之跡（trace）:方陣自左上至右下的主對(duì)角線(xiàn)各元素之和。記作trA。如上例方陣B之跡為58.（四）轉(zhuǎn)置矩陣（transpose）:將矩陣A的第i行，變?yōu)榈趇列，所得到的新矩陣，叫做矩陣A的轉(zhuǎn)置矩陣，記作如上例，方陣B

2、之轉(zhuǎn)置矩陣為： （五）對(duì)稱(chēng)矩陣（symmetric matrix）：如果在對(duì)稱(chēng)矩陣中，為節(jié)省起見(jiàn)，對(duì)稱(chēng)矩陣主對(duì)角線(xiàn)上方一側(cè)的元素可略去不寫(xiě)。（六）三角矩陣（triangular matrix）：主對(duì)角線(xiàn)一側(cè)元素皆為零的矩陣。其中，主對(duì)角線(xiàn)左下方有非零元素的三角矩陣，叫下三角矩陣；主對(duì)角線(xiàn)右上方有非零元素的三角矩陣，叫上三角矩陣。為節(jié)省起見(jiàn)，三角矩陣中主對(duì)角線(xiàn)一側(cè)的皆為零的元素可略去不寫(xiě)，但要寫(xiě)一個(gè)“零”字，以與對(duì)稱(chēng)矩陣相區(qū)別。（七）對(duì)角線(xiàn)矩陣或?qū)蔷仃嚕╠iagonal matrix）:除主對(duì)角線(xiàn)元素外，其余元素皆為零的矩陣（方陣）。主對(duì)角線(xiàn)元素指。對(duì)角線(xiàn)矩陣可以簡(jiǎn)寫(xiě)如下：（八）單位矩陣或單元

3、矩陣（identity matrix）:主對(duì)角線(xiàn)各元素皆為1的對(duì)角線(xiàn)矩陣?？梢杂涀鲉卧仃嚺c任何矩陣A相乘，不論左乘，還是右乘（如果可乘的話(huà)），其積為矩陣A。(九) 零矩陣（zero matrix）:零矩陣可以表示為（十）滿(mǎn)秩（full rank）矩陣與缺秩（deficient rank）矩陣有矩陣A為缺秩矩陣。 （十二）系數(shù)矩陣與增廣矩陣 設(shè)有方程組Ax=b (其中A為系數(shù)矩陣，x為未知數(shù)列向量，b為常數(shù)列向量)，則 A為系數(shù)矩陣，為增廣矩陣。 則（十三）正交矩陣 二、向量及其有關(guān)概念 （一）向量（vector）：只有一行或一列的矩陣，叫向量。 向量以小寫(xiě)黑體英文字母表示。行向量各元素間有逗

4、號(hào)隔開(kāi)。（二）行向量與列向量 m×1矩陣，叫m維列向量；1×n矩陣，叫n維行向量。如未加說(shuō)明，向量都是指列向量。 為了節(jié)約篇幅，列向量通常寫(xiě)作行向量的轉(zhuǎn)置。 （三）單元向量（unit vector） 元素都是1的向量，叫單元向量。用黑體數(shù)字1表示，右下可加數(shù)字表示維數(shù)。注意不應(yīng)與單元矩陣I相混淆。 （四）零向量（zero vector） 元素都是0的向量，叫零向量。用黑體數(shù)字0表示. 三、矩陣之間的關(guān)系 （一）轉(zhuǎn)置矩陣（transpose） （二）負(fù)矩陣 （三）逆矩陣（inverse matrix） 如果有A的逆矩陣是惟一的。只有滿(mǎn)秩矩陣才有逆矩陣。例如 (四)同型矩陣如兩

5、個(gè)矩陣A和B具有相同的行數(shù)和相同的列數(shù)，則A、B為同型矩陣。（五）矩陣相等A、B為同型矩陣，且兩個(gè)零矩陣、兩個(gè)單元矩陣不一定相等，因?yàn)樗麄兛赡懿煌汀?（六）伴隨矩陣（adjoint matrix）設(shè)有n階矩陣A，將A的每一個(gè)元素替換為其對(duì)應(yīng)的代數(shù)余子式，然后再轉(zhuǎn)置，所得到的矩陣，叫原矩陣的伴隨矩陣。A的伴隨矩陣記作adjA或A*. 四、行列式及其有關(guān)概念和計(jì)算 (一)行列式（determinant）行列式實(shí)際是一系列的幾個(gè)數(shù)連乘積的和的一種記錄式。通常用D表示。n階矩陣（方陣）A，則A的行列式記作detA或（二）行列式與矩陣1,行列式是一個(gè)數(shù)值，矩陣是含有若干行與列的一個(gè)數(shù)表；2.行列式的行

6、數(shù)與列數(shù)相等，矩陣的行數(shù)與列數(shù)可不相等；3.矩陣與行列式的幾何意義：矩陣中各列表示各向量在空間上的關(guān)系，行列式表示各列向量構(gòu)成的平行多面體的體積。（三）行列式的子式、余子式、代數(shù)余子式1.行列式的子式：由行列式的部分行、列相交處的元素按原來(lái)位置組成的行列式，叫原行列式的子式。由K行K列相交處的元素組成的子式，叫K階子式。矩陣也有對(duì)應(yīng)的子式。例如一個(gè)3×4階矩陣4.余子式：在n階行列式中，劃去所在行與列的元素，剩余元素按原序組成的一個(gè)n-1階行列式，叫的余子式，5.代數(shù)余子式：在余子式前乘以代數(shù)余子式。例如（四）行列式之展開(kāi)法 1.二階、三階行列式可用對(duì)角線(xiàn)法展開(kāi) 練習(xí)： 2.四階及以

7、上階行列式求法：子式展開(kāi)法（也適于二階、三階行列式） 可以按任一行或任一列展開(kāi)行列式。即就某一行（或某一列），以該行每一元素乘以該元素的代數(shù)余子式，相加即得行列式的值。注意代數(shù)余子式由余子式加正負(fù)號(hào)得到。正負(fù)號(hào)在各行個(gè)列是正負(fù)間隔排列的。 例1：對(duì)“1”之例2,用子式展開(kāi)法計(jì)算。 練習(xí)：計(jì)算行列式的值 （五）行列式性質(zhì)1.若n階行列式有一行（或）一列元素全為零，則行列式為零；2.行列互換，行列式值不變。即行列式轉(zhuǎn)置后，行列式的值不變。即3.對(duì)換行列式任意兩行（或任意兩列），則行列式變號(hào)。4.行列式如果有兩行相同，則此行列式為零。5.用數(shù)k乘行列式，等于任一行（或任一列）的各元素都乘以數(shù)k。反過(guò)

8、來(lái)，某行各元素的公因式可提出行列式符號(hào)前。6.行列式如果有兩行成比例，則此行列式為零。7.上三角行列式、下三角行列式、對(duì)角線(xiàn)行列式皆等于其對(duì)角線(xiàn)上各元素的乘積。9.行列式某行的K倍加到另一行，則行列式的值不變。 (六)解方程的克來(lái)姆法則如果n元n個(gè)方程的線(xiàn)性方程組的系數(shù)行列式D0,則此方程組有惟一解： 五、矩陣的運(yùn)算（一）矩陣加法與減法1.加減法法則：矩陣加減法是使兩矩陣對(duì)應(yīng)元素相加減。只有同型矩陣或維數(shù)相同的兩個(gè)行（列）向量才能相加。2.矩陣加法的性質(zhì)（1）加法交換律：A+B=B+A（2）加法結(jié)合律：A+（B+C）=(A+B)+C（3）(二)矩陣乘法1.乘法法則（1）兩矩陣相乘：左邊矩陣的第

9、i行的各元素，乘以右邊矩陣的第j列的各對(duì)應(yīng)元素，將其積相加，所得的和就是積的第i行第j列的元素。矩陣乘法是有條件的，只有當(dāng)左邊矩陣的列數(shù)與右邊矩陣的行數(shù)相等時(shí)，乘法才有可能。例1： （2）數(shù)乘矩陣：數(shù)k與矩陣A相乘，就是k與矩陣A的每個(gè)元素都相乘。 2.矩陣乘法性質(zhì) （1）結(jié)合律 （AB）C=A(BC) （kl）A=k(lA)=l(kA) k(AB)=(kA)B=A(kB) （2）分配律 左分配律 A（B+C）=AB+AC 右分配律（B+C）A=BA+CA 自然有（A+B）（C+D）=AC+BC+AD+BD 數(shù)與矩陣分配律k(A+B)=kA+kB, (k+l)A=kA+lA（3）矩陣乘法不滿(mǎn)足

10、交換律雖然一般地說(shuō)ABBA，但AB的跡等于BA的跡。（4）兩個(gè)非零矩陣的乘積可為零矩陣（7）乘法矩陣不滿(mǎn)足消去律若AB=AC,不一定有B=C.3.關(guān)于A、B可交換當(dāng)AB=BA時(shí)，稱(chēng)A、B可交換（1）單位矩陣與任一同階矩陣（顯然是方陣，否則交換后不可乘）可交換；即（2）零矩陣與任一同階矩陣A可交換；（3）矩陣與其逆矩陣可交換；六、向量的運(yùn)算向量運(yùn)算規(guī)則如同矩陣運(yùn)算。向量的線(xiàn)性運(yùn)算具有類(lèi)似矩陣運(yùn)算的8條性質(zhì)。七、向量的內(nèi)積和外積設(shè)有向量當(dāng)左因子為行向量時(shí)，右因子為列向量時(shí)，乘積為一個(gè)數(shù)，稱(chēng)作與的內(nèi)積，或數(shù)量積，記作（，）；當(dāng)左因子為列向量，右因子為行向量時(shí)，乘積為一個(gè)方陣，稱(chēng)作與的外積。一個(gè)向量與

11、自身的內(nèi)積等于其長(zhǎng)度的平方。八、轉(zhuǎn)置的性質(zhì) 6.九、逆矩陣的計(jì)算與性質(zhì)（一）逆矩陣的求法1. 2×2矩陣A的逆矩陣求法：只需使左上右下的元素?fù)Q位；右上左下的元素反號(hào)（這樣做實(shí)際是求出矩陣A的伴隨矩陣），再除以；例1：設(shè)有矩陣2.對(duì)角線(xiàn)矩陣的逆矩陣的求法：將對(duì)角線(xiàn)上的各非零元素改為其倒數(shù)；如果對(duì)角線(xiàn)上有0元素，則此矩陣不可逆（因其對(duì)應(yīng)的行列式為0）。3.伴隨矩陣法有n階方陣A，當(dāng)4.利用初等變換的方法求逆將可逆方陣A與同階單位矩陣并列，運(yùn)用初等行變換將A化為單位矩陣時(shí)，每步采用相同初等行變換的單位矩陣就變?yōu)锳的逆矩陣。（二）逆矩陣的性質(zhì)十、矩陣的初等變換及其性質(zhì)、作用（一）矩陣初等變換

12、1.初等行變換（1）交換矩陣的第i、j兩行位置，記作；（2）用一個(gè)非零數(shù)k乘第i行的所有元素，記作；（3）將第j行所有元素的k倍，加到第i行對(duì)應(yīng)元素上去，記作。2.初等列變換與上類(lèi)似，分別記作。（二）矩陣初等變換的性質(zhì)1.不改變矩陣的秩；2.對(duì)增廣矩陣作初等變換不改變方程組的解；（三）矩陣初等變換的作用1.解線(xiàn)性方程組；2.求矩陣的秩：利用矩陣初等變換可得到階梯形矩陣，階梯形矩陣的非零行的行數(shù)，即是矩陣的秩；繼續(xù)對(duì)階梯形矩陣實(shí)行初等變換可得到原矩陣的標(biāo)準(zhǔn)形，標(biāo)準(zhǔn)形左上角單元矩陣的階數(shù)即是原矩陣的秩。3.求矩陣的逆矩陣。十一、階梯矩陣和標(biāo)準(zhǔn)型 （一）階梯矩陣的性質(zhì)形如X=的矩陣叫階梯矩陣。說(shuō)明：

13、皆為非零元素，它們是所在行第一個(gè)非零元素；角標(biāo)相鄰的處于相鄰行，但不一定處于相鄰的列；故它們不一定是對(duì)角線(xiàn)元素，不能寫(xiě)作的形式。階梯矩陣的特征是 （1）若有零行，則處于矩陣的下方；（2）非零行的第一個(gè)非零元素的左邊的零的個(gè)數(shù)隨行標(biāo)遞增（不一定是依次增加1）。（二）標(biāo)準(zhǔn)型任意矩陣A都如一個(gè)形如 的矩陣等價(jià)，這個(gè)矩陣稱(chēng)為矩陣A的等價(jià)標(biāo)準(zhǔn)型（標(biāo)準(zhǔn)形）。其中十二、矩陣的秩（一）秩的定義矩陣A中不為零的子式的最高階數(shù)，叫矩陣A的秩，記作r(A)。對(duì)定義的說(shuō)明：若A至少有一個(gè)r階子式不為零，而所有的r+1階子式全為零時(shí)，有r(A)=r.0矩陣的秩規(guī)定為0。(二)滿(mǎn)秩矩陣與缺秩矩陣（見(jiàn)前）(三)秩的性質(zhì)1.

14、對(duì)于任意m×n矩陣A，有0r(A)min(m,n)2.當(dāng)且僅當(dāng)A是零矩陣時(shí)，r(A)=03.對(duì)n階方陣A，7.n階方陣可逆的充要條件是A為滿(mǎn)秩矩陣。十三、用初等變換解方程（一）方程組的初等變換用克來(lái)姆法則解線(xiàn)性方程組有許多限制，故對(duì)于一般n元m個(gè)方程的線(xiàn)性方程組，通常用高斯消元法求解。高斯法求解實(shí)際是加減消元法，其實(shí)質(zhì)是對(duì)線(xiàn)性方程進(jìn)行初等變換，把原方程組化為三角方程組，再用回代法解出適合于方程組的未知數(shù)的值。包括消元過(guò)程與回代過(guò)程兩步。方程組的初等變換包括：1.互換兩個(gè)方程的位置；2.用一個(gè)非零數(shù)乘某一方程的兩邊；3.用數(shù)k乘一個(gè)方程并將其加到另一個(gè)方程上?？梢宰C明，經(jīng)過(guò)初等變換，方

15、程組的解不變。（二）一個(gè)實(shí)例例：設(shè)有方程 增廣矩陣為：十四、通過(guò)方程初等變換的途徑討論線(xiàn)性方程組的解（一）一般線(xiàn)性方程組（n元m個(gè)線(xiàn)性方程組成的方程組）的解的討論如上所述。（二）齊次線(xiàn)性方程組的解的討論現(xiàn)有齊次線(xiàn)性方程組小結(jié)：對(duì)于齊次線(xiàn)性方程組：1.齊次線(xiàn)性方程組必有解。因?yàn)楹阌衦(A)=r(B).2.根據(jù)r與n的大小關(guān)系，方程組的解有兩種情況：（1）若r(A)=r<n,方程組有無(wú)數(shù)組解，其中必有非零解；這些解中包含(n-r)個(gè)自由未知量。而這些自由未知量可以任意指定，當(dāng)然可以指定為非零數(shù)。（2）若r(A)=r=n,則方程組僅有一組零解。 （三）n元n個(gè)方程組成的齊次線(xiàn)性方程組的解的討論

16、 這類(lèi)方程組是上述齊次線(xiàn)性方程組的特例，其特點(diǎn)是：一次方程；無(wú)常數(shù)項(xiàng)；方程個(gè)數(shù)等于未知數(shù)的個(gè)數(shù)。如下：n元n個(gè)方程組成的齊次線(xiàn)性方程解的判定定理：這類(lèi)方程必有解，因?yàn)樗驱R次線(xiàn)性方程。定理：n元n個(gè)方程組成的齊次線(xiàn)性方程組有非零解的充要條件是其系數(shù)行列式為零。即。因?yàn)榇藭r(shí)必有r(A)=r<n；只有當(dāng)時(shí)，才有r(A)=r=n.十五、特征值和特征向量1.特征值(eigenvalue)也叫特征根（characteristic root）。對(duì)于n階方陣A，若存在數(shù)和非零n維向量k,使得式子Ak= k成立，(如k、換為矩陣K、時(shí)，則為AK=K)則為矩陣A的特征根，k為矩陣對(duì)應(yīng)于特征根的特征向量(e

17、igenvector) 。在主成分分析中n個(gè)特征根分別是n個(gè)主成分各自所解釋的觀測(cè)變量的方差。特征向量k則是表達(dá)主成分的觀測(cè)變量線(xiàn)性組合中的權(quán)系數(shù)。以下是一個(gè)實(shí)例： 2.求n階方陣A的特征值和特征向量為使必須使（移項(xiàng)）變形為 這是一個(gè)關(guān)于k(k是n維非零向量)的齊次線(xiàn)性方程組，由n個(gè)方程組成，即這是一個(gè)n元n個(gè)方程組成的線(xiàn)性方程組。要使這一方程組有非零解，必須使其系數(shù)行列式為零。即這是一個(gè)關(guān)于的n次方程,叫做A的特征方程，解此方程得到的n個(gè)根，將此n個(gè)值分別代入得到對(duì)應(yīng)于每個(gè)特征值的特征向量。另 叫A的特征多項(xiàng)式。 例：求矩陣A的特征值與特征向量解特征方程的得：可以用初等變換方法解此方程，也可求方程組系數(shù)矩陣的伴隨矩陣的方法， 可記作：十六、二次型及其導(dǎo)數(shù)（一）二次型齊次的多元二次多項(xiàng)式稱(chēng)為二次型，如當(dāng) 上式可以寫(xiě)作：（二）表示一個(gè)二次型設(shè)為n維行向量，A為n階對(duì)稱(chēng)方陣，即，則 表示的是二次型，是一個(gè)多項(xiàng)式。（三）二次型的導(dǎo)數(shù)二次型的導(dǎo)數(shù)等于2Ak十七、向量的正規(guī)化、正交化（一）向量的長(zhǎng)度向量的幾何表示是坐標(biāo)系中一條有向線(xiàn)段。二維向量 的幾何表示是坐標(biāo)系中以原點(diǎn)為起點(diǎn)，以點(diǎn)（3,4）為終點(diǎn)的一條有向線(xiàn)段。此向量的長(zhǎng)度為 ；三維向量(二)向量正規(guī)化使長(zhǎng)度不為1的向量b變?yōu)殚L(zhǎng)度為1的向量，叫做使向量正規(guī)化。正規(guī)化后的向量記作。向量正規(guī)化不改變向量的方向，但改變向