本文主要總結矩陣代數（運算、逆、分塊矩陣、LU分解、子空間、秩）和行列式相關內容。

矩陣乘積AB的每一列都是A各列的線性組合，且以B中對應的列的元素作為權重。

矩陣的冪：
只有方陣可以乘冪，冪的計算可以利用矩陣對角化（特征值分解）實現：
A=PΛP?1A=PΛP?1
Ak=PΛkP?1Ak=PΛkP?1
其中ΛΛ是對角矩陣，且主對角線上的元素為A的特征值，P的各列為對應的特征向量。當然，A可以對角化的充要條件是A(n×n)存在n個線性無關的特征向量。
特別地，A0=IA0=I，為單位陣

矩陣轉置：
(AT)T=A(AT)T=A
(A+B)T=AT+BT(A+B)T=AT+BT
(AB)T=BTAT(AB)T=BTAT
(A1A2...Am?1Am)T=ATmATm?1...AT2AT1(A1A2...Am?1Am)T=AmTAm?1T...A2TA1T

矩陣的逆：
只有方陣才可能存在逆（其他矩陣存在偽逆），n階方陣A可逆的充要條件是det(A) != 0，此時的方陣A稱為非奇異矩陣，若n階方陣A滿足det(A) = 0，則不可逆，稱為奇異矩陣（sigular matrix）。

性質：
AA?1=IAA?1=I
(AT)?1=(A?1)T(AT)?1=(A?1)T
(AB)?1=B?1A?1(AB)?1=B?1A?1
(A1A2...Am?1Am)?1=A?1mA?1m?1...A?12A?11(A1A2...Am?1Am)?1=Am?1Am?1?1...A2?1A1?1

可逆矩陣和矩陣行變換有著重要聯系，借此可以計算矩陣的逆。且可逆矩陣行等價于單位矩陣。

初等矩陣：把單位矩陣進行一次行變換，就得到了初等矩陣

逆矩陣A?1A?1的算法：
法1.把增廣矩陣[AA II]進行行化簡，若A行等價于I，則[AA II]行等價與[II A?1A?1]，否則A沒有逆。

法2. 根據公式：A?1=A?det(A)A?1=A?det(A) ，其中A?A?為A的伴隨矩陣，每一元素均為A中各元素的代數余子式。

考慮Ax=[e1,e2...en]Ax=[e1,e2...en]，可以看成n個方程，逐個解方程，對應的每個解就是A?1A?1中對應的各列。

可逆矩陣定理：
設A為n×n矩陣，則下列命題等價（同時為真或同時為假）：
1.A是可逆矩陣
2.A等價于n×n單位矩陣
3.A有n個主元位置
4.方程Ax=0僅有平凡解
5.方程Ax=b至少有一個解
6.A的各列線性無關
7.映射x->Ax為單射（一對一）
8.A的各列可生成空間RnRn
9.ATAT是可逆矩陣
10.存在n×n矩陣C滿足CA=ICA=I
11.存在n×n矩陣D滿足AD=IAD=I

分塊矩陣：
運用一種“整體”思想，將矩陣按行和列分塊，有助于突出矩陣的一些本質結構，最主要作用是便于計算機進行計算，即把矩陣分塊后再進行矩陣運算更有效。分塊后的矩陣運算法則和原矩陣完全相同。

矩陣的偽逆：
偽逆矩陣是廣義的逆矩陣，針對不存在逆矩陣的奇異矩陣和非方陣的矩陣，利用SVD來計算，用matlab中的pinv(A)表示A的偽逆。

設A為m×n矩陣，r為矩陣A的秩：
若A列滿秩，列向量線性無關，r=n，Ax=b為超定方程組，存在0個或1個解，則pinv(A)=(ATA)?1ATpinv(A)=(ATA)?1AT，滿足pinv(A)?A=Ipinv(A)?A=I，稱為左逆

若A行滿秩，行向量線性無關，Ax=b為欠定方程組，存在0個或無窮個解，則pinv(A)=AT(AAT)?1pinv(A)=AT(AAT)?1，滿足A?pinv(A)=IA?pinv(A)=I，稱為右逆

若無行列滿秩，即秩虧損，則先做奇異值分解A=UDVTA=UDVT，U、V為正交矩陣，D為對角矩陣。然后取對角矩陣陣S，若D(i,i)=0，則S(i,i)=0，若D(i,i) != 0，則S(i,i)=1/D(i,i)，有pinv(A)=VSUTpinv(A)=VSUT

將左逆右乘A得到的是在A矩陣列空間（A矩陣各列構成的子空間）的投影矩陣，將右逆左乘A得到的是在A矩陣行空間（A矩陣各行構成的子空間）的投影矩陣。

矩陣的因式分解：
矩陣因式分解是把矩陣分為多個矩陣的乘積，矩陣乘法是數據的綜合，因式分解是數據的分解，因式分解相當于對矩陣中的數據做預處理，分成多個有用的部分，便于觀察、分析和計算。最常見的分解方法是LU分解。

LU分解：
設A為m×n矩陣，可行化簡為行階梯形矩陣，則A可寫成A=LUA=LU的形式，L是m×m的單位下三角矩陣，主對角線元素均為1，可逆；U是A的一個等價的m×n階梯形矩陣，這樣的分解稱為LU分解。也就是說，通過這樣的分解，將一個復雜的矩陣A分解成了兩個具有較好性質的矩陣L和U，便于對A進行計算。

簡單講，LU分解的思想是：根據對一個矩陣(A)作行化簡為階梯形矩陣(U)的步驟，可以產生一個由單位矩陣按照完全相同的化簡步驟得到的一個矩陣L(其恰為下三角矩陣且對角元素為1)，而LU乘積恰為原矩陣A。

LU分解算法：
1.盡可能地用一系列的行倍加變換將A化為階梯形，作為最終的矩陣U
2.然后，填充L的元素，使上述1中相同的行變換把L變為I，得到最終的矩陣L

數值計算：
若A為n×n的稠密矩陣（大部分元素非零）且n很大，則有（均在浮點運算下）：
1.計算A的LU分解，時間復雜度： O(n3)O(n3)
2. 計算A的逆A?1A?1，時間復雜度： O(n3)O(n3)

RnRn的子空間：
def:RnRn中的一個子空間是RnRn中的集合H，具有以下三個性質：
1.零向量屬于H
2.對H中任意的向量u和v，u+v 屬于H
3.對H中任意向量u和c，cu屬于H

即子空間是*RnRn的一個向量子集，子空間對加法和標量乘法運算是封閉的。例如：三維空間中一個通過原點的平面是三維空間的一個子空間。（不過平面則不是子空間）

矩陣的列空間與零空間：
def:矩陣A的列空間是A的各列的線性組合的集合，記作Col A
　　矩陣A的零空間是齊次方程Ax=0的所有解的集合，記作Nul A

子空間的基：
def:RnRn中的子空間H的一組基是H中的一個線性無關集，它生成H(即H中的任意一個向量均可被這組基的線性組合唯一表示)
其中，單位陣II的各列的集合稱為RnRn的標準基。針對矩陣：矩陣的主元列構成列空間的基（零子空間無基）

顯然：若子空間H有一組基包含p個向量，則H的每個基都正好包含p個向量

矩陣的秩和空間的維度：
子空間維度def:非零子空間H的維數dim H，是H的任意一個基的向量個數，零子空間{0}的維數定義為零（因此，RnRn空間的維數為n，且每個基由n個向量組成）

矩陣的秩
def:矩陣AA的秩(rankAA)是A的列空間的維數

秩定理：若一個矩陣A有n列，則 rankA + dim NulA = n

可逆矩陣定理（續）：
設A是一個n×n矩陣，以下命題與A是可逆矩陣等價
12.A的列向量構成RnRn的一個基
13.Col A = RnRn
14.dim ColA = n
15.rankA = n
16.NulA = {0}
17.dim NulA = 0

計算機數值計算時，通常用SVD分解來求矩陣的秩，而不是用手算是用的行化簡法（數據精度問題的取舍可能導致計算機求出的秩出錯）

行列式：
只有方陣才有行列式
行列式A中某元素[aijaij]的代數余子式：
Cij=(?1)i+jdetAijCij=(?1)i+jdetAij
其中，AijAij為該元素[aijaij]的余子式，即在原矩陣中，去除該元素所在的行和列后余下元素構成的矩陣。矩陣AA的伴隨矩陣adjAadjA(或A?A?)中的每個元素即為原矩陣對應位置的代數余子式。