范數理論及其應用
- 2.1向量范數及其性質
- 2.2矩陣范數
本系列博文主要總結學習矩陣論的心得筆記,參考數目《矩陣論》–張凱院;整個文章的整理體系參照行書過程。
范數–非負實數,用于衡量線性空間元素(如:向量,矩陣)的大小。凡是滿足范數定義三個性質的 實值映射 都可以定義一種范數。最常見的范數:向量的2范數–用于計度量向量的歐式長度。
2.1向量范數及其性質
–>開篇 向量空間 RnR^nRn 中的 向量序列 {x(k)}\{x^{(k)}\}{x(k)} 當 k?>∞k->\inftyk?>∞ 時 每個分量都收斂于一個特定的值,則向量序列{x(k)}\{x^{(k)}\}{x(k)}收斂xxx。差值向量{x(k)?x}\{x^{(k)}-x\}{x(k)?x}在 k?>∞k->\inftyk?>∞ ,應當收斂于零向量。
2.1.1向量范數的定義
VVV是數域KKK上的線性空間(線性空間:滿足一定性質的集合),對于任意的x∈Vx \in Vx∈V,如果一個實值函數∣∣x∣∣||x||∣∣x∣∣滿足下面三個性質,就說這個實值函數定義了一種向量范數。
1.非負性:當x≠0時,∣∣x∣∣>0,x=0時,∣∣x∣∣=0x \ne0時,||x||>0,x=0時,||x||=0x??=0時,∣∣x∣∣>0,x=0時,∣∣x∣∣=0
2.其次性:∣∣ax∣∣=∣a∣∣∣x∣∣,(a∈Kx∈V)||ax||=|a| ||x||,(a \in K x \in V)∣∣ax∣∣=∣a∣∣∣x∣∣,(a∈Kx∈V)
3.三角不等式:∣∣x+y∣∣<=∣∣x∣∣+∣∣y∣∣||x+y||<=||x||+||y||∣∣x+y∣∣<=∣∣x∣∣+∣∣y∣∣
要證明一個函數是否定義了一種范數,只要驗證是否滿足上面三個條件就可以了。
2.1.2性質3可以推導出:三角形任意兩邊的長度只差 < 第三邊的長度:
∣∣∣x∣∣?∣∣y∣∣∣<=∣∣x?y∣∣| ||x||-||y|| |<=||x-y||∣∣∣x∣∣?∣∣y∣∣∣<=∣∣x?y∣∣
結合性質3,將用-y代替y,有
∣∣∣x∣∣?∣∣y∣∣∣<=∣∣x+y∣∣<=∣∣x∣∣+∣∣y∣∣| ||x||-||y|| |<=||x+y||<=||x||+||y||∣∣∣x∣∣?∣∣y∣∣∣<=∣∣x+y∣∣<=∣∣x∣∣+∣∣y∣∣
2.1.3常見的三種向量范數的定義:
1.向量的1范數:∣∣x∣∣=∑∣xi∣||x||=\sum|x_i|∣∣x∣∣=∑∣xi?∣×××××××××××××××××元素的絕對值的和
2.向量的2范數:∣∣x∣∣=(∑xi2)12||x||=(\sum x_i^2)^{\frac{1}{2}}∣∣x∣∣=(∑xi2?)21? ××××××××××××××元素平方和,再開方,最熟悉的歐式距離
3.向量的∞\infty∞范數:∣∣x∣∣=max?i∣xi∣||x||=\max \limits_{i}|x_i|∣∣x∣∣=imax?∣xi?∣ ×××××××××××××最大絕對值元素
對于三個定義,不難分別驗證滿足三條性質,即定義了三個范數。實際上,可以定義無限多種范數。
更一般的 ppp范數的定義(上面三個范數都是p范數的特例):
∣∣x∣∣p=(∑∣xi∣p)1p||x||_p=(\sum |x_i|^p)^{\frac{1}{p}}∣∣x∣∣p?=(∑∣xi?∣p)p1?
2.1.4簡單的 范數理解:在二維空間中兩個點之間的距離度量方式可以為(1)兩個點之間的歐氏距離–直線距離–2范數、(2)兩個點之間的直角邊和距離–1范數、(3)兩個點之間最長直角邊距離–無窮范數。
還可能會用到的范數:向量的橢圓范數、函數的積分范數P82
2.1.5向量范數的等價性:有限維線性空間的不同范數是等價的。如果向量序列對于某一范數下是收斂的,那么在其他范數下也是收斂的。
2.2矩陣范數
2.2.1 矩陣范數定義
->定義:A∈Cm?nA \in C^{m*n}A∈Cm?n,一個實值函數∣∣A∣∣||A||∣∣A∣∣ 滿足以下三個條件,則定義了一個 廣義矩陣范數。
1.非負性:當A≠O時,∣∣A∣∣>0;當A=O,∣∣A∣∣=0A \ne O時, ||A||>0;當A=O,||A||=0A??=O時,∣∣A∣∣>0;當A=O,∣∣A∣∣=0
2.其次性:∣∣αA∣∣=∣α∣∣∣A∣∣,(α∈C)||\alpha A||=|\alpha| ||A||,(\alpha \in C)∣∣αA∣∣=∣α∣∣∣A∣∣,(α∈C)
3,三角不等式:∣∣A+B∣∣<∣∣A∣∣+∣∣B∣∣(B∈Cm?n)||A+B||<||A||+||B|| (B \in C^{m*n})∣∣A+B∣∣<∣∣A∣∣+∣∣B∣∣(B∈Cm?n)
在定義矩陣模時,考慮矩陣乘法 因素,就能夠定義更常用的矩陣范數,同時滿足4個的條件的實值映射∣∣A∣∣||A||∣∣A∣∣為AAA的 矩陣范數。
4 相容性:∣∣AB∣∣<=∣∣A∣∣?∣∣B∣∣||AB||<=||A||*||B||∣∣AB∣∣<=∣∣A∣∣?∣∣B∣∣
->矩陣序列極限:當Ak?>AA^k->AAk?>A,會有∣∣Ak∣∣?>∣∣A∣∣||A^k||->||A||∣∣Ak∣∣?>∣∣A∣∣
2.2.2 矩陣F-范數
相容定義:Cm?nC^{m*n}Cm?n上矩陣范數∣∣?∣∣M||*||_M∣∣?∣∣M? 和 Cm與CnC^m與C^nCm與Cn的同類向量范數∣∣?∣∣V||*||_V∣∣?∣∣V? 相容,當且僅當滿足下式子:
∣∣Ax∣∣V<=∣∣AM∣∣×∣∣x∣∣V||Ax||_V<=||A_M||×||x||_V∣∣Ax∣∣V?<=∣∣AM?∣∣×∣∣x∣∣V?
矩陣范數 與 向量范數 的 相容性=》 矩陣F-范數(各個元素平方和,再開方)
∣∣A∣∣F=(∑i=1m∑j=1n∣aij∣2)12=(tr(AHA))12||A||_F=(\sum_{i=1}^{m}\sum_{j=1}^{n}|a_{ij}|^2)^{\frac{1}{2}}=(tr(A^HA))^{\frac{1}{2}}∣∣A∣∣F?=(i=1∑m?j=1∑n?∣aij?∣2)21?=(tr(AHA))21?
以上矩陣范數與向量2范數相容:首先要證明是一個矩陣范數(滿足矩陣定義4條性質),其次再證明與向量2范數相容。
依據酉矩陣與F-范數的關系,有推論:和A酉相似的矩陣,其F-范數是相同的。
2.2.3 向量范數 誘導 矩陣范數
∣∣A∣∣=max?∣∣x∣∣=1∣∣Ax∣∣||A||=\max\limits_{||x||=1}||Ax||∣∣A∣∣=∣∣x∣∣=1max?∣∣Ax∣∣
右邊向量范數形式 定義 左式的矩陣范數的形式,對應為:矩陣-1范數,2-范數,無窮-范數。
證明上式定義了一個矩陣范數:有向量范數是其分量的連續函數的性質可知,對于每一個A而言,這個最大值都是可以達到的。也就是說能找到這樣一個向量x0x_0x0?滿足∣∣x0∣∣=1||x_0||=1∣∣x0?∣∣=1使得∣∣Ax0∣∣||Ax_0||∣∣Ax0?∣∣最大。(p89證明4條性質成立)
方陣 的 誘導矩陣范數 =1,但是方陣的 其他矩陣范數>=1
由定義式導出三種矩陣范數的具體形式:
矩陣1范數-列和范數:∣∣A∣∣1=max?j∑i=1m∣aij∣||A||_1=\max\limits_{j}\sum_{i=1}^m|a_{ij}|∣∣A∣∣1?=jmax?∑i=1m?∣aij?∣
矩陣2范數-譜范數:∣∣A∣∣2=λ1(λ1是AHA的最大特征值)||A||_2=\sqrt \lambda_1 (\lambda_1是A^HA 的最大特征值)∣∣A∣∣2?=λ?1?(λ1?是AHA的最大特征值)
矩陣無窮范數-行和范數:∣∣A∣∣∞=max?i∑j=1n∣aij∣||A||_\infty=\max\limits_i\sum_{j=1}^n|a_{ij}|∣∣A∣∣∞?=imax?∑j=1n?∣aij?∣
2.2.4范數的一些應用
1.矩陣的譜半徑 <= 矩陣范數(任意)
矩陣的譜半徑(矩陣最大特征值 取絕對值)
ρ(A)=max?i∣λi∣\rho(A)=\max\limits_i|\lambda_i|ρ(A)=imax?∣λi?∣
ρ(A)<=∣∣A∣∣\rho(A)<=||A||ρ(A)<=∣∣A∣∣
2.矩陣可逆條件:如果矩陣A的某種范數∣∣A∣∣<1||A||<1∣∣A∣∣<1,則矩陣I?AI-AI?A可逆:
∣∣(I?A)?1∣∣<=∣∣I∣∣1?∣∣A∣∣||(I-A)^{-1}||<=\frac{||I||}{1-||A||} ∣∣(I?A)?1∣∣<=1?∣∣A∣∣∣∣I∣∣?
當A接近于OOO矩陣時I與(I?A)?1I與(I-A)^{-1}I與(I?A)?1的逼近程度有一個公式:p93
3.逆矩陣的攝動–矩陣存在擾動A 與 原矩陣 兩個矩陣逆矩陣之間的關系。
矩陣的條件數:cond(A)=∣∣A∣∣×∣∣A?1∣∣cond(A)=||A||×||A^-1||cond(A)=∣∣A∣∣×∣∣A?1∣∣
一般來說,矩陣的條件數越大,擾動矩陣的逆 與 原矩陣的逆 之間的差距越大。