矩陣論-范數理論及其應用

范數理論及其應用

  • 2.1向量范數及其性質
  • 2.2矩陣范數

本系列博文主要總結學習矩陣論的心得筆記,參考數目《矩陣論》–張凱院;整個文章的整理體系參照行書過程。

范數–非負實數,用于衡量線性空間元素(如:向量,矩陣)的大小。凡是滿足范數定義三個性質的 實值映射 都可以定義一種范數。最常見的范數:向量的2范數–用于計度量向量的歐式長度。

2.1向量范數及其性質

–>開篇 向量空間 RnR^nRn 中的 向量序列 {x(k)}\{x^{(k)}\}{x(k)}k?>∞k->\inftyk?> 時 每個分量都收斂于一個特定的值,則向量序列{x(k)}\{x^{(k)}\}{x(k)}收斂xxx。差值向量{x(k)?x}\{x^{(k)}-x\}{x(k)?x}k?>∞k->\inftyk?> ,應當收斂于零向量。

2.1.1向量范數的定義
VVV是數域KKK上的線性空間(線性空間:滿足一定性質的集合),對于任意的x∈Vx \in VxV,如果一個實值函數∣∣x∣∣||x||x滿足下面三個性質,就說這個實值函數定義了一種向量范數。
1.非負性:當x≠0時,∣∣x∣∣>0,x=0時,∣∣x∣∣=0x \ne0時,||x||>0,x=0時,||x||=0x??=0x>0,x=0,x=0
2.其次性:∣∣ax∣∣=∣a∣∣∣x∣∣,(a∈Kx∈V)||ax||=|a| ||x||,(a \in K x \in V)ax=ax,(aKxV)
3.三角不等式:∣∣x+y∣∣&lt;=∣∣x∣∣+∣∣y∣∣||x+y||&lt;=||x||+||y||x+y<=x+y

要證明一個函數是否定義了一種范數,只要驗證是否滿足上面三個條件就可以了。

2.1.2性質3可以推導出:三角形任意兩邊的長度只差 < 第三邊的長度:
∣∣∣x∣∣?∣∣y∣∣∣&lt;=∣∣x?y∣∣| ||x||-||y|| |&lt;=||x-y||x?y<=x?y

結合性質3,將用-y代替y,有
∣∣∣x∣∣?∣∣y∣∣∣&lt;=∣∣x+y∣∣&lt;=∣∣x∣∣+∣∣y∣∣| ||x||-||y|| |&lt;=||x+y||&lt;=||x||+||y||x?y<=x+y<=x+y

2.1.3常見的三種向量范數的定義
1.向量的1范數:∣∣x∣∣=∑∣xi∣||x||=\sum|x_i|x=xi?×××××××××××××××××元素的絕對值的和
2.向量的2范數:∣∣x∣∣=(∑xi2)12||x||=(\sum x_i^2)^{\frac{1}{2}}x=(xi2?)21? ××××××××××××××元素平方和,再開方,最熟悉的歐式距離
3.向量的∞\infty范數:∣∣x∣∣=max?i∣xi∣||x||=\max \limits_{i}|x_i|x=imax?xi? ×××××××××××××最大絕對值元素

對于三個定義,不難分別驗證滿足三條性質,即定義了三個范數。實際上,可以定義無限多種范數。

更一般的 ppp范數的定義(上面三個范數都是p范數的特例):
∣∣x∣∣p=(∑∣xi∣p)1p||x||_p=(\sum |x_i|^p)^{\frac{1}{p}}xp?=(xi?p)p1?

2.1.4簡單的 范數理解:在二維空間中兩個點之間的距離度量方式可以為(1)兩個點之間的歐氏距離–直線距離–2范數、(2)兩個點之間的直角邊和距離–1范數、(3)兩個點之間最長直角邊距離–無窮范數。

還可能會用到的范數:向量的橢圓范數、函數的積分范數P82

2.1.5向量范數的等價性:有限維線性空間的不同范數是等價的。如果向量序列對于某一范數下是收斂的,那么在其他范數下也是收斂的。

2.2矩陣范數

2.2.1 矩陣范數定義
->定義:A∈Cm?nA \in C^{m*n}ACm?n,一個實值函數∣∣A∣∣||A||A 滿足以下三個條件,則定義了一個 廣義矩陣范數
1.非負性:當A≠O時,∣∣A∣∣&gt;0;當A=O,∣∣A∣∣=0A \ne O時, ||A||&gt;0;當A=O,||A||=0A??=O,A>0;A=O,A=0
2.其次性:∣∣αA∣∣=∣α∣∣∣A∣∣,(α∈C)||\alpha A||=|\alpha| ||A||,(\alpha \in C)αA=αA,(αC)
3,三角不等式:∣∣A+B∣∣&lt;∣∣A∣∣+∣∣B∣∣(B∈Cm?n)||A+B||&lt;||A||+||B|| (B \in C^{m*n})A+B<A+B(BCm?n)

在定義矩陣模時,考慮矩陣乘法 因素,就能夠定義更常用的矩陣范數,同時滿足4個的條件的實值映射∣∣A∣∣||A||AAAA矩陣范數
4 相容性:∣∣AB∣∣&lt;=∣∣A∣∣?∣∣B∣∣||AB||&lt;=||A||*||B||AB<=A?B

->矩陣序列極限:當Ak?&gt;AA^k-&gt;AAk?>A,會有∣∣Ak∣∣?&gt;∣∣A∣∣||A^k||-&gt;||A||Ak?>A

2.2.2 矩陣F-范數

相容定義:Cm?nC^{m*n}Cm?n上矩陣范數∣∣?∣∣M||*||_M?M?Cm與CnC^m與C^nCmCn的同類向量范數∣∣?∣∣V||*||_V?V? 相容,當且僅當滿足下式子:
∣∣Ax∣∣V&lt;=∣∣AM∣∣×∣∣x∣∣V||Ax||_V&lt;=||A_M||×||x||_VAxV?<=AM?×xV?

矩陣范數 與 向量范數 的 相容性=》 矩陣F-范數(各個元素平方和,再開方)

∣∣A∣∣F=(∑i=1m∑j=1n∣aij∣2)12=(tr(AHA))12||A||_F=(\sum_{i=1}^{m}\sum_{j=1}^{n}|a_{ij}|^2)^{\frac{1}{2}}=(tr(A^HA))^{\frac{1}{2}}AF?=(i=1m?j=1n?aij?2)21?=(tr(AHA))21?

以上矩陣范數與向量2范數相容:首先要證明是一個矩陣范數(滿足矩陣定義4條性質),其次再證明與向量2范數相容。

依據酉矩陣與F-范數的關系,有推論:和A酉相似的矩陣,其F-范數是相同的。

2.2.3 向量范數 誘導 矩陣范數

∣∣A∣∣=max?∣∣x∣∣=1∣∣Ax∣∣||A||=\max\limits_{||x||=1}||Ax||A=x=1max?Ax

右邊向量范數形式 定義 左式的矩陣范數的形式,對應為:矩陣-1范數,2-范數,無窮-范數。

證明上式定義了一個矩陣范數:有向量范數是其分量的連續函數的性質可知,對于每一個A而言,這個最大值都是可以達到的。也就是說能找到這樣一個向量x0x_0x0?滿足∣∣x0∣∣=1||x_0||=1x0?=1使得∣∣Ax0∣∣||Ax_0||Ax0?最大。(p89證明4條性質成立)

方陣 的 誘導矩陣范數 =1,但是方陣的 其他矩陣范數>=1

由定義式導出三種矩陣范數的具體形式:
矩陣1范數-列和范數:∣∣A∣∣1=max?j∑i=1m∣aij∣||A||_1=\max\limits_{j}\sum_{i=1}^m|a_{ij}|A1?=jmax?i=1m?aij?

矩陣2范數-譜范數:∣∣A∣∣2=λ1(λ1是AHA的最大特征值)||A||_2=\sqrt \lambda_1 (\lambda_1是A^HA 的最大特征值)A2?=λ?1?(λ1?AHA)

矩陣無窮范數-行和范數:∣∣A∣∣∞=max?i∑j=1n∣aij∣||A||_\infty=\max\limits_i\sum_{j=1}^n|a_{ij}|A?=imax?j=1n?aij?

2.2.4范數的一些應用
1.矩陣的譜半徑 <= 矩陣范數(任意)

矩陣的譜半徑(矩陣最大特征值 取絕對值)
ρ(A)=max?i∣λi∣\rho(A)=\max\limits_i|\lambda_i|ρ(A)=imax?λi?

ρ(A)&lt;=∣∣A∣∣\rho(A)&lt;=||A||ρ(A)<=A

2.矩陣可逆條件:如果矩陣A的某種范數∣∣A∣∣&lt;1||A||&lt;1A<1,則矩陣I?AI-AI?A可逆:
∣∣(I?A)?1∣∣&lt;=∣∣I∣∣1?∣∣A∣∣||(I-A)^{-1}||&lt;=\frac{||I||}{1-||A||} (I?A)?1<=1?AI?

當A接近于OOO矩陣時I與(I?A)?1I與(I-A)^{-1}I(I?A)?1的逼近程度有一個公式:p93

3.逆矩陣的攝動–矩陣存在擾動A 與 原矩陣 兩個矩陣逆矩陣之間的關系。
矩陣的條件數:cond(A)=∣∣A∣∣×∣∣A?1∣∣cond(A)=||A||×||A^-1||cond(A)=A×A?1
一般來說,矩陣的條件數越大,擾動矩陣的逆 與 原矩陣的逆 之間的差距越大。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/445214.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/445214.shtml
英文地址,請注明出處:http://en.pswp.cn/news/445214.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

大數據學習(09)--spark學習

文章目錄目錄1.spark介紹1.1 spark介紹1.2 scale介紹1.3 spark和Hadoop比較2.spark生態系統3.spark運行框架3.1 基本概念3.2 架構的設計3.3 spark運行基本流程3.4 spark運行原理3.5 RDD運行原理3.5.1 設計背景3.5.2 RDD概念和特性3.5.3 RDD之間的依賴關系3.5.4 stage的劃分3.5.…

探索 Pexpect

概述 通過本系列第一部分 《探索 Pexpect&#xff0c;第 1 部分&#xff1a;剖析 Pexpect 》&#xff08;請參閱參考資料&#xff09;的介紹&#xff0c;相信大家已經對 Pexpect 的用法已經有了比較全面的了解&#xff0c;知道 Pexpect 是個純 Python 語言實現的模塊&#xff…

Python的Pexpect詳解 [圖片]

Pexpect 是一個用來啟動子程序并對其進行自動控制的純 Python 模塊。 Pexpect 可以用來和像 ssh、ftp、passwd、telnet 等命令行程序進行自動交互。繼第一部分《探索 Pexpect&#xff0c;第 1 部分&#xff1a;剖析 Pexpect 》介紹了 Pexpect 的基礎和如何使用后&#xff0c;本…

關系數據庫——sql增刪改

數據的插入 插入元祖 --1. 表名后沒有指定屬性列&#xff1a;表示要插入的是一條完整的元組&#xff0c;且屬性列屬性與表定義中的順序一致 insert into student values (201215128, 陳東, 18, 男, IS);--2. 在表明后指定要插入數據的表名及屬性列&#xff0c;屬性列的順序可…

機器學習中的聚類方法總結

聚類定義 定義 聚類就是對大量未知標注 的數據集&#xff0c;按數據 的內在相似性將數據集劃分為多個類別&#xff0c;使 類別內的數據相似度較大而類別間的數據相 似度較小。是無監督的分類方式。 聚類思想 給定一個有N個對象的數據集&#xff0c;構造數據的k 個簇&#x…

學點數學(1)-隨機變量函數變換

隨機變量函數變換本文介紹一維隨機變量函數變換&#xff0c;參考文獻&#xff1a;https://wenku.baidu.com/view/619f74ac3186bceb19e8bbd0.html變換TTT作用于隨機變量XXX&#xff0c;產生隨機變量YYY. T:X?>Y或者寫為yT(x)T:X->Y 或者寫為 yT(x)T:X?>Y或者寫為yT(x…

關系數據庫——關系數據語言

關系 域&#xff1a;一組具有相同數據類型的值的集合&#xff08;即取值范圍&#xff09; 笛卡爾積&#xff1a;域上的一種集合運算。結果為一個集合&#xff0c;集合的每一個元素是一個元組&#xff0c;元組的每一個分量來自不同的域。 基數&#xff1a;一個域允許的不同取值…

Python模塊(2)-Numpy 簡易使用教程

Numpy模塊 簡易使用教程1.數組創建2.數組基本屬性-維度、尺寸、數據類型3.數組訪問-索引、切片、迭代4.數組的算術運算-加減乘除、轉置求逆、極大極小5.通用函數-sin,cos,exp,sqrtnp.dot與np.matmul的區別6.數組的合并和分割6.1 np.vstack(),np.hstack()6.2 np.stack()7.list與…

機器學習問題總結(01)

文章目錄1.請描述推薦系統中協同過濾算法CF的原理2.請描述決策樹的原理、過程、終止條件&#xff0c;以及如何防止過擬合2.1決策樹生成算法2.2 剪枝處理&#xff08;防止過擬合&#xff09;2.3 停止條件2.4 棵決策樹的生成過程2.5 決策樹的損失函數3.請描述K-means的原理&#…

pthread_attr_init線程屬性

1&#xff0e;線程屬性 線程具有屬性&#xff0c;用pthread_attr_t表示&#xff0c;在對該結構進行處理之前必須進行初始化&#xff0c;在使用后需要對其去除初始化。我們用pthread_attr_init函數對其初始化&#xff0c;用pthread_attr_destroy對其去除初始化。 1&#xff0e; …

Python實例講解 -- 解析xml

Xml代碼 <?xml version"1.0" encoding"utf-8"?> <info> <intro>信息</intro> <list id001> <head>auto_userone</head> <name>Jordy</name> <number&g…

springboot3——Email

maven導入包&#xff1a; <dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-mail</artifactId><version>2.1.6.RELEASE</version></dependency> 參數配置&#xff1a; # MailPrope…

python(22)--面向對象1-封裝

python面向對象1面向過程/面向對象2面向對象核心概念-類3類的設計3.1類三要素-類名、屬性、方法3.2面向對象基礎語法3.2.1查看對象的常用方法3.2.2類定義3.2.3創建類對象3.2.4__init__()方法3.2.5 self參數3.2.6類內置方法和屬性_del_()方法--銷毀對象_str_()方法--定制化輸出對…

機器學習問題總結(02)

文章目錄1.stacking模型以及做模型融合的知識1.1 從提交結果中融合1.2 stacking1.3 blending2. 怎樣去優化SVM算法模型的&#xff1f;2.1 SMO優化算法2.2 libsvm 和 Liblinear3.現有底層是tensorflow的keras框架&#xff0c;如果現在有一個tensorflow訓練好的模型&#xff0c;k…

python對操作系統的目錄和文件操作

一、獲取當前目錄下的特定文件列表>>>import glob,os>>>curdir os.getcwd() #獲取當前目錄>>>os.chdir(workdir) #設置當前目錄>>>dir glob.glob(*.dat) #獲取當前目錄的dat文件列表>>>os.chdir(curdir) #…

常見漏洞

Cookie without HttpOnly flag set 如果在Cookie上設置了HttpOnly屬性&#xff0c;則客戶端JavaScript無法讀取或設置Cookie的值。 這種措施通過阻止某些客戶端攻擊&#xff08;例如跨站點腳本&#xff09;&#xff0c;通過阻止它們通過注入的腳本來簡單地捕獲cookie的值&…

python函數星號參數

2011-09-01 17:35 2人閱讀 評論(0) 收藏 編輯 刪除 今天有個工作是導出一個函數給腳本用 我自已先要測一下 先要客戶端發送一個消息給服務器 看了下C部分的代碼,如下 "def onNetMessage(self,playerID, msgName,msgParam):\n" //客戶端調用服務器腳本 " …

MachineLearning(3)-流型

流型-manifold在很多機器學習的文章中會見到“嵌入在高維空間的低維流型”這樣的字眼&#xff0c;下記錄一些重要概念。參考資料&#xff1a;https://blog.csdn.net/sinat_32043495/article/details/789977581.流型 局部具有歐幾里得空間性質的空間&#xff08;流型就是一個空間…

C/C++常見面試題(四)

C/C面試題集合四 目錄 1、什么是C中的類&#xff1f;如何定義和實例化一個類&#xff1f; 2、請解釋C中的繼承和多態性。 3、什么是虛函數&#xff1f;為什么在基類中使用虛函數&#xff1f; 4、解釋封裝、繼承和多態的概念&#xff0c;并提供相應的代碼示例 5、如何處理內…

機器學習問題總結(03)

文章目錄1.struct和class區別&#xff0c;你更傾向用哪個2.kNN&#xff0c;樸素貝葉斯&#xff0c;SVM的優缺點&#xff0c;各種算法優缺點2.1 KNN算法2.2 樸素貝葉斯2.3SVM算法2.4 ANN算法2.5 DT算法3. 10億個整數&#xff0c;1G內存&#xff0c;O(n)算法&#xff0c;統計只出…