??注意：速讀可直接跳轉至“4、知識點總結”及“5、計算例題”部分

一、向量、矩陣范數與譜半徑

??當涉及到線性代數和矩陣理論時，向量、矩陣范數以及譜半徑是非常重要的概念，下面將詳細介紹這些內容：

1、向量范數

a. 定義及性質

??考慮一個 $n$ 維向量 $x$，定義一個實值函數 $N(x)$，記作 $N(x)=\Vert x\Vert$。如果 $N(x)$ 滿足以下條件，那么它就是 $x$ 上的一個向量范數（或向量模）：

1. 非負性： $N(x)\ge 0$，且 $N(x)=0$當且僅當 $x$ 是零向量。

$$\Vert x\Vert \ge 0$$$$\Vert x\Vert =0\text{?當且僅當?}x=0$$

2. 齊次性： 對于任意實數 $\alpha$（或復數），有 $N(\alpha x)=|\alpha |?N(x)$。

$$\Vert \alpha x\Vert =|\alpha |?\Vert x\Vert$$

3. 三角不等式： 對于任意向量 $x$ 和 $y$，有 $N(x+y)\le N(x)+N(y)$。

   $$\Vert x+y\Vert \le \Vert x\Vert +\Vert y\Vert$$

補充解釋

• 非負性： 范數是非負的，即它不會為負值。當且僅當向量是零向量時，范數為零。

• 齊次性： 范數在縮放（乘以常數）下保持一致，即放大或縮小向量會按比例影響其范數。

• 三角不等式： 范數的三角不等式表示通過兩邊之和的方式度量兩個向量之間的距離。它確保了向量空間中的“三角形”不會變得扭曲。

范數差

??由上述三角不等式可推導出： $$\Vert x?y\Vert \ge |\Vert x\Vert ?\Vert y\Vert |$$

• 推導過程
  • 根據向量范數的三角不等式，對于任意向量 $x$ 和 $y$，有：$$\Vert x?y\Vert \le \Vert x\Vert +\Vert y\Vert$$ 其中

b. 常見的向量范數

$l_1$、$l_2$、$l_{\infty }$ 范數

??對于一個 $n$維向量 $x=(x_1,x_2,\dots ,x_n)$ ：

1. $l_1$ 范數：
   $$\Vert x{\Vert }_1=\sum _{i=1}^n|x_i|$$

2. $l_2$ 范數：
   $$\Vert x{\Vert }_2=\sqrt{\sum _{i=1}^n{x}_i^2}$$

3. $l_{\infty }$ 范數：
   $$\Vert x{\Vert }_{\infty }=\underset{1\le i\le n}{\max }|x_i|$$

性質

• 非負性：

  $$\Vert x{\Vert }_1,\Vert x{\Vert }_2,\Vert x{\Vert }_{\infty }\ge 0$$

• 齊次性： 對于每個 $x$ 和標量 $\alpha$，這三種范數都滿足齊次性，即
  $$\Vert \alpha x{\Vert }_1=|\alpha |?\Vert x{\Vert }_1$$ $$\Vert \alpha x{\Vert }_2=|\alpha |?\Vert x{\Vert }_2$$ $$\Vert \alpha x{\Vert }_{\infty }=|\alpha |?\Vert x{\Vert }_{\infty }$$

• 三角不等式： 對于每對向量 $x$ 和 $y$，這三種范數都滿足三角不等式：
  $$\Vert x+y{\Vert }_1\le \Vert x{\Vert }_1+\Vert y{\Vert }_1$$$$\Vert x+y{\Vert }_2\le \Vert x{\Vert }_2+\Vert y{\Vert }_2$$$$\Vert x+y{\Vert }_{\infty }\le \Vert x{\Vert }_{\infty }+\Vert y{\Vert }_{\infty }$$

關系

• $l_1$ 范數、$l_2$ 范數、$l_{\infty }$ 范數之間存在關系：
  $$\Vert x{\Vert }_{\infty }\le \Vert x{\Vert }_2\le \sqrt{n}\Vert x{\Vert }_{\infty }$$ $$\Vert x{\Vert }_{\infty }\le \Vert x{\Vert }_1\le n\Vert x{\Vert }_{\infty }$$

2、矩陣范數

a. 矩陣的范數

??矩陣的范數是定義在矩陣空間上的實值函數，用于度量矩陣的大小或度量。對于一個矩陣 $A$，矩陣范數通常表示為 $N(A)$ 或 $||A||$，滿足以下條件：

1. 非負性（Non-negativity）：對于任意矩陣 $A$，有 $N(A)\ge 0$，且等號成立當且僅當 $A$ 是零矩陣。

2. 齊次性（Homogeneity）：對于任意標量 $k$ 和矩陣 $A$，有 $N(kA)=|k|?N(A)$。

3. 三角不等式（Triangle Inequality）：對于任意兩個矩陣 $A$ 和 $B$，有 $N(A+B)\le N(A)+N(B)$。

b. 常見的矩陣范數

相容范數

• 對于任意兩個矩陣 $A$ 和 $B$，有 $||AB||\le ||A||?||B||$，這被稱為相容性質。
• 對于任意矩陣 $A$ 和向量 $x$，有 $||Ax||\le ||A||?||x||$，這也是相容性質。

算子范數

具體而言，常用的算子范數是 $p$范數，其中 $p$ 是一個實數。

• 當 $p=\infty$ 時，算子范數被定義為矩陣行的絕對值之和的最大值。即，
  $$||A|{|}_{\infty }=\underset{1\le i\le n}{\max }\sum _{j=1}^n|a_{ij}|$$
• 當 $p=1$ 時，算子范數被定義為矩陣列的絕對值之和的最大值。即，
  $$||A|{|}_1=\underset{1\le j\le n}{\max }\sum _{i=1}^n|a_{ij}|$$
• 當 $p=2$ 時，算子范數被定義為 $A$ 的譜半徑。譜半徑是矩陣的特征值的按模最大值，表示為 $$p(A)=\max |\lambda |$$其中 $\lambda$ 是 $A$ 的特征值。

3、譜半徑

??待完善……

4、知識點總結

1. 向量范數

• $l_1$ 范數（曼哈頓范數）：
  $$||x|{|}_1=\sum _{i=1}^n|x_i|$$

• $l_2$ 范數（歐幾里得范數）：
  $$||x|{|}_2=\sqrt{\sum _{i=1}^n{x}_i^2}$$

• $l_{\infty }$ 范數（無窮范數）：
  $$||x|{|}_{\infty }=\underset{1\le i\le n}{\max }|x_i|$$

2. 矩陣范數

• 弗羅貝尼烏斯范數（矩陣中每項數的平方和的開方值）
  $$||A|{|}_F=\sqrt{\sum _{i=1}^n\sum _{j=1}^n|a_{ij}{|}^2}$$
• 算子范數
  • 行和范數：當 $p=\infty$ 時，算子范數被定義為矩陣中各行元素按絕對值求和所得的最大和數，即，
    $$||A|{|}_{\infty }=\underset{1\le i\le n}{\max }\sum _{j=1}^n|a_{ij}|$$
  • 列和范數：當 $p=1$ 時，算子范數被定義為
    矩陣列的絕對值之和的最大值。即，
    $$||A|{|}_1=\underset{1\le j\le n}{\max }\sum _{i=1}^n|a_{ij}|$$
  • 當 $p=2$ 時，算子范數即$A$ 的譜半徑,譜半徑是矩陣的特征值的按模最大值
    $$||A|{|}_2=\sqrt{{\lambda }_{\text{max}}(A^{T}A)}=p(A)=\max |\lambda |$$

3. 譜半徑

??譜半徑是矩陣的特征值按模最大的那個值，對于一個 $n\times n$ 的矩陣 $A$，其譜半徑 $p(A)$ 定義為：

p ( A ) = max ? { ∣ λ ∣ ∣ λ 是? A 的特征值 } p(A) = \max \{|\lambda| \ | \ \lambda \text{ 是 } A \text{ 的特征值}\} p(A)=max{∣λ∣?∣?λ?是?A?的特征值}

5、計算例題

對于矩陣 $$A=\left[\begin{array}{cc}2& 1\\ ?1& 4\end{array}\right]$$計算其各種范數：

∥ A ∥ 1 = max ? j ∑ i ∣ a i j ∣ = max ? { 3 , 5 } = 5 \|A\|_1 = \max_j \sum_i |a_{ij}| = \max\{3, 5\} = 5 ∥A∥1?=jmax?i∑?∣aij?∣=max{3,5}=5

∥ A ∥ ∞ = max ? i ∑ j ∣ a i j ∣ = max ? { 3 , 5 } = 5 \|A\|_\infty = \max_i \sum_j |a_{ij}| = \max\{3, 5\} = 5 ∥A∥∞?=imax?j∑?∣aij?∣=max{3,5}=5

$$\Vert A{\Vert }_2=\sqrt{{\lambda }_{\text{max}}(A^{T}A)}$$

計算 $A^{T}A$ 的特征值，找到最大特征值 ${\lambda }_{\text{max}}$：

$$A^{T}A=\left[\begin{array}{cc}5& ?2\\ ?2& 17\end{array}\right]$$

特征值為 $\lambda = $。

$$\Vert A{\Vert }_2=\sqrt{{\lambda }_{\text{max}}}=\sqrt{}$$

3. 譜半徑：

   p ( A ) = max ? { ∣ λ ∣ } p(A) = \max \{|\lambda|\} p(A)=max{∣λ∣}

   對$A$ 求特征值，找到最大的絕對值。

• 1范數：5
• ∞范數：5
• 2范數：
• 譜半徑：