機器學習知識總結系列-機器學習中的數學-矩陣(1-3-2)

  • 矩陣
    SVD
    矩陣的乘法
    狀態轉移矩陣
    狀態轉移矩陣
  • 特征值和特征向量
    對稱陣
    正交陣
    正定陣
    數據白化
  • 矩陣求導
    向量對向量求導
    標量對向量求導
    標量對矩陣求導

一.矩陣

1.1 SVD

奇異值分解(Singular Value Decomposition),假設A是一個m×n階矩陣,則存在一個分解使得
Σ對角線上的元素稱為矩陣A的奇異值;
U的第i列稱為A的關于σi的左奇異向量;
V的第i列稱為A的關于σi的右奇異向量。

通常將奇異值由大而小排列。如此Σ便能由M唯一確定了。(雖然U和V仍然不能確定)。而且奇異值的減少特別的快,在很多情況下,前10%甚至1%的奇異值的和就占了全部的奇異值之和的99%以上了。也就是說,我們也可以用前r大的奇異值來近似描述矩陣,那么SVD就起到一個特征選擇的作用或者是降維的作用。

具體描述參考:http://blog.csdn.net/zhongkejingwang/article/details/43053513

1.2 代數余子式

在一個n階行列式A中,把(i,j)元素aij所在的第i 行和第j列劃去后,留下的n-1階方陣的行列式叫做元素aij的余子式,記作Mij

注意:行列式是數值,因此余子式和代數余子式也是數值;余子式可能也可能是負數。

?

1.3 伴隨矩陣

注意:位于第j行i列

?

1.4? 方陣的逆

當方陣的行列式不為0時,有:

如果不是方正,請參考矩陣的廣義逆

?

1.5 范德蒙行列式


1.6 矩陣的乘法

為階的矩陣,為階的矩陣,那么,是階的矩陣,其中


1.7 矩陣和向量的乘法
  • 為階的矩陣,為階的矩陣,則 為的列向量,記
  • 由于維列向量和n維空間的點一一對應,上式實際給出了從維空間的點到維空間的的線性變換。
    • 旋轉、平移
1.8 狀態轉移矩陣

數學解釋:
設一個初始概率分布(只是一個向量)
- 第代中處于第個階層的概率為:



原理:全概率公式:?
參考馬爾科夫過程:https://blog.csdn.net/u010459100/article/details/51657955

1.9.矩陣的秩

  • 在的矩陣A中,任取行列,不改變這個元素在中的次序,得到階方陣,稱為矩陣的k階子式。
  • 設在矩陣A中有一個不等于的階子式,且所有階子式全等于(如果存在的話),那么稱為矩陣的最高階非零子式,稱為矩陣的秩,記作
    • 如果一個矩陣那么可以說這個矩陣式滿秩的
    • 的可逆矩陣,秩為n
      矩陣的秩等于它的行列向量組的秩


1.91 秩和線性方程組的解的關系

這里寫圖片描述

對于n元線性方程組Ax = b:
  • 無解的充要條件是
  • 唯一解的充要條件是
  • Ax= 0的只有零解的充要條件是
  • 無窮解的充要條件是
  • Ax= b有解的充要條件是
  • Ax= 0的非零解的充要條件是


1.10向量組

向量b能由向量組線性表示的充
要條件是矩陣的秩等于矩陣
的秩。

因為有解的條件是秩相等。

=

  • 若向量組A與向量組B能相互線性表示,則稱兩個向量組等價。

1.11系數矩陣

參考:https://blog.csdn.net/IOThouzhuo/article/details/50836787

二.特征值和特征向量

2.1正交陣

  • 若階矩陣A滿足,稱A為正交矩陣,簡稱正交陣。
    • 是正交陣的充要條件:A的列(行)向量都是單位向量,且兩兩正交。
  • 是正交陣,X為向量,則Ax稱作正交變換。
    • 正交變換不改變向量長度。

2.2特征值和特征向量

A是n階矩陣,若數和n維非0列向量滿足,那么,數稱為A的特征向值,x稱為A的對應于特征值的特征向量。
  • 根據定義,立刻得到,令關于的多項式為0,方程的根為的特征值;將根帶入方程組,求得到的非零解,即對應的特征向量。
  • 階矩陣的特征值為,則

      • 矩陣A的主行列式的元素和,稱作矩陣A的跡?

推論:

不同特征值對應的特征向量,線性無關。
實對稱陣的特征值也是實數。
實對稱陣不同的特征值的特征向量正交

2.3 合同變換

設A為n階對稱陣,則必有正交陣P,使得

?

2.4.正定陣

對于階方陣,若任意階向量,都有,則稱是正定陣。

  • 由一階推廣而來:
  • 若條件變成,則稱作半正定矩陣。

正定陣的判定:
- 對稱陣A為正定陣;
- A的特征值都為正;
- A的順序主子式大于0;


2.5 漂白/白化whitening
暫定

三. 矩陣求導

參考:https://blog.csdn.net/IOThouzhuo/article/details/50836787

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/445262.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/445262.shtml
英文地址,請注明出處:http://en.pswp.cn/news/445262.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

阿里Java編程規約(注釋)提煉

【強制】類、類屬性、類方法的注釋必須使用 Javadoc 規范,使用/**內容*/格式,不得使用 // xxx 方式。 說明:在 IDE 編輯窗口中,Javadoc 方式會提示相關注釋,生成 Javadoc 可以正確輸出相應注釋;在 IDE 中…

Python面試題-交換兩個數字的三種方法

Python實現兩個數字交換解法1解法2解法3a6 b100 解法1 使用其他變量,最通用的方法 ca ab bc 解法2 不使用其他變量,利算法節省內存空間 aab ba-b aa-b 解法3 python 專有 a,b(b,a) #等號右邊是一個元組 或者可以寫為: a,bb,a print(a,b)

面試中海量數據處理總結

教你如何迅速秒殺掉:99%的海量數據處理面試題 前言 一般而言,標題含有“秒殺”,“99%”,“史上最全/最強”等詞匯的往往都脫不了嘩眾取寵之嫌,但進一步來講,如果讀者讀罷此文,卻無任何收獲&…

redis——舊版復制

Redis 的復制功能分為同步(sync)和命令傳播(command propagate)兩個操作: 同步操作用于將從服務器的數據庫狀態更新至主服務器當前所處的數據庫狀態。命令傳播操作用于在主服務器的數據庫狀態被修改, 導致…

Linux(3)-網-ifconfig,ping,ssh

終端命令網-ping,ssh1. ifconfig -a2. ping3. ssh3.1安裝3.2 連接3.3 配置登入別名防火墻端口號,todo1. ifconfig -a 查看IP地址, 還可以用于配置網口。 ifconfig -a 2. ping ping命令: 檢測到IP地址的連接是否正常。命令開始后由本機發送數據包a&…

redis——相關問題匯總

什么是redis? Redis 本質上是一個 Key-Value 類型的內存數據庫, 整個數據庫加載在內存當中進行操作, 定期通過異步操作把數據庫數據 flush 到硬盤上進行保存。 因為是純內存操作, Redis 的性能非常出色, 每秒可以處理…

一文搞定面試中的二叉樹問題

一文搞定面試中的二叉樹問題 版權所有,轉載請注明出處,謝謝! http://blog.csdn.net/walkinginthewind/article/details/7518888 樹是一種比較重要的數據結構,尤其是二叉樹。二叉樹是一種特殊的樹,在二叉樹中每個節點…

無數踩坑系列(1)--Brightness Controller

Brightness Controller1.嘗試找回系統自帶亮度調節條1.1 配置grub文件,無效1.2 使用命令調節屏幕亮度,無效2.安裝應用程序Brightness Controller2.1許多博文都寫出了如下方案,無效:2.2 github 手動安裝https://github.com/LordAmi…

springboot2——MyBatis入門

原生缺陷: 數據庫dao層操作缺陷: ①jdbc的增刪改查代碼的冗余過大,查詢的時候需要遍歷。 ②Sql語句和數據庫相關參數和代碼的耦合性過高。 解決:使用Mybatis 業務層缺陷: ①業務層和數據…

面試--Linux命令總結

顯示目錄和文件的命令 Ls:用于查看所有文件夾的命令。 Dir:用于顯示指定文件夾和目錄的命令 Tree: 以樹狀圖列出目錄內容 Du:顯示目錄或文件大小 修改目錄,文件權限和屬主及數組命令 Chmod:用于改變指定…

Linux(4)-資源-du,top,free,gnome

Linux終端命令1.磁盤資源1.1 df -hl1.2 du1.3 統計文件數量2.緩存資源2.1 top2.2 free -m3.Gnome3.1系統監視器-gnome-system-monitor3.2 截屏--screenshot查看文件系統資源的一些命令1.磁盤資源 1.1 df -hl 查看分區磁盤使情況 硬盤空間不夠時,跑程序會報錯&…

redis——Java整合

redis官網 微軟寫的windows下的redis 我們下載第一個 額案后基本一路默認就行了 安裝后&#xff0c;服務自動啟動&#xff0c;以后也不用自動啟動。 出現這個表示我們連接上了。 redis命令參考鏈接 Spring整合Redis 引入依賴 - spring-boot-starter-data-redis <depend…

無限踩坑系列(4)-遠程登入服務器

遠程操作服務器1.遠程上傳/下載命令&#xff08;文件夾/文件&#xff09;2.文本編輯vim3.一直保持服務器登入狀態4.虛擬終端screenssh遠程登入服務器&#xff0c;沒有圖形界面&#xff0c;只能在終端中操作文件與文件夾。本文總結了遠程登入服務器過程中用到的一些命令。1.遠程…

程序員不成熟的若干個特征

做我們這個項目也是一樣&#xff0c;很多人來做這個生意&#xff0c;開始沒有什么成績&#xff0c;就想著要放棄&#xff0c;有的人一個月放棄&#xff0c;有的人三個月放棄&#xff0c;有的人半年放棄&#xff0c;有的人一年放 棄&#xff0c;我不明白人們為什么輕易放棄這個趨…

一文理解KMP算法

一文理解KMP算法 作者&#xff1a;July 時間&#xff1a;最初寫于2011年12月&#xff0c;2014年7月21日晚10點 全部刪除重寫成此文&#xff0c;隨后的半個多月不斷反復改進。后收錄于新書《編程之法&#xff1a;面試和算法心得》第4.4節中。 1. 引言 本KMP原文最初寫于2年多前的…

小貓的java基礎知識點匯總(下)

1、線程和進程有什么區別&#xff1f; 進程是操作系統資源分配的基本單位&#xff0c;而線程是任務調度和執行的基本單位 線程是進程的子集&#xff0c;一個進程可以有很多線程&#xff0c;每條線程并行執行不同的任務。 不同的進程使用不同的內存空間&#xff0c;而所有的線…

無數踩坑系列(3)-配置pytorch

配置pytorch環境1. 命令一鍵式安裝2.源碼安裝問題1問題2問題3問題43.克隆一個已有環境&#xff0c;帶pytorch4.GPU驅動版本不對在實際開發中&#xff0c;想要在自己的機子上跑別人的代碼&#xff1b;或者&#xff0c;在新的機子上跑自己的代碼&#xff0c;總是面臨著環境配置的…

小貓的java基礎知識點匯總(上)

1、一個".java"源文件中是否可以包括多個類&#xff08;不是內部類&#xff09;&#xff1f;有什么限制&#xff1f; 可以有多個類&#xff0c;但只能有一個public的類&#xff0c;并且public的類名必須與文件名相一致。 2、short s1 1; s1 s11; 有沒有錯&#xff…

機器學習算法分類總結

機器學習方法分類總結 這篇文章只是一個類似于知識概括的文章&#xff0c;主要作用是幫忙梳理&#xff1a; 1) 分類 貝葉斯模型&#xff08;Bayesian Mode&#xff09; - 樸素貝葉斯算法&#xff08;Naive Bayesian Mode&#xff09; - 平均單依賴估計&#xff08;AveragedO…

無限踩坑系列(5)-MySQLdb

MySQLdb在Python2.x 時使用的是MySQLdbpython3中這個庫已經不再使用了&#xff0c;所有的功能都由pymysql或mysqlclient替代。所以 想在python3中配MySQLdb真是一個深的不能再深的坑了。下面記錄了愚蠢的填坑過程&#xff0c;僅做有類似錯誤的參考。參考文檔&#xff1a;https:…