1 前言
關于矩陣的運算,其實之前寫過一篇:算法矩陣提速原理_矩陣分塊計算速度會更快嘛-CSDN博客
還是那句話,計算機懂個毛的高等數學。只是矩陣運算的并行性和結構化特點與 SIMD/GPU 的執行模型非常一致。在實際硬件實現中,許多矩陣運算會被映射為 SIMD/GPU 指令執行流程。因此,在軟件建模或算法模擬過程中,可以使用矩陣運算來類比、模擬 SIMD/GPU 的行為,特別是在信號處理、圖像處理和深度學習等場景中。
好了,簡而言之,線性代數就是現代算法的通用建模工具。
矩陣計算和現代計算機體系的關系:
特性 | 映射到計算機體系 |
---|---|
向量加法 | 對應 SIMD 指令、GPU 多線程加法 |
矩陣乘法 | 可以用高效緩存結構 + 并行乘加運算執行 |
向量點積、矩陣轉置等 | 可以流水線、并行、塊優化處理 |
稀疏矩陣操作 | 對應更高效的數據結構和存儲優化 |
2 向量基礎
2.1 加減法
2.2 點積