线性代数

stanford cs229 linalg

主线： 有没有解 -> 解的个数 -> 解的结构

矩阵的属性

矩阵的秩(rank)

  • 学术：矩阵中最大线性不相关向量个数

  • 具象：变换后的空间维度

矩阵的秩与解的关系

列秩等于行秩的原因

相似矩阵

同一个变换在不同基下的矩阵

相似不变量

  1. 行列式 \(\lambda_1 \times \lambda_2 \times \cdots \times \lambda_n\)

  2. 迹 \(\lambda_1 + \lambda_2 + \cdots + \lambda_n\)

矩阵的迹（trace)

EVD 特征值的理解

因为特征值分解必须满足方阵的前提，因此引入奇异值分解

注解

矩阵的谱分解，特征分解，对角化都是同一个概念

奇异值分解(SVD)

对旋转、缩放和投影三种变换的析构

正定矩阵和半正定矩阵

  • 变换后的向量与自身的夹角小于90度/小于等于90度

  • 所有特征值均大于零/不小于0

  • 曲面(二次型)在底面上方

TODO:

  1. 对称矩阵一定n个线性无关的特征向量，所有特征向量构成的矩阵为正交矩阵