数字花园

专栏⑰·导航分卷：线性代数 1000 问（全量问题库）

19分钟阅读

专栏⑰·导航分卷：线性代数 1000 问（全量问题库）

原始 Flomo：https://v.flomoapp.com/mine/?memo_id=MjQ1NzMyNDU5

专栏⑰·导航分卷：线性代数 1000 问（全量问题库）

📎 专栏⑰导航 → https://v.flomoapp.com/mine/?memo_id=MjQ2Mzc0OTc2

记录线性代数学习的1000个问题：

▎ 基础概念

  1. 向量和标量最本质的区别是什么？一个数和一个数组，为什么线性代数要把它们区分开？

  2. 矩阵为什么是一个”二维”的东西？它和一维数组（向量）在几何意义上有什么不同？

  3. 零向量和零矩阵看起来都是0，为什么在线性代数里要单独定义它们？

▎ 矩阵运算

  1. 矩阵乘法为什么不是逐元素相乘？它背后的设计意图是什么？

  2. 矩阵乘法不满足交换律（AB≠BA），能不能举一个生活中类似”顺序不同结果不同”的例子？

  3. 矩阵的逆为什么不是1/A？什么条件下一个矩阵才”可逆”？

  4. 转置操作在几何上意味着什么？为什么要有转置？

▎ 线性方程组

  1. 高斯消元法本质上在做什么操作？它跟矩阵乘法有什么关系？

  2. 一个线性方程组无解、唯一解、无穷多解——分别对应矩阵的什么性质？

  3. LU分解为什么要做？它比直接高斯消元好在哪？

▎ 向量空间

  1. 什么是”向量空间”？数轴算不算一个向量空间？

  2. “基”是什么意思？为什么一个空间可以有无数种基？

  3. 线性相关和线性无关——为什么这个概念是整个线性代数的基石？

  4. 维数为什么是个确定数？同一个空间的不同基，为什么基向量个数总是一样的？

▎ 线性变换

  1. 线性变换的本质是什么？为什么它一定要满足T(u+v)=T(u)+T(v)和T(cv)=cT(v)？

  2. 一个矩阵是怎么”代表”一个线性变换的？把矩阵乘以一个向量，到底在做一件什么事？

  3. 核（kernel）和像（image）怎么理解？“核”这个命名想表达什么？

▎ 正交性与投影

  1. 向量正交和向量垂直是一回事吗？在线性代数里”正交”的定义比”垂直”更广在哪？

  2. 为什么正交投影是”最佳逼近”？它在最小二乘法里到底扮演了什么角色？

  3. Gram-Schmidt正交化过程在做什么？它为什么不会改变向量张成的空间？

  4. 一个向量到子空间上的投影，为什么可以用矩阵形式写成P=A(AᵀA)⁻¹Aᵀ？这个公式的直觉是什么？

▎ 最小二乘

  1. 最小二乘法为什么选”平方和”最小而不是”绝对值和”最小？这背后有什么考量？

  2. Ax=b无解时，为什么改成解AᵀAx=Aᵀb就”有解”了？这个操作在几何上是什么含义？

  3. 正规方程（Normal Equation）在什么情况下会失效？该怎么处理？

▎ 特征值与特征向量

  1. 特征向量和特征值到底在描述一个矩阵的什么性质？为什么叫”特征”？

  2. 为什么定义式是Av=λv而不是vA=λv？顺序为什么重要？

  3. 一个矩阵乘以特征向量，效果就是拉伸/压缩——那非特征向量被乘之后发生了什么？

  4. 为什么一个n×n矩阵最多只有n个特征值？特征值的个数和矩阵的秩有什么关系？

  5. 特征值全为零的矩阵是不是零矩阵？为什么？

▎ 对角化

  1. 对角化到底在做什么？为什么把矩阵写成一堆特征向量和特征值的组合会有用？

  2. A=PDP⁻¹这个式子里，P、D、P⁻¹各自在干什么？（提示：可以理解成”换基→缩放→换回来”）

  3. 为什么不是所有矩阵都能对角化？不能对角化的矩阵差在哪？

▎ 二次型

  1. 二次型是什么？一个二次方程到二次型的矩阵表示，这一步转化为什么重要？

  2. 正定矩阵”正定”在哪？为什么它在优化和机器学习里这么常见？

  3. 如何判断一个矩阵是不是正定？判定条件从弱到强有哪些？

▎ 奇异值分解（SVD）

  1. SVD把矩阵分解成UΣVᵀ——U、Σ、V各自代表什么几何操作？

  2. 特征值分解和SVD是什么关系？为什么SVD适用于任何矩阵（包括非方阵）而特征值分解不行？

  3. 奇异值的大小顺序意味着什么？如果只保留最大的几个奇异值，丢掉了什么信息？

  4. 为什么说SVD是”矩阵的终极分解”？它统一了哪些之前学过的概念？

▎ 行列式

  1. 行列式为什么用”递归”方式定义（按行展开）？它想捕捉一个矩阵的什么本质信息？

  2. 行列式为0意味着什么？它和”矩阵可逆""向量线性相关""方程组有非平凡解”之间是什么关系？

  3. 为什么说行列式是”体积”？一个2×2行列式的绝对值为什么是平行四边形的面积？

  4. det(AB)=det(A)det(B)这个性质，从几何上怎么理解？

  5. 为什么加了某行的倍数到另一行，行列式不变？这种操作对应什么几何变换？

▎ Jordan标准型

  1. 为什么会有”不能对角化”的矩阵？不能对角化时，Jordan标准型解决了什么问题？

  2. Jordan块（Jordan block）上的1是干什么用的？它跟特征向量不够用有什么关系？

  3. 广义特征向量（generalized eigenvector）和普通特征向量有什么区别？要它来做什么？

  4. 几何重数和代数重数——这两个”重数”分别指什么？它们不相等时发生了什么？

▎ 数值线性代数

  1. 什么是条件数（condition number）？它告诉你在解Ax=b时，b稍微变一点会让x变多少？

  2. 病态矩阵（ill-conditioned matrix）在实际计算中会出什么问题？怎么判断一个矩阵是不是病态？

  3. 为什么实际中几乎从来不用Cramer法则算行列式解方程组？它和LU分解差在哪？

▎ 实际应用

  1. PCA（主成分分析）的核心步骤用到了SVD的哪一部分？为什么最大的奇异值对应最重要的”成分”？

  2. 线性回归的闭式解θ=(XᵀX)⁻¹Xᵀy中的(XᵀX)⁻¹在什么条件下会出问题？怎么解决？

  3. PageRank算法的核心是一个巨大的矩阵——它用的是什么线性代数性质让”重要性”可以迭代收敛？

  4. 推荐系统里的矩阵分解（Matrix Factorization）和SVD是什么关系？它丢掉了什么保留了什么？

▎ 矩阵微积分（Matrix Calculus）

  1. 对标量函数f(x)求导得到梯度——梯度向量的方向为什么是函数增长最快的方向？

  2. 一个矩阵对另一个矩阵求导是什么？Jacobian矩阵的每一行、每一列各代表什么？

  3. 线性回归里最小化MSE时，对θ求导然后令导数为零——能用矩阵形式写一遍完整的推导过程吗？

  4. Hessian矩阵为什么是”二阶导数”的矩阵版本？它在判断极值点时起了什么作用？

▎ 线性递推与矩阵幂

  1. 斐波那契数列为什么可以用矩阵的幂来计算？把递推关系写成矩阵形式，带来了什么好处？

  2. 马尔可夫链的状态转移矩阵为什么每行（或列）之和为1？经过n步转移后的概率怎么算？

  3. 为什么说马尔可夫链的”稳态分布”就是转移矩阵的特征向量？它对应哪个特征值？

  4. 矩阵的幂Aⁿ在n很大时会趋于什么？这个行为和谱半径（最大特征值的绝对值）有什么关系？

▎ 图与网络中的矩阵

  1. 邻接矩阵A的A²[i][j]代表什么？Aⁿ的第ij项又代表什么？

  2. 图的拉普拉斯矩阵（Laplacian Matrix）L=D-A的零特征值个数为什么等于图的连通分量个数？

  3. 谱聚类（Spectral Clustering）用拉普拉斯矩阵的第二小特征值对应的特征向量来做聚类——这个做法的直觉是什么？

  4. 图的邻接矩阵的谱半径（最大特征值）和图的什么结构性质有关？

▎ QR 分解

  1. QR分解把矩阵A拆成Q（正交矩阵）和R（上三角矩阵）——这个分解在数值上为什么比LU更稳定？

  2. Gram-Schmidt正交化和QR分解是什么关系？经典的Gram-Schmidt和修正的Gram-Schmidt在数值稳定性上差在哪？

  3. 用QR分解解最小二乘问题（Ax≈b）怎么做的？为什么这比直接解正规方程更稳定？

▎ Cholesky 分解

  1. Cholesky分解说A=LLᵀ——什么样条件的矩阵能做Cholesky？为什么这比LU分解快一倍？

  2. 正定矩阵的Cholesky分解在实际计算中是怎么保证稳定性的？如果矩阵接近半正定（接近奇异），分解会出什么问题？

▎ 伪逆

  1. 当A不可逆（非方阵或秩亏）时，伪逆A⁺是怎么定义的？它和正规方程的解是什么关系？

  2. 伪逆有几种定义方式（SVD定义、极限定义、代数定义）——它们各自揭示了伪逆的什么性质？

▎ 矩阵范数与条件数深入

  1. 矩阵的”大小”怎么衡量？为什么有那么多不同的范数（1-范数、2-范数、Frobenius范数、∞-范数）？

  2. 谱范数（2-范数）和最大奇异值是什么关系？为什么谱范数对矩阵扰动最敏感？

▎ 复数与酉空间

  1. 为什么把实向量空间扩展到复向量空间不是”加一个维度”那么简单？共轭转置（Hermitian转置）在复矩阵里替代了转置的什么角色？

  2. 酉矩阵（Unitary matrix，U*U=I）是实正交矩阵在复数域的推广——它保持了什么几何性质？

  3. Hermitian矩阵（A=A*）的特征值为什么一定是实数？这个性质在量子力学和信号处理里为什么那么重要？

▎ 线性规划

  1. 线性规划里的约束条件为什么形成一个”凸多面体”？最优解为什么一定在顶点上？

  2. 单纯形法的几何直觉是什么？它在这些顶点之间”走”的时候，怎么知道该往哪个方向走？

▎ 张量基础

  1. 张量（tensor）和矩阵、向量、标量之间的关系是什么？为什么说标量是0阶张量、向量是1阶、矩阵是2阶？

  2. 张量的”外积”和”内积”分别在做什么？两个矩阵做外积，得到的是什么？

  3. 张量分解（如CP分解、Tucker分解）和矩阵的SVD是什么关系？为什么张量分解在推荐系统和信号处理里越来越重要？

▎ Krylov 子空间与迭代方法

  1. 当A是n×n且n有100万维时，你不可能做LU分解——那迭代法是怎么求解Ax=b的？

  2. 共轭梯度法（Conjugate Gradient）的直觉是什么？为什么它保证最多n步收敛，但实际只用远少于n步就能得到近似解？

  3. GMRES为什么和CG不同？它需要对任意矩阵都工作，付出的代价是什么？

▎ 矩阵指数与控制理论

  1. 矩阵指数e^(At)是怎么定义的？它跟标量指数e^(at)的级数展开有什么对应关系？

  2. 解一阶线性常微分方程组dx/dt=Ax——为什么解是x(t)=e^(At)x(0)？控制理论里的状态转移矩阵和e^(At)是什么关系？

  3. Lyapunov方程AᵀP+PA=-Q在控制系统稳定性分析里起了什么作用？P矩阵的正定性告诉了你什么？

▎ Perron-Frobenius 定理

  1. Perron-Frobenius定理说：一个所有元素都为正数的矩阵，它的最大特征值一定是正实数且对应的特征向量全是正数——这为什么重要？（提示：PageRank、人口模型）

  2. 非负矩阵和正矩阵的区别在Perron-Frobenius理论里有多重要？如果一个矩阵只有一些零元素，定理还成立吗？

▎ 特殊矩阵

  1. Hilbert矩阵（H_ij=1/(i+j-1)）为什么被称为”著名的病态矩阵”？它的条件数有多大？

  2. Vandermonde矩阵在多项式插值里是怎么出现的？为什么用高次多项式插值随着节点增多反而越插越不准？

  3. Toeplitz矩阵（每条对角线上的元素都相同）在信号处理里为什么这么常见？

▎ 线性代数在更广数学中的位置

  1. 线性代数和微积分之间最深的联系是什么？为什么”局部线性化”（微分）本质上是把非线性函数用线性函数逼近？

  2. “线性”这个前缀在”线性代数""线性规划""线性微分方程""线性时不变系统”里指的都是同一个意思吗？如果不是，它们各自”线性”了什么？

  3. 为什么泛函分析被称为”无限维的线性代数”？函数空间里的”向量”和”线性变换”分别对应日常数学里的什么？

▎ 矩阵计算与现代应用

  1. 浮点运算中矩阵乘法的计算量大约是多少？如果A是1000×1000，用最朴素的三个循环做乘法，大概要多少次浮点运算？

  2. 在大规模机器学习中，梯度的计算依赖的是”自动微分”而不是”符号微分”或”数值微分”——它的核心思想跟线性代数里的链式法则和Jacobian矩阵有什么关系？

📎 第6篇：线性代数实战 → https://v.flomoapp.com/mine/?memo_id=MjQ1NzMyNDU5

专栏⑰进度：导航分卷

数学

已建立的逐题答案入口

导航中的全部线性代数问题仍需按剩余专题继续覆盖；本入口只标记已经建立答案的题组。

关系图谱

反向链接