Exercise 1
不唯一。考虑有奇异值相等的情况，那么最优子空间不唯一。假设 $ \sigma_{k}=\sigma_{k+1} $，那么在由 $ v_{k} $ 和 $ v_{k+1} $ 张成的平面内进行任意旋转后得到的向量组也满足条件。
Exercise 2
根据给定的分解，$ A $ 有唯一的非零奇异值 $ \sigma_1=5 $，对应的 $ u_1 = \begin{bmatrix} 0.6 \\ 0.8 \end{bmatrix} $，$ v_1 = [1] $。
首先计算伪逆 $ A^+ = \frac{1}{\sigma_1} v_1 u_1^T = \frac{1}{5} [1] \begin{bmatrix} 0.6 & 0.8 \end{bmatrix} = \begin{bmatrix} 0.12 & 0.16 \end{bmatrix} $。
接着计算 $ A^+ A = \begin{bmatrix} 0.12 & 0.16 \end{bmatrix} \begin{bmatrix} 3 \\ 4 \end{bmatrix} = 0.36 + 0.64 = 1 $（即 $ I_1 $）。
计算 $ AA^+ = \begin{bmatrix} 3 \\ 4 \end{bmatrix} \begin{bmatrix} 0.12 & 0.16 \end{bmatrix} = \begin{bmatrix} 0.36 & 0.48 \\ 0.48 & 0.64 \end{bmatrix} $。
最后计算 $ x^+ = A^+ b $：当 $ b = \begin{bmatrix} 3 \\ 4 \end{bmatrix} $ 时，$ x^+ = 0.12(3) + 0.16(4) = 1 $；当 $ b = \begin{bmatrix} -4 \\ 3 \end{bmatrix} $ 时，$ x^+ = 0.12(-4) + 0.16(3) = 0 $。
Exercise 3
首先证明 $ A^+ A $ 的表达式，$ A^+ A = \left(\sum_{i} \frac{v_i u_i^T}{\sigma_i}\right) \left( \sum_{j} \sigma_j u_j v_j^T \right) $，利用 $ u_i $ 的正交性 $ u_i^T u_j = \delta_{ij} $，中间项相消，得到 $ \sum_{i} v_i v_i^T $。
同理可证 $ A A^+ = \left( \sum_{i} \sigma_i u_i v_i^T \right)\left( \sum_{j} \frac{v_j u_j^T}{\sigma_j} \right) = \sum_{i} u_i u_i^T $。
最后证明投影性质，$ (A^+ A)^2 = \left( \sum_{i} v_i v_i^T \right)\left( \sum_{j} v_j v_j^T \right) $，利用 $ v_i $ 的正交性 $ v_i^T v_j = \delta_{ij} $，结果为 $ \sum_{i} v_i v_i^T $，即 $ (A^+ A)^2 = A^+ A $，说明它是投影矩阵。
Exercise 4
将向量 $ v_1, \dots, v_n $ 作为列向量构成矩阵 $ Q = [v_1 \dots v_n] $。因为 $ v_i $ 是 $ \mathbb{R}^n $ 中的标准正交基，所以 $ Q $ 是正交矩阵，满足 $ Q^T Q = I $ 和 $ Q Q^T = I $。我们要证明的求和式 $ \sum_{i=1}^n v_i v_i^T $ 恰好等于矩阵乘法 $ Q Q^T $。由于 $ Q $ 是满秩方阵，其左逆等于右逆，故 $ Q Q^T = I_n $，证毕。
Exercise 5
(1)
$ A $ 的秩等于其非零奇异值 $ \sigma_i $ 的个数。根据 $ A^+ $ 的定义，$ A^+ $ 的奇异值为 $ 1/\sigma_i $（对应 $ \sigma_i \neq 0 $）和 $ 0 $（对应 $ \sigma_i = 0 $）。因此，$ A^+ $ 的非零奇异值个数与 $ A $ 相同，故 $ \text{rank}(A) = \text{rank}(A^+) $。
(2)
若 $ A $ 可逆，则 $ A $ 是 $ n \times n $ 方阵且满秩，所有 $ \sigma_i > 0 $。此时 $ A^{-1} = (U \Sigma V^T)^{-1} = V \Sigma^{-1} U^T $，这与 $ A^+ $ 的定义完全一致，故 $ A^+ = A^{-1} $。
Exercise 6
(1)
令 $ x = \sum c_i v_i $，则 $ ||Ax||^2 = ||\sum \sigma_i c_i u_i||^2 = \sum \sigma_i^2 c_i^2 $。因为 $ \sigma_1 $ 最大，所以 $ \sum \sigma_i^2 c_i^2 \le \sigma_1^2 \sum c_i^2 = \sigma_1^2 ||x||^2 $，最大值在 $ x=v_1 $ 时取到，即 $ \sigma_1 $。
(2)
设 $ V_{k+1} = \text{span}(v_1, \dots, v_{k+1}) $，其维数为 $ k+1 $。$ B $ 的秩为 $ k $，根据秩-零化度定理，$ \dim(N(B)) = n-k $。根据维数公式，$ \dim(V_{k+1} \cap N(B)) \ge (k+1) + (n-k) - n = 1 $，因此交集中存在非零向量 $ x $。对于此 $ x $，有 $ Bx=0 $ 且 $ x \in V_{k+1} $。于是 $ ||(A-B)x|| = ||Ax|| $。由于 $ x $ 仅由前 $ k+1 $ 个奇异向量组成，且 $ ||Ax|| \ge \sigma_{k+1}||x|| $，故商 $ \ge \sigma_{k+1} $。
(3)
等号成立当且仅当 $ B $ 是 $ A $ 的截断 SVD 近似，即 $ B = A_k = \sum_{i=1}^k \sigma_i u_i v_i^T $。