Exercise 1

首先初等行变换保持了行向量之间的线性关系，因此保证了矩阵的行空间不会改变，从而它的行秩自然也不便。同时对于列秩，这等价于左乘一个一个初等矩阵，此时显然 $ Ax=0 $ 与 $ EAx=0 $ 等价，说明两者有相同的零空间，因此列秩也不边。

对于列变换，和行变换完全同理，也可以证明行秩和列秩都不变。

下面证明矩阵 $ A $ 可以通过初等操作化为 $ \begin{pmatrix}I & 0 \\ 0 & 0\end{pmatrix} $。设 $ \mathrm{rank}(A)=r $，那么我们先通过初等行变换将 $ A $ 化成阶梯矩阵的形式，得到 $ \begin{pmatrix}I_{r} & R \\ 0 & 0\end{pmatrix} $。再对这个结果进行初等列变换，可以直接消除掉 $ R $ 部分中的所有非零元素，并且不影响其他部分。最终就可以化简为 $ \begin{pmatrix}I & 0 \\ 0 & 0\end{pmatrix} $。

Exercise 2

我们需要证明通过任意执行步骤的高斯消元得到的行阶梯矩阵，其主元数量是相同的，从而说明矩阵的秩是一个唯一的值，和消元过程无关。

由于高斯消元本质上就是一系列初等矩阵变换操作，根据第一问我们已经证明了这些操作不会改变矩阵的秩，因此最后得到的阶梯矩阵的秩也不变，最终主元数量就是秩的数量必然相同，等于原来的秩。

Exercise 3

若 $ c=0 $，那么显然有 $$ A\cdot \begin{pmatrix} 1 \\ 1 \\ \vdots \\ 1 \end{pmatrix} = \mathbf{0} $$ 说明 $ \text{rank}(A)\neq n $，因此 $ A $ 不可逆，矛盾，所以 $ c\neq 0 $。

此时 $$ A\cdot \begin{pmatrix} 1 \\ 1 \\ \vdots \\ 1 \end{pmatrix} = \begin{pmatrix} c \\ c \\ \vdots \\ c \end{pmatrix} $$ 左右同左乘 $ A^{-1} $，得到 $$ A^{-1}\cdot\begin{pmatrix} 1 \\ 1 \\ \vdots \\ 1 \end{pmatrix} = \begin{pmatrix} \frac{1}{c} \\ \frac{1}{c} \\ \vdots \\ \frac{1}{c} \end{pmatrix} $$ 等价于 $$ \sum_{j\in[n]}A^{-1}(i,j) = \dfrac{1}{c} $$

Exercise 4

我们设 $ A $ 的列向量为 $ a_{1},a_{2},\dots,a_{n} $，$ C(A)=\text{span}\{ a_{1},a_{2},\dots,a_{n} \} $ 表示 $ A $ 的列空间，同理 $ C(B)=\text{span}\{ b_{1},b_{2},\dots,b_{n} \} $ 表示 $ B $ 的列空间，那么 $ C(A+B)=\text{span}\{ a_{1}+b_{1},a_{2}+b_{2},\dots,a_{n}+b_{n} \} $。

现在考虑 $ C(A)+C(B) $，定义为 $ C(A) $ 和 $ C(B) $ 中向量之和的集合 $$ C(A)+C(B) = \{ u+v\mid u\in C(A),v\in C(B) \} $$ 显然我们可以取 $ u,v $ 为编号相同的列向量，就能得到 $ C(A+B) $，说明 $ C(A+B) $ 是 $ C(A)+C(B) $ 的一个子空间，所以它的维数小于 $ C(A)+C(B) $ 的维数，即 $$ \text{dim}(C(A+B)) \leq \text{dim}(C(A)+C(B)) < \text{dim}(C(A)) + \text{dim}(C(B)) $$ 这实际上也就是 $$ \text{rank}(A+B) < \text{rank}(A) + \text{rank}(B) $$

Exercise 5

(a)

我们对矩阵 $ A $ 施行初等行变换：

$$ \begin{align*} & \begin{pmatrix} 5 & 2 & 3 \\ -4 & 5 & 0 \\ 0 & 1 & -5 \\ 3 & 7 & 6 \end{pmatrix} \to \begin{pmatrix} 1 & 2/5 & 3/5 \\ -4 & 5 & 0 \\ 0 & 1 & -5 \\ 3 & 7 & 6 \end{pmatrix} \to \begin{pmatrix} 1 & 2/5 & 3/5 \\ 0 & 33/5 & 12/5 \\ 0 & 1 & -5 \\ 0 & 29/5 & 21/5 \end{pmatrix} \\ \\ & \to \begin{pmatrix} 1 & 2/5 & 3/5 \\ 0 & 1 & -5 \\ 0 & 33/5 & 12/5 \\ 0 & 29/5 & 21/5 \end{pmatrix} \to \begin{pmatrix} 1 & 0 & 3 \\ 0 & 1 & -5 \\ 0 & 0 & 33 \\ 0 & 0 & 30 \end{pmatrix} \to \begin{pmatrix} 1 & 0 & 3 \\ 0 & 1 & -5 \\ 0 & 0 & 1 \\ 0 & 0 & 30 \end{pmatrix} \\ \\ & \to \begin{pmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{pmatrix} \end{align*} $$

简化行阶梯形矩阵 $ A' $ 有 3 个主元，因此 $$ \text{rank}(A) = 3 $$ $ A $ 的简化行阶梯形 $ A' $ 为 $$ A' = \begin{pmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{pmatrix} $$

要找到 $ N(A) $，我们要求解 $ Ax=0 $，这等价于求解 $ A'x=0 $。将 $ A' $ 写回方程组形式： $$ \begin{cases} 1x_1 + 0x_2 + 0x_3 = 0 & \implies x_1 = 0 \\ 0x_1 + 1x_2 + 0x_3 = 0 & \implies x_2 = 0 \\ 0x_1 + 0x_2 + 1x_3 = 0 & \implies x_3 = 0 \\ 0x_1 + 0x_2 + 0x_3 = 0 & \implies 0 = 0 \end{cases} $$ 解为 $ x_1=0, x_2=0, x_3=0 $。这意味着 $$ N(A) = \left\{ \begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix} \right\} $$ (b)

我们对矩阵 $ A $ 施行初等行变换：

$$ \begin{align*} & \begin{pmatrix} 2 & 2 & 0 & 1 & 0 \\ 0 & 5 & 1 & -1 & 1 \\ 1 & -2 & 7 & 1 & 0 \end{pmatrix} \xrightarrow{R_1 \leftrightarrow R_3} \begin{pmatrix} 1 & -2 & 7 & 1 & 0 \\ 0 & 5 & 1 & -1 & 1 \\ 2 & 2 & 0 & 1 & 0 \end{pmatrix} \xrightarrow{R_3 \to R_3 - 2R_1} \begin{pmatrix} 1 & -2 & 7 & 1 & 0 \\ 0 & 5 & 1 & -1 & 1 \\ 0 & 6 & -14 & -1 & 0 \end{pmatrix} \\ \\ & \xrightarrow{R_2 \to \frac{1}{5}R_2} \begin{pmatrix} 1 & -2 & 7 & 1 & 0 \\ 0 & 1 & 1/5 & -1/5 & 1/5 \\ 0 & 6 & -14 & -1 & 0 \end{pmatrix} \xrightarrow{\begin{smallmatrix} R_1 \to R_1 + 2R_2 \\ R_3 \to R_3 - 6R_2 \end{smallmatrix}} \begin{pmatrix} 1 & 0 & 37/5 & 3/5 & 2/5 \\ 0 & 1 & 1/5 & -1/5 & 1/5 \\ 0 & 0 & -76/5 & 1/5 & -6/5 \end{pmatrix} \\ \\ & \xrightarrow{R_3 \to -\frac{5}{76}R_3} \begin{pmatrix} 1 & 0 & 37/5 & 3/5 & 2/5 \\ 0 & 1 & 1/5 & -1/5 & 1/5 \\ 0 & 0 & 1 & -1/76 & 3/38 \end{pmatrix} \xrightarrow{\begin{smallmatrix} R_1 \to R_1 - \frac{37}{5}R_3 \\ R_2 \to R_2 - \frac{1}{5}R_3 \end{smallmatrix}} \begin{pmatrix} 1 & 0 & 0 & 53/76 & -7/38 \\ 0 & 1 & 0 & -15/76 & 7/38 \\ 0 & 0 & 1 & -1/76 & 3/38 \end{pmatrix} \end{align*} $$ 此为矩阵 $ A $ 的简化行阶梯形 $ A' $。

简化行阶梯形矩阵 $ A' $ 有 3 个主元，因此 $ A $ 的秩是 $ 3 $。 $$ \text{rank}(A) = 3 $$ 由上述步骤得到： $$ A' = \begin{pmatrix} 1 & 0 & 0 & 53/76 & -7/38 \\ 0 & 1 & 0 & -15/76 & 7/38 \\ 0 & 0 & 1 & -1/76 & 3/38 \end{pmatrix} $$

我们要求解 $ Ax=0 $，这等价于求解 $ A'x=0 $。将 $ A' $ 写回方程组形式： $$ \begin{cases} x_1 = -\frac{53}{76}x_4 + \frac{7}{38}x_5 \\ x_2 = \frac{15}{76}x_4 - \frac{7}{38}x_5 \\ x_3 = \frac{1}{76}x_4 - \frac{3}{38}x_5 \end{cases} $$ 解向量 $ x $ 可以写为： $$ x = \begin{pmatrix} x_1 \\ x_2 \\ x_3 \\ x_4 \\ x_5 \end{pmatrix} = x_4 \begin{pmatrix} -53/76 \\ 15/76 \\ 1/76 \\ 1 \\ 0 \end{pmatrix} + x_5 \begin{pmatrix} 7/38 \\ -7/38 \\ -3/38 \\ 0 \\ 1 \end{pmatrix} $$ 零空间 $ N(A) $ 的基是： $$ \left\{ \begin{pmatrix} -53/76 \\ 15/76 \\ 1/76 \\ 1 \\ 0 \end{pmatrix}, \begin{pmatrix} 7/38 \\ -7/38 \\ -3/38 \\ 0 \\ 1 \end{pmatrix} \right\} $$ (c)

我们对矩阵 $ A $ 施行初等行变换：

$$ \begin{align*} & \begin{pmatrix} 1 & 2 & 3 & 4 \\ 5 & 6 & 7 & 8 \\ 9 & 10 & 11 & 12 \\ 13 & 14 & 15 & 16 \end{pmatrix} \xrightarrow{\begin{smallmatrix} R_2 \to R_2 - 5R_1 \\ R_3 \to R_3 - 9R_1 \\ R_4 \to R_4 - 13R_1 \end{smallmatrix}} \begin{pmatrix} 1 & 2 & 3 & 4 \\ 0 & -4 & -8 & -12 \\ 0 & -8 & -16 & -24 \\ 0 & -12 & -24 & -36 \end{pmatrix} \\ \\ & \xrightarrow{R_2 \to -\frac{1}{4}R_2} \begin{pmatrix} 1 & 2 & 3 & 4 \\ 0 & 1 & 2 & 3 \\ 0 & -8 & -16 & -24 \\ 0 & -12 & -24 & -36 \end{pmatrix} \xrightarrow{\begin{smallmatrix} R_1 \to R_1 - 2R_2 \\ R_3 \to R_3 + 8R_2 \\ R_4 \to R_4 + 12R_2 \end{smallmatrix}} \begin{pmatrix} 1 & 0 & -1 & -2 \\ 0 & 1 & 2 & 3 \\ 0 & 0 & 0 & 0 \\ 0 & 0 & 0 & 0 \end{pmatrix} \end{align*} $$ 此为矩阵 $ A $ 的简化行阶梯形 $ A' $。

简化行阶梯形矩阵 $ A' $ 有 2 个主元，因此 $ A $ 的秩是 $ 2 $。 $$ \text{rank}(A) = 2 $$

由上述步骤得到： $$ A' = \begin{pmatrix} 1 & 0 & -1 & -2 \\ 0 & 1 & 2 & 3 \\ 0 & 0 & 0 & 0 \\ 0 & 0 & 0 & 0 \end{pmatrix} $$

我们要求解 $ Ax=0 $，这等价于求解 $ A'x=0 $。将 $ A' $ 写回方程组形式： $$ \begin{cases} x_1 - x_3 - 2x_4 = 0 & \implies x_1 = x_3 + 2x_4 \\ x_2 + 2x_3 + 3x_4 = 0 & \implies x_2 = -2x_3 - 3x_4\ \end{cases} $$ 解向量 $ x $ 可以写为： $$ x = \begin{pmatrix} x_1 \\ x_2 \\ x_3 \\ x_4 \end{pmatrix} = \begin{pmatrix} x_3 + 2x_4 \\ -2x_3 - 3x_4 \\ x_3 \\ x_4 \end{pmatrix} = x_3 \begin{pmatrix} 1 \\ -2 \\ 1 \\ 0 \end{pmatrix} + x_4 \begin{pmatrix} 2 \\ -3 \\ 0 \\ 1 \end{pmatrix} $$ 零空间 $ N(A) $ 的基是： $$ \left\{ \begin{pmatrix} 1 \\ -2 \\ 1 \\ 0 \end{pmatrix}, \begin{pmatrix} 2 \\ -3 \\ 0 \\ 1 \end{pmatrix} \right\} $$ 唯一性：

简化行阶梯形是唯一的。无论通过何种初等行变换序列，任何矩阵的简化行阶梯形都是唯一的。

Exercise 6

(1)

设 $ r = \text{column-rank}(A) $。这意味着 $ A $ 的列空间 $ C(A) $ 具有维数 $ r $。因此存在 $ r $ 个线性无关的列向量 $ a_{i_1}, \dots, a_{i_r} $，它们构成 $ C(A) $ 的一组基。于是令 $ A_{\text{basis}} = [a_{i_1} \dots a_{i_r}] $ 是一个 $ m \times r $ 矩阵。

由于 $ A $ 的每列 $ a_j $ 都可以表示为这组基的线性组合，即 $ a_j = A_{\text{basis}} b_j $（其中 $ b_j \in \mathbb{R}^r $）。我们将这些向量 $ b_j $ 拼接起来形成一个 $ r \times n $ 矩阵 $ B = [b_1 \dots b_n] $。这样，我们就有 $ A = A_{\text{basis}} B $，即 $ A=[a_{i_1} \dots a_{i_r}]B $。

(2)

根据 (i) 的结果，我们有 $ A = A_{\text{basis}} B $，其中 $ A_{\text{basis}} $ 是 $ m \times r $ 矩阵，$ B $ 是 $ r \times n $ 矩阵。

根据提示，我们从行向量的观点来看矩阵乘法，矩阵 $ A $ 的每一行都是矩阵 $ B $ 的行的线性组合。具体来说，如果 $ A $ 的第 $ k $ 行是 $ A_k $，$ A_{\text{basis}} $ 的第 $ k $ 行是 $ (A_{\text{basis}})_k $，则 $ A_k = (A_{\text{basis}})_k B $。这表明 $ A_k $ 位于 $ B $ 的行空间 $ R(B) $ 之内。

因此，$ A $ 的所有行都位于 $ R(B) $ 中。这意味着 $ A $ 的行空间 $ R(A) $ 是 $ B $ 的行空间 $ R(B) $ 的一个子空间。 所以，$ \text{dim}(R(A)) \le \text{dim}(R(B)) $，即 $ \text{row-rank}(A) \le \text{row-rank}(B) $。由于 $ B $ 是一个 $ r \times n $ 矩阵，其行空间最多有 $ r $ 个线性无关的行，所以 $ \text{row-rank}(B) \le r $，因此 $$ \text{row-rank}(A) \le r = \text{column-rank}(A) $$

(3)

对称地，我们直接可以将 $ (2) $ 的结果应用于矩阵 $ A $ 的转置 $ A^T $。矩阵 $ A^T $ 是一个 $ n \times m $ 矩阵，根据 $ (2) $ 的结论，我们对 $ A^T $ 施加这个结论： $$ \text{row-rank}(A^T) \le \text{column-rank}(A^T) $$ 同时我们又有 $ \text{row-rank}(A^T) = \text{column-rank}(A),\text{column-rank}(A^T) = \text{row-rank}(A) $，因此可以得到 $$ \text{column-rank}(A) \le \text{row-rank}(A) $$