Задача. Найти фундаментальную систему решений (ФСР) для системы $$ \left\{ \begin{array}{lllll} a_{11}x_1 &+a_{12}x_2&+ \ldots&+a_{1n}x_n &=0,\\ a_{21}x_1 &+a_{22}x_2&+ \ldots&+a_{2n}x_n &=0,\\ \dots & & & \dots & \\ a_{m1}x_1 &+a_{m2}x_2&+ \ldots&+a_{mn}x_n &=0. \end{array} \right. \quad \iff \quad AX=\mathbb O_{m\times 1} \ . $$ Здесь $ A_{} $ — $ m\times n_{} $-матрица; $ X_{}=(x_1,\dots,x_n)^{\top} $ — столбец неизвестных.

Нижеприведенный способ я нашел в статье [1]. В которой обоснование не приводится, а делается ссылка на книгу [2]. В последней я не нашел не то чтобы обоснования, но и самого метода — уж очень он сильно там «замаскирован»

Способ напоминает вычисление обратной матрицы методом приписывания единичной матрицы. Транспонируем матрицу $ A_{} $ системы и припишем к ней справа единичную матрицу порядка $ n_{} $: $$ \left[ A^{\top} | E_n \right] = \left(\begin{array}{llllccccc} a_{11} & a_{21} & \dots & a_{m1} & 1 & 0 & 0 & \dots & 0 \\ a_{12} & a_{22} & \dots & a_{m2} & 0 & 1 & 0 & \dots & 0 \\ a_{13} & a_{23} & \dots & a_{m3} & 0 & 0 & 1 & \dots & 0 \\ \vdots & & & \vdots & \vdots & & & \ddots & \vdots \\ a_{1n} & a_{2n} & \dots & a_{mn} & 0 & 0 & 0 & \dots & 1 \end{array} \right) \ ; $$ здесь $ {} |_{} {} $ означает конкатенацию. Получившуюся матрицу элементарными преобразованиями строк приводим к форме: $$ \left( \begin{array}{cc} \hat A & K \\ \mathbb O & L \end{array} \right) = \left(\begin{array}{cccccccc|ccccc} {\color{Red} \star } & * & * & \dots & * & * & * & * & * & * & * & \dots & * \\ 0 & {\color{Red} \star } & * & \dots & * & * & * & * & * & * & * & \dots & * \\ 0 & 0 & {\color{Red} \star } & \dots & * & * & * & * & * & * & * & \dots & * \\ \vdots & & & \ddots & & & & \vdots & \vdots & & & & \vdots \\ 0 & 0 & \dots & & 0 & {\color{Red} \star } & * & * & * & * & * & \dots & * \\ \hline 0 & 0 & \dots & 0 & 0 & 0 & 0 & 0 & \Box & \Box & \Box & \dots & \Box \\ \vdots & & & & & & & \vdots & \vdots & & & & \vdots \\ 0 & 0 & \dots & 0 & 0 & 0 & 0 & 0 & \Box & \Box & \Box & \dots & \Box \end{array} \right) \begin{array}{l} \left.\begin{array}{l} \\ \\ \\ \\ \\ \end{array}\right\} \mathfrak r \\ \left. \begin{array}{l} \\ \\ \\ \end{array}\right\} n - \mathfrak r \end{array} \ . $$ Элементы трапециевидной матрицы $ \hat A $, обозначенные $ {\color{Red} \star } $, могут быть равны нулю, но $ \operatorname{rank}(\hat A)= \mathfrak r_{} $. В этом случае строки матрицы $ L_{} $, образовавшейся в правом нижнем углу (ее элементы обозначены $ \Box $), составляют ФСР для системы $ AX=\mathbb O $.

Cледующее обоснование метода — мое, и оно повторяет рассуждения, обосновывающие метод обращения матрицы путем приписыванием единичной матрицы.

Рассмотрим систему линейных уравнений относительно неизвестных $ y_1,\dots,y_m,z_1,\dots,z_n $: $$ A^{\top}Y=Z \ . $$ Здесь $ Y=(y_1,\dots,y_m)^{\top}, Z=(z_1,\dots,z_n)^{\top} $. Перепишем эту систему в матричном виде $$A^{\top}Y=Z \quad \iff \quad A^{\top}Y=EZ \quad \iff \quad \left[A^{\top} \mid E \right] \left(\begin{array}{r} Y \\ -Z \end{array} \right)= \mathbb O_{n\times 1} \ . $$ Применим к этой системе метод Гаусса — приведем матрицу элементарными преобразованиями к трапециевидной форме. Если $ \mathfrak r = \operatorname{rank} (A) < n $, то получим: $$ \left( \begin{array}{cc} \hat A & K \\ \mathbb O & L \end{array} \right) \left(\begin{array}{r} Y \\ -Z \end{array} \right)= \mathbb O ; $$ здесь матрица $ \hat A $ — трапециевидная порядка $ \mathfrak r_{}\times n $ и $ \operatorname{rank} (\hat A )=\mathfrak r $, а матрица $ L_{} $ имеет порядок $ (n-\mathfrak r) \times n $. Получившаяся система эквивалентна исходной. Однако из нее следует, что $$ LZ=\mathbb O_{(n-\mathfrak r)\times 1} \ . $$ Домножаем исходное уравнение $ A^{\top}Y=Z $ слева на матрицу $ L_{} $: $$ LA^{\top}Y=LZ=\mathbb O_{(n-\mathfrak r) \times 1} \ . $$ Это соотношение должно выполняться для любого столбца $ Y_{} $, в том числе при выборе его как столбца единичной матрицы: $$ LA^{\top}E_{[1]}=\mathbb O,\ LA^{\top}E_{[2]}=\mathbb O,\dots, LA^{\top}E_{[m]}=\mathbb O \ . $$ Объединяя эти равенства в матричное равенство, получаем: $$ LA^{\top} = \mathbb O_{(n-\mathfrak r) \times m} \quad \iff \quad AL^{\top} = \mathbb O_{ m\times (n-\mathfrak r) } \ . $$ Это означает, что все строки матрицы $ L_{} $ являются решениями системы однородных уравнений $ AX=\mathbb O_{m\times 1} $. Все эти строки линейно независимы, поскольку $$ \operatorname{rank} (L)=n-\mathfrak r \ . $$ Последнее утверждение следует из того факта, что элементарные преобразования, приводящие матрицу $ \left[A^{\top} \mid E \right] $ к виду $$ \left( \begin{array}{cc} \hat A & K \\ \mathbb O & L \end{array} \right) $$ не меняют ранга этой матрицы. Ранг исходной матрицы равен $ n_{} $, а в получившейся блочно-треугольной матрице $ \operatorname{rank} (\hat A )=\mathfrak r $ по построению.

Пример. Найти ФСР для системы уравнений

$$ \left\{ \begin{array}{rrrrrrl} x_1 &+2\,x_2&+ x_3&+3\,x_4&-x_5&+2\,x_6=&0,\\ -3x_1 &-x_2&+ 2\,x_3&-4\,x_4&+x_5&-x_6=&0,\\ x_1 &+x_2&+ 3\,x_3&+2\,x_4&+x_5&+3\,x_6=&0,\\ -8\,x_1 &-7\,x_2&+ 4\,x_3&-15\,x_4&+6\,x_5&-5\,x_6=&0,\\ 6x_1 &+5\,x_2& +5\,x_3&+11\,x_4 &&+9\,x_6=&0. \end{array} \right. $$ Решение. Преобразуем матрицу $ \left[ A^{\top} | E_6 \right] $ $$ \left(\begin{array}{rrrrr|rrrrrr} 1 & -3 & 1 & -8 & 6 & 1 \\ 2 & -1 & 1 & -7 & 5 & & 1 \\ 1 & 2 & 3 & 4 & 5 & & & 1 \\ 3 & -4 & 2 & -15 & 11 &&&& 1 \\ -1 & 1 & 1 & 6 & 0 &&&&& 1 \\ 2 & -1 & 3 & -5 & 9 &&&&&& 1 \end{array} \right)_{6\times 11} $$ к трапециевидной форме с помощью элементарных преобразований строк: $$ \rightarrow \left(\begin{array}{rrrrr|rrrrrr} 1 & -3 & 1 & -8 & 6 & 1 \\ 0 & 5 & -1 & 9 & -7 &-2 & 1 \\ 0 & 5 & 2 & 12 & -1 &-1 &0 & 1 \\ 0 & 5 & -1 & 9 & -7 &-3&0&0& 1 \\ 0 & -2 & 2 & -2 & 6 &1&0&0&0& 1 \\ 0 & 5 & 1 & 11 & -3 &-2&0&0&0&0& 1 \end{array} \right)\rightarrow $$ $$ \rightarrow \left(\begin{array}{rrrrr|rrrrrr} 1 & -3 & 1 & -8 & 6 & 1 \\ 0 & 5 & -1 & 9 & -7 &-2 & 1 \\ 0 & 0 & 3 & 3 & 6 &1 &-1 & 1 \\ 0 & 0 & 0 & 0 & 0 &-1&-1&0& 1 \\ 0 & 0 & 8/5 & 8/5 & 16/5 &1/5&2/5&0&0& 1 \\ 0 & 0 & 2 & 2 & 4 &0&-1&0&0&0& 1 \end{array} \right)\rightarrow $$ $$ \rightarrow \left(\begin{array}{rrrrr|rrrrrr} 1 & -3 & 1 & -8 & 6 & 1 \\ 0 & 5 & -1 & 9 & -7 &-2 & 1 \\ 0 & 0 & 3 & 3 & 6 &1 &-1 & 1 \\ 0 & 0 & 0 & 0 & 0 &-1&-1&0& 1 \\ 0 & 0 & 0 & 0 & 0 &-1/3&14/15&-8/15&0& 1 \\ 0 & 0 & 0 & 0 & 0 &-2/3&-1/3&-2/3&0& 0 & 1 \end{array} \right) $$

Ответ.¹⁾ $ \{ [-1,-1,0,1,0,0]^{\top}, [-1/3,14/15,-8/15,0, 1,0]^{\top}, [-2/3,-1/3,-2/3,0, 0, 1]^{\top} \} $.

Пример. Найти общее решение системы уравнений:

$$ \left\{ \begin{array}{rrrrrrcr} x_1+&2\,x_2+&3\,x_3+&4\,x_4-&x_5&=&3, \\ -x_1+&x_2+&2\,x_3+&3\,x_4+&4\,x_5&=&2, \\ x_1+&5\,x_2-&x_3+&2\,x_4-&x_5&=&0. \end{array} \right. $$ Решение. Составляем матрицу: $$ \left[ [A \mid - \mathcal B]^{\top} \mid E \right] = \left(\begin{array}{rrr|rrrrrr} 1 & -1 & 1 & 1 \\ 2 & 1 & 5 & & 1 \\ 3 & 2 & -1 & & & 1 \\ 4 & 3 & 2 & & & & 1 \\ -1 & 4 & -1 & & & & & 1 \\ -3 & -2 & 0 & & & & & & 1 \end{array} \right)_{6\times 9} \ . $$ C помощью элементарных преобразований строк преобразуем ее к трапециевидной форме: $$ \rightarrow \left(\begin{array}{rrr|rrrrrr} 1 & -1 & 1 & 1 \\ 0 & 3 & 3 & -2 & 1 \\ 0& 5& -4 & -3 & 0 & 1 \\ 0& 7& -2& -4 & 0 & 0 & 1 \\ 0& 3& 0 & 1 & 0 & 0 & 0 & 1 \\ 0& -5& 3& 3& 0& 0& 0& 0& 1 \end{array} \right) \rightarrow $$ $$ \rightarrow \left(\begin{array}{rrr|rrrrrr} 1 & -1 & 1 & 1 \\ 0 & 3 & 3 & -2 & 1 \\ 0 & 0 & -9 & 1/3 & -5/3 & 1 \\ 0 & 0 & -9 & 2/3 & -7/3 & 0 & 1 & 0 & 0 \\ 0 & 0 & -3 & 3 & -1 & 0 & 0 & 1 & 0 \\ 0 & 0 & 8 & -1/3 & 5/3 & 0 & 0 & 0 & 1 \end{array} \right) \rightarrow $$ $$ \rightarrow \left(\begin{array}{rrr|rrrrr|r} 1 & -1 & 1 & 1 \\ 0 & 3 & 3 & -2 & 1 \\ 0 & 0 & -9 & 1/3 & -5/3 & 1 \\ \hline 0 & 0 & 0 & 1/3 & -2/3 & -1 & 1 & 0 & 0 \\ 0 & 0 & 0 & 26/9 & -4/9 & -1/3 & 0 & 1 & 0 \\ 0 & 0 & 0 & -1/27 & 5/27 & 8/9 & 0 & 0 & 1 \end{array} \right) \ . $$ Три последние строчки формируют общее решение системы: $$ X=\left(\begin{array}{r} 1/3 \\ -2/3 \\ -1 \\ 1 \\ 0 \end{array}\right)t_1+ \left(\begin{array}{r} 26/9 \\ -4/9 \\ -1/3 \\ 0 \\ 1 \end{array}\right)t_2+ \left(\begin{array}{r} -1/27 \\ 5/27 \\ 8/9 \\ 0 \\ 0 \end{array}\right) \ . $$ ♦

[1]. Kung H.L. A Method for obtaining a Fundamental System of Solutions. Amer.Math. Monthly. V.75, N 9, 1968, pp.999-1002

[2]. Pedoe D. A Geometric Introduction to Linear Algebra. Wiley, NY, 1963, pp. 126-128