!!§!! Вспомогательная страница к разделу ☞ ((:interpolation:mnk МЕТОД НАИМЕНЬШИХ КВАДРАТОВ)). ---- !!T!! **Теорема.** //Существует псевдорешение системы// $$ AX={\mathcal B} $$ //и оно является решением// **нормальной системы** $$ \left[A^{\top}A \right]X=A^{\top} {\mathcal B} \ . $$ //Это решение будет единственным тогда и только тогда, когда// $ \operatorname{rank} A =n_{} $. **Доказательство.** Как обычно, $ A^{[i]} $ обозначает $ i_{} $-ю строчку матрицы $ A_{} $, а $ A_{[j]} $ --- ее $ j_{} $-й столбец. На основании теоремы из пункта ((:polynomialm#экстремумы_полинома "ЭКСТРЕМУМЫ ПОЛИНОМА")) точка экстремума функции $$ F(X)= \sum_{i=1}^m [a_{i1}x_1 +a_{i2}x_2+\ldots+a_{in}x_n-b_i]^2= \sum_{i=1}^m [A^{[i]}X-b_i]^2 $$ ищется из условий $$ \partial F / \partial x_1=0, \dots, \partial F / \partial x_n=0 \ . $$ Распишем выражение для $ \partial F / \partial x_j $: $$ \partial F / \partial x_j=\sum_{i=1}^m 2\,[ A^{[i]}X-b_i] \frac{\partial (a_{i1}x_1 +a_{i2}x_2+\ldots+a_{in}x_n)}{\partial x_j}= 2\, \sum_{i=1}^m [A^{[i]}X-b_i]\, a_{ij}=$$ $$= 2\left[\left(a_{1j}A^{[1]}+\dots+a_{mj}A^{[m]}\right)X -\left(a_{1j}b_1+\dots+ a_{mj}b_m \right)\right]=2\,\left[A_{[j]}^{\top}AX- A_{[j]}^{\top} {\mathcal B}\right].$$ Таким образом, условия $ \{ \partial F / \partial x_j=0 \}_{j=1}^n $ эквивалентны следующим $$A_{[1]}^{\top}AX=A_{[1]}^{\top}{\mathcal B}, \dots, A_{[n]}^{\top}AX =A_{[n]}^{\top}{\mathcal B} \iff A^{\top} A X= A^{\top} {\mathcal B} \ .$$ Итак, если существует псевдорешение системы $ AX={\mathcal B} $, то оно обязательно должно быть (обычным) решением нормальной системы $$ A^{\top} A X= A^{\top} {\mathcal B} \ . $$ Покажем теперь, что последняя система всегда совместна. Предположим сначала, что $ \operatorname{rank} A=n $. Для доказательства единственности решения нормальной системы в этом случае, вычислим определитель матрицы $ A^{\top}A $ с помощью ((:algebra2:dets#теорема_бине_-_коши теоремы Бине--Коши)). Если $ m=n_{} $, то $$\det (A^{\top} A) = \det A^{\top} \det A = (\det A)^2 \ .$$ Если же $ m>n_{} $, то $$ \det (A^{\top} A)= $$ $$ = \sum_{1\le j_1<\dots 0 $. В случае $ m>n_{} $ то же условие означает существование у матрицы $ A_{} $ хотя бы одного минора порядка $ n_{} $ отличного от нуля. Соответствующее слагаемое в последней сумме строго положительно, и снова $ \det (A^{\top} A) > 0 $. По ((algebra2:linearsystems#формулы_крамера теореме Крамера)), нормальная система имеет единственное решение. Пусть теперь $ \operatorname{rank} A={\mathfrak r} ♦