Одноранговые матрицы. Если произвольная $m\times n$ -матрица задается $ mn $ элементами, то одноранговая того же порядка — ?? элементами.

Собственные числа, собственные векторы матрицы. Собственные векторы бывают правые и левые.

Вычисление функции от матрицы через интерполяционную формулу.

Симметричные матрицы, свойства их собственных чисел (в том числе экстремальное) и векторов.

Частичная проблема собственных чисел.

Теорема. Если все собственные числа $ \lambda_{1},\dots,\lambda_n $ матрицы $ A \in \mathbb C^{n\times n} $ различны, то для произвольного полинома $ g_{}(x) $ справедлива формула

$$ g(A)= \sum_{k=1}^n \frac{g(\lambda_k)}{f_k(\lambda_k)}f_k(A) = \sum_{k=1}^n \frac{g(\lambda_k)}{f'(\lambda_k)}f_k(A) $$ где $ f_k(x) $ означает частное от деления характеристического полинома $ f_{}(x):=\det (A-xE_{n\times n}) $ на $ x- \lambda_k $.

Поскольку этот результат справедлив для произвольного полинома $ g(x) $, то он выполняется и для частного случая $ g(x) \equiv x $: $$ A = \sum_{k=1}^n \lambda_k \frac{f_k(A)}{f_k(\lambda_k)} = \sum_{k=1}^n \lambda_k \frac{f_k(A)}{f^{\prime}(\lambda_k)} \, . $$ То есть мы получили представление матрицы $ A $ в виде линейной комбинации матриц $$ \left\{ M_k(A):=\frac{f_k(A)}{f_k(\lambda_k)} \right\}_{k=1}^n \, . $$ Теперь исследуем свойства этих матриц.

Теорема. Если алгебраическая кратность собственного числа $ \lambda_k $ равна $ 1 $, то

$$ \operatorname{rank} (M_k(A)) = 1 \, . $$

Любая одноранговая $m\times n $-матрица представима в виде произведения столбца $ U \in \mathbb C^{m\times 1} $ на строчку $ V\in \mathbb C^{1\times n} $: $$ \left(\begin{array}{c} u_1\\ u_2\\ \vdots \\ u_m \end{array} \right) (v_1,\dots,v_n)=\left[u_jv_k\right]_{j=1,\dots,m;k=1,\dots,n} $$ при хотя бы одной паре индексов $ j_{} $ и $ k_{} $ таких, что $ u_j\ne 0, v_k \ne 0 $. Для матрицы $ f_k(A) $ такое представление обеспечивается собственными векторами матрицы $ A $.

Теорема. Матрица $ M_k(A) $ представима в виде произведения

$$ M_k(A) = X_k \cdot Y_k \, , $$ где $ X_k $ — правый собственный вектор (столбец), а $ Y_k $ — левый собственный вектор (строка) матрицы $A $, принадлежащие $ \lambda_k $.

Доказательство следует из теоремы Гамильтона-Кэли: $$ f(A)=\mathbb O_{n\times n} \quad \Rightarrow \ (A-\lambda_k E) f_k(A)= \mathbb O_{n\times n} \, . $$ То есть любой ненулевой столбец матрицы $ f_k(A) $ должен быть правым собственным вектором матрицы $ A $, принадлежащим $ \lambda_k $. Аналогично — для любой строки матрицы $ f_k(A) $.

Теорема. Если $ \lambda_{j} \ne \lambda_k $, то

$$ M_j(A)M_k(A) = M_k(A)M_j(A) = \mathbb O_{n\times n} \, . $$

Доказательство. $$ M_j(A) = X_j Y_j \, , M_k(A) = X_k Y_k \, . $$ Результат теоремы следует из равенства $ Y_j X_k = 0 $. Оно справедливо поскольку из определений собственных векторов $$ Y_jA=\lambda_j Y_j,\ AX_k=\lambda_k X_k \, , $$ вытекает $$ Y_jAX_k = \left\{\begin{array}{ll} \lambda_j Y_jX_k ;\\ \lambda_k Y_jX_k \end{array} \right. $$ При условии $ \lambda_{j} \ne \lambda_k $ должно выполняться заявленное равенство.

Теорема. Матрицы $ M_j(A) $ идемпотентны, т.е.

$$ M_k(A)^2=M_k(A) \, . $$ Кроме того, система матриц $ \{M_k(A)\}_{k=1}^n $ линейно независима и $$ \sum_{k=1}^n M_k(A) =E_{n\times n} \, . $$

Таким образом, представление $$ A=\sum_{k=1}^n \lambda_k M_k(A) $$ можно интерпретировать как разложение матрицы $ A $ по базису $ \{M_k(A)\}_{k=1}^n $, где собственные числа играют роль координат.

Теперь проанализируем полученное разложение на предмет ответа на вопрос: какие именно слагаемые вносят в него наибольший вклад? Какие из них наилучшим образом аппроксимируют матрицу $ A $?

Пример.

$$ A= \left[ \begin {array}{rrrr} -19873&40167&14897&28232 \\ -11466&23174&8594&16288\\ 14522 &-29351&-10886&-20632\\ -5349&10812&4011&7601 \end {array} \right] $$

Решение. $ f(\lambda):=\det (A-\lambda E) = {\lambda}^{4}-16\,{\lambda}^{3}-27\,{\lambda}^{2}+178\,\lambda-136 $. Спектр матрицы: $$ \lambda_1 =1,\ \lambda_2=2,\ \lambda_3=17,\ \lambda_4=-4 \, . $$ Не вдаваясь пока в вычислительные детали, приведем выражения для матриц $ M_k(A) $ $$ M_1(A) \approx \left[ \begin {array}{rrrr} 356.3&- 757.4&- 370.3& - 705.6\\ 203.6&- 432.8&- 211.6&- 403.2\\ - 254.5& 541& 264.5& 504\\ 95.4375&- 202.875&- 99.1875&- 189 \end {array} \right] , $$ $$ \ M_2(A) \approx \left[ \begin {array}{rrrr} - 751.66& 1469.16& 587.66& 1239.11\\ - 432.66& 845.66& 338.26& 713.24\\ 539.0&- 1053.5&- 421.4&- 888.53\\ - 198.0& 387.0& 154.8& 326.4 \end {array} \right] , \ \dots $$ Теперь оценим разности $ A-\lambda_k M_k $ для каждого $ k \in \{1,2,3,4\} $ вычислив евклидовы нормы (нормы Фробениуса): $$ \| A-\lambda_1 M_1 \| \approx 75041.7, \ \| A-\lambda_2 M_2 \| \approx 82542.5,\ \| A-\lambda_3 M_3 \| \approx 6632.4,\ \| A-\lambda_4 M_4 \| \approx 65668.2 $$ Видим, что наилучшее приближение дает слагаемое, соответствующее максимальному собственному числу. А следующим за ним, в плане качества приближения, оказывается слагаемое, соответствующее собственному числу, абсолютная величина (модуль) которого является максимальным из оставшихся собственных чисел. Возникает гипотеза, что за качество приближения отвечают именно модули собственных чисел. Эта гипотеза тут же опровергается следующим по убыванию модуля собственным числом, но… Делаем скидку на то, что $ \lambda_1 $ и $ \lambda_2 $ близки.

А если взять пару наилучших слагаемых, то ошибка аппроксимации уменьшается еще значительнeй $$ \| A-\lambda_3 M_3 -\lambda_4 M_4 \| \approx 4348.4 \, . $$ ♦

А сколько таких слагаемых можно оставить в сумме $ \sum_{k=1}^n \lambda_k M_k(A) $ чтобы матрица $ A $ стала распознаваемой?

Именно эту задачу мы будем решать в дальнейшем. Поиск решения будет производиться по уже намеченному выше пути. Но придется принять во внимание несколько нетривиальных аспектов.

1. Как правило, возникающие в приложениях матрицы вещественны. И аппроксимировать их требуется также вещественными матрицами. А собственные числа вещественных квадратных матриц не обязательно вещественны (как случилось в предыдущем примере).

2. Собственные числа квадратных матриц не обязательно различны. А все предшествующие рассуждения были справедливы именно в предположении простоты всех собственных чисел.

3. Возникающие в приложениях матрицы не обязательно квадратные. А для неквадратных матриц отсутствует понятие собственного числа.

4. Задача для таких матриц ставится в постановке: аппроксимировать их наилучшим образом матрицами меньшего ранга? Можно ли как-то предсказать ошибку этого наилучшего приближения (без явного построения самого этого приближения)?