VMath

Теорема. Упорядочим сингулярные числа матрицы $ A\in \mathbb R^{m\times n} $ по невозрастанию:

$$ \sigma_1 \ge \sigma_2 \ge \dots \ge \sigma_{\operatorname{rank}(A)} >0 \, . $$ Матрицей $ \widetilde A \in \mathbb R^{m\times n} $ ранга $ \mathfrak r , 0<\mathfrak r \le \operatorname{rank}(A) $, наилучшим образом приближающей $ A $ в евклидовой норме (норме Фробениуса): $$ \min_{\widetilde A\in \mathbb R^{m\times n}, \operatorname{rank} (\widetilde A)= \mathfrak r} \| A- \widetilde A\| \, , $$ является матрица $$ A_{\mathfrak r}=\sum_{j=1}^{\mathfrak r} \sigma_j M_j(A) \quad \mbox{при} \ \{M_j(A):= U_{[j]} V_{[j]}^{\top} \} \, . $$ При такой матрице $ \widetilde A $ величина указанного минимума равна $$ \sqrt{\sum_{j=\mathfrak r+1}^{\operatorname{rank}(A)} \sigma_j^2} \, . $$

Доказательство. $$ \|A-A_{\mathfrak r}\|=\|\sum_{j=\mathfrak r+1}^{\operatorname{rank}(A)} \sigma_j M_j(A) \| = \sqrt{\sum_{j=\mathfrak r+1}^{\operatorname{rank}(A)} \sigma_j^2} $$ поскольку система матриц $ \{M_j(A)\} $ ортонормирована.