Decomposição em valores singulares

Suponha-se que M é uma matriz m×n cujas entradas vêm de um corpo de escalares K, que pode ser tanto o corpo de números reais ou o corpo de números complexos. Então existe uma fatorização da forma: M = U Σ V ∗ , {\displaystyle M=U\Sigma V^{*},} onde U é uma matriz unitária m×m sobre K, a matriz Σ é uma matriz diagonal m×n com números reais não-negativos na diagonal, e V*, uma matriz unitária n×n sobre K, denota a transposta conjugada de V. Tal fatorização é chamada de decomposição em valores singulares de M. Os elementos diagonais σ i {\displaystyle \sigma _{i}} de Σ são chamados de valores singulares de M. Uma convenção bastante comum é listar os valores singulares em ordem decrescente. Neste caso, a matriz diagonal Σ é determinada de forma única por M (mas as matrizes U e V não são).

A decomposição em valores singulares desta matriz é dada por U Σ V ∗ {\displaystyle U\Sigma V^{*}} Note-se que Σ {\displaystyle \Sigma } contém apenas zeros fora da diagonal. Ademais, como as matrizes U {\displaystyle U} e V ∗ {\displaystyle V^{*}} são unitárias, multiplicando-se por suas respectivas conjugadas transpostas gera matrizes identidades, como mostrado a seguir. Nesse caso, como U {\displaystyle U} e V ∗ {\displaystyle V^{*}} são reais, cada uma delas é uma matriz ortogonal. Deve-se notar que esta decomposição em valores singulares em particular não é única. Escolhendo-se V {\displaystyle V} tal que é também uma decomposição válida em valores singulares.

Um número real não-negativo σ é um valor singular para M se e somente se existem vetores unitários u em Km e v em Kn tal que Os vetores u e v são chamados vetor singular à esquerda e vetor singular à direita para σ, respectivamente. Em qualquer decomposição em valores singulares os elementos diagonais de Σ são iguais aos valores singulares de M. As colunas de U e V são, respectivamente, vetores singulares à esquerda e à direita para os valores singulares correspondentes. Por consequência, o teorema acima implica que: Um valor singular para o qual podemos encontrar dois vetores singulares à esquerda (ou direita) que sejam linearmente independentes é chamado degenerado. Valores singulares não-degenerados têm sempre vetores singulares à esquerda e à direita únicos, a não ser pela multiplicação por um fator de fase único eiφ (para o caso real a não ser pelo sinal). Assim, se todos os valores singulares de M são não-degenerados e não-zero, então sua decomposição em valores singulares é única, a não ser por multiplicação de uma coluna de U por um fator de fase único e a multiplicação simultânea da coluna correspondente de V pelo mesmo fator unitário de fase.

Pode-se utilizar a SVD de A {\displaystyle A} para determinar a matriz ortogonal R {\displaystyle R} mais próxima de A {\displaystyle A} . A proximidade é medida pela norma de Frobenius de R − A {\displaystyle R-A} . A solução é o produto U V ∗ {\displaystyle UV^{*}} . Isso confere com a intuição já que uma matriz ortogonal deveria ter a decomposição U I V ∗ {\displaystyle UIV^{*}} onde I {\displaystyle I} é a matriz identidade, de forma que se A = U Σ V ∗ {\displaystyle A=U\Sigma V^{*}} então o produto A = U V ∗ {\displaystyle A=UV^{*}} se reduz a colocar 1's no lugar dos valores singulares. Um problema similar, com aplicações fundamentais em visão computacional, robótica e en:shape analysis, é o Problema de Procrustes Ortogonal (orthogonal Procrustes problem), que consiste em encontrar uma matriz ortogonal R {\displaystyle R} que mapeia A {\displaystyle A} o mais próximo possível de B {\displaystyle B} . Formalmente,

A decomposição em valores singulares foi originalmente desenvolvida por geômetras estudando geometria diferencial. Eles desejavam determinar se uma forma bilinear real pode ser tornada igual a uma outra por transformações ortogonais independentes dos dois espaços no qual ela age. Eugenio Beltrami e Camille Jordan descobriram independentemente, em 1873 e 1874, respectivamente, que os valores singulares das formas bilineares, representados por uma matriz, formam um conjunto completo de invariantes para formas bilineares sob substituições ortogonais. James Joseph Sylvester também chegou à decomposição em valores singulares para matrizes quadradas reais em 1889, aparentemente independentemente de Beltrami e Jordan. Sylvester chamou os valores singulares de multiplicadores canônicos da matriz A. O quarto matemático a descobrir a decomposição em valores singulares de forma independente foi Autonne em 1915, que chegou a ela via a decomposição polar (Polar decomposition). A primeira prova da decomposição singular para matrizes retangulares e complexas parece ter sido realizada por Carl Eckart e Gale Young em 1936; eles viam a SVD como uma generalização da transformação de eixo principal para matrizes hermitianas.

A decomposição em valores singulares é bastante geral, já que pode ser aplicada a qualquer matriz m × n , ao passo que a decomposição em autovalores pode apenas ser aplicada para algumas classes de matrizes quadradas. Dada uma SVD de M, como acima, valem as seguintes condições: Os lados direitos dessas relações descrevem a decomposição em autovalor dos lados esquerdos. Sendo assim: No caso especial em que M é uma matriz normal, que por definição deve ser quadrada, o teorema espectral diz que ela pode ser unitariamente diagonalizada usando-se uma base de autovalores, de forma que ela pode ser escrita M = U D U ∗ {\displaystyle M=UDU^{*}} para uma matriz unitária U e uma matriz diagonal D. Quando M é também positiva semi-definida, a decomposição M = U D U ∗ {\displaystyle M=UDU^{*}} é também uma SVD. No entanto, as decomposições em autovalores e em valores singulares diferem para todas outras matrizes M: a decomposição espectral é M = U D U − 1 {\displaystyle M=UDU^{-1}} onde U não é necessariamente unitária e D não é necessariamente positiva semi-definida, enquanto a SVD é M = U Σ V ∗ {\displaystyle M=U\Sigma V^{*}} onde Σ é diagonal postiva semi-definida, e U e V são matrizes unitárias que não são necessariamente relacionadas exceto através de M.