Questão
Seja $$A\in M_{m\times n}(\mathbb{R})$$. Prove que $$\sigma_{1}=sup_{x,y}\frac{y^{T}Ax}{||y||_{2}||x||_{2}}$$, para $$x\in\mathbb{R^{n}} e $$y\in\mathbb{R^{m}}$$, onde $$sigma_{1}$$ é o maior valor singular da SVD.
Demonstração:
Pelo teorema da SVD, $$A=U\Sigma V^{T}$$Redução da expressão:
\[y^{T}Ax=y^{T}U\Sigma V^{T}x=(U^{T}y)^{T}\Sigma (V^{T}x)\]. Poremos $$u=U^{T}y$$ e $$v=V^{T}x$$. Por hipótese do teorema da existência da SVD, as matrizes $$U$$ e $$V$$ são unitárias, logo $$||u||_{2}=||U^{T}y||_{2}=||y||_{2}$$ e $$||v||_{2}=||V^{T}x||_{2}=||x||_{2}$$.
Sejam $$v=(a_{1},…a_{n})$$ e $$u=(b_{1},…b_{m})$$, e suponha, sem perda de generalidade, que $$n\leq m$$.
A expressão $$u^{T}\Sigma v = a_{1}b_{1}\sigma_{1}+…+a_{n}b_{n}\sigma_{n}$$. Pelas conclusões apresentadas, é fato que:
\[sup_{x,y}\frac{y^{T}Ax}{||y||_{2}||x||_{2}} = sup_{u,v}\frac{u^{T}\Sigma v}{||u||_{2}||v||_{2}}=sup_{||u||_{2}=||v||_{2}=1}u^{T}\Sigma v= max_{||u||_{2}=||v||_{2}=1} (a_{1}b_{1}\sigma_{1}+…+a_{n}b_{n})\].
Este máximo é realizado quando $$a_{1}=b_{1}=1$$ e $$a_{i}=b_{i}=0$$, para todo $$i\neq 1$$, pois $$\sigma_{1}\geq\sigma_{2}\geq…\geq\sigma_{n}\geq 0$$.
Portanto $$sup_{x,y}\frac{y^{T}Ax}{||y||_{2}||x||_{2}} = \sigma_{1}$$.
