"Solver" iterativo para

Não consigo imaginar que sou o primeiro a pensar no seguinte problema, por isso ficarei satisfeito com uma referência (mas sempre é apreciada uma resposta completa e detalhada):

Digamos que você tenha um simétrica definida positiva . n é pensado como muito grande, então segurando Σ na memória é impossível. Você pode, no entanto, avaliar Σ x , para qualquer x ∈ R n . Dado algum x ∈ R n , você gostaria de encontrar x t Σ - 1 x .$\Sigma \in \mathbb{R}^{n \times n}$$n$$\Sigma$$\Sigma x$$x \in \mathbb{R}^{n}$$x \in \mathbb{R}^{n}$$x^t\Sigma^{-1}x$

A primeira solução que vem à mente é encontrar usando (digamos) gradientes conjugados. No entanto, isso parece um pouco inútil - você procura um escalar e, no processo, encontra um vetor gigantesco em R n . Parece fazer mais sentido criar um método para calcular diretamente o escalar (ou seja, sem passar por Σ - 1 x ). Eu estou procurando por esse tipo de método.$\Sigma^{-1}x$$\mathbb{R}^{n}$$\Sigma^{-1}x$

Acho que nunca ouvi falar de nenhum método que faça o que você deseja, sem resolver .$y=\Sigma^{-1}x$

A única alternativa que posso oferecer é se você soubesse algo sobre os autovetores e valores de . Diga que sabia que eles são λ i , v i , pode representar Σ = V T L V em que as colunas de V são o v i , e L é uma matriz diagonal com os valores próprios na diagonal. Conseqüentemente, você tem que Σ - 1 = V T L - 1 V e obtém que x T Σ - 1 x $\Sigma$$\lambda_i,v_i$$\Sigma=V^T L V$$V$$v_i$$L$$\Sigma^{-1}=V^T L^{-1} V$ Este seria, evidentemente exigem que você para armazenartodos osvalores próprios, ou seja, uma matriz completa V . Mas, se você soube que apenas alguns dos autovalores de Σ são pequenos, digamos o primeiro m , e o restante é tão grande que você pode negligenciar todos os termos com λ - 1 i para i > m , então você pode aproximar

$$x^T \Sigma^{-1} x = x^T V^T L^{-1} V x = \sum_i \lambda_i^{-1} (v_i^T x)^2.$$ $V$$\Sigma$$m$$\lambda^{-1}_i$$i>m$ Isso exige apenas que você armazenemvetores, em vez de todos osnvetores próprios. $$x^T \Sigma^{-1} x = \sum_{i=1}^n \lambda_i^{-1} (v_i^T x)^2 \approx \sum_{i=1}^m \lambda_i^{-1} (v_i^T x)^2.$$ $m$$n$

Obviamente, na prática, muitas vezes é igualmente ou mais difícil calcular os valores próprios e os vetores próprios, em comparação com a solução simples de várias vezes.$y=\Sigma^{-1}x$