Por que o gradiente conjugado funciona com esse pré-condicionador não simétrico?

Em esta discussão anterior da seguinte maneira multiplicativo para combinar precondicionadores simétricas e P 2 para o sistema simétrico Um x = b foi sugerido: P - 1 combinação : = P - 1 1 + P - 1 2 ( I - A P - 1 1 ) = P - 1 1 + P - 1 2 - P $P_1$$P_2$$Ax=b$

$$\begin{align} P_\text{combo}^{-1} :=& P_1^{-1} + P_2^{-1}(I - A P_1^{-1})\\ =&P_1^{-1} + P_2^{-1} - P_2^{-1} A P_1^{-1}. \end{align}$$

Este pré-condicionador combinado não é simétrico. No entanto, tentei usá-lo de qualquer maneira em gradientes conjugados em vários contextos diferentes, e o método sempre parece convergir muito bem. Por que é isso?

---

Exemplo 1: Matrizes aleatórias.

% Testing multiplicative combination of preconditioners
n = 500;
[U,S,~] = svd(randn(n,n)); A = U*S*U';
[W1,S1,~] = svd(randn(n,n)); noise1 = W1*S1*W1';
[W2,S2,~] = svd(randn(n,n)); noise2 = W2*S2*W2';
P1 = A + 0.5 * noise1;
P2 = A + 0.5 * noise2;

solve_P = @(x) P1\x + P2\x - P2\(A*(P1\x));

b = randn(n,1);
x_true = A\b;
pcg(A,b,1e-6,n);
pcg(A,b,1e-6,n,P1);
x = pcg(A,b,1e-6,n,solve_P);
norm(x_true - x)/norm(x_true)

Aqui está a saída que recebo:

pcg converged at iteration 127 to a solution with relative residual 9.9e-07.
pcg converged at iteration 62 to a solution with relative residual 6.8e-07.
pcg converged at iteration 51 to a solution with relative residual 8.1e-07.
relative error= 4.23e-07

---

Exemplo 2: Combinando multigrid com cholesky incompleto para resolver a equação de Poisson.

n = 50; N = n^2;
A = gallery('poisson',n); %Laplacian on n-by-n grid, zero dirichlet BC

L = ichol(A);
solve_P1 = @(x) L'\(L\x);
% Combinatorial multigrid: http://www.cs.cmu.edu/~jkoutis/cmg.html
solve_P2 = cmg_sdd(A); 

solve_P = @(x) solve_P1(x) + solve_P2(x) - solve_P1(A*solve_P2(x));

b = randn(N,1);
x_true = A\b;
pcg(A,b,1e-6,N);
pcg(A,b,1e-6,N,solve_P1);
pcg(A,b,1e-6,N,solve_P2);
x = pcg(A,b,1e-6,N,solve_P);
disp(['relative error= ', num2str(norm(x_true - x)/norm(x_true),3)])

Para isso, recebo os resultados:

pcg converged at iteration 131 to a solution with relative residual 8.4e-07.
pcg converged at iteration 44 to a solution with relative residual 6e-07.
pcg converged at iteration 19 to a solution with relative residual 7e-07.
pcg converged at iteration 12 to a solution with relative residual 4.7e-07.
relative error= 5.2e-07

---

Notas:

• Também vi o mesmo comportamento qualitativo em matrizes surgindo em situações mais complicadas / realistas.
• $Ax=b$$e$$r$$Ae=r$$P_1$$A$$P_2$$A$

Em resumo, a ortogonalização dos vetores de Krylov ocorre em relação ao operador, mas não em relação ao pré-condicionador.

$Ax=b$$B$

$$\begin{align*} \hat{v}_1=\tilde{v}_1 =& Bb\\ v_1 =& \tilde{v}_1 / c_1\\ \\ \hat{v}_i =& BAv_{i-1}\\ \tilde{v}_i=&\hat{v}_i-\sum\limits_{j=1}^{i-1} \langle Av_k,\hat{v}_i\rangle v_k\\ v_i =& \tilde{v}_i/c_i\\ c_i =& \sqrt{\langle \tilde{v}_i,\tilde{v}_i\rangle} \end{align*}$$

• $\hat{v}_i$
• $\tilde{v}_i$
• $v_i$

Agora, o interessante disso é que obtemos várias propriedades. Os dois que realmente importam para você são

1. $\textrm{span}\{v_i\}_{i=1}^m = \textrm{span}\{(BA)^{i-1}(Bb)\}_{i=1}^m$
2. $V^TAV = I$

$\hat{v}_i$$BAv_{i-1}$$v_1$$Bb$$\tilde{v}_i$$B$$A$

$Ax=b$$x$$\beta$

$$AV\beta = b$$ $$V^TAV\beta = V^Tb$$ $V^TAV=I$ $$\beta = V^Tb$$ $$x = VV^Tb.$$ $B$$A$$B$$B$$A$$B$

$B$$\langle Br_i,r_j\rangle = 0$$i\neq j$$\langle BAv_i,Av_j\rangle=0$$|i-j|\geq 2$$B$

$B$$B$

Leia http://www.sciencedirect.com/science/article/pii/S1877050915010492 "Pré-condicionamento não simétrico para métodos de gradiente conjugado e descida mais íngreme"