Modified Gram-Schmidt (MGS), Least Squares, and Backward Stability of MGS-GMRES

0405455 - UIVT-O 330830 RIV US eng J - Článek v odborném periodiku
Paige, C. C. - Rozložník, Miroslav - Strakoš, Zdeněk
Modified Gram-Schmidt (MGS), Least Squares, and Backward Stability of MGS-GMRES.
[Modifikovaný Gram-Schmidtův algoritmus, úloha nejmenších čtverců a zpětná stabilita metody GMRES.]
SIAM Journal on Matrix Analysis and Applications. Roč. 28, č. 1 (2006), s. 264-284. ISSN 0895-4798. E-ISSN 1095-7162
Grant CEP: GA AV ČR 1ET400300415
Výzkumný záměr: CEZ:AV0Z10300504
Klíčová slova: rounding error analysis * modified Gram-Schmidt * QR factorization * loss of orthogonality * least squares * singular values * backward stability * linear equations * condition numbers * large sparse matrices * iterative solution * Krylov subspace methods * Arnoldi method * generalized minimum residual method
Kód oboru RIV: BA - Obecná matematika
Impakt faktor: 1.798, rok: 2006

The generalized minimum residual method (GMRES) [Y. Saad and M. Schultz,SIAM J. Sci. Statist. Comput., 7 (1986), pp. 856-869] for solving linear systems Ax=b is implemented as a sequence of least squares problems involving Krylov subspaces of increasing dimensions. The most usual implementation is modified Gram-Schmidt GMRES (MGS-GMRES). Here we show that MGS-GMRES is backward stable. The result depends on a more general result on the backward stability of a variant of the MGS algorithm applied to solving a linear least squares problem, and uses other new results on MGS and its loss of orthogonality, together with an important but neglected condition number, and a relation between residual norms and certain singular values.

Metodu zobecněných minimálních reziduí (GMRES) [Y. Saad a M.Schultz, SIAM J. Sci. Statist. Comput., 7 (1986), pp. 856-869] pro řešení nesymetrických soustav lineárních rovnic Ax=b lze interpretovat jako posloupnost problémů nejmenších čtverců na Krylovovských prostorech s rostoucí dimenzí. Nejpoužívanější implementace metody MGS-GMRES používá na výpočet bazí těchto prostorů Modifikovaný Gram-Schmidtův ortogonalizační proces (MGS). V této publikaci je ukázáno, že implementace MGS=GMRES je zpětně stabilním algoritmem. Tento výsledek vyplývá z obecnějšího výsledku o zpětné stabilitě varianty algoritmu MGS aplikované na problém nejmenších čtverců a využívá další nové poznatky o ztrátě ortogonality v MGS, nově zavedeném čísle podmíněnosti a vztahu mezi normou rezidua a některými singulárními čísly.
Trvalý link: http://hdl.handle.net/11104/0125619