Per sistemi lineari di grandi dimensioni i metodi diretti (eliminazione di Gauss, decomposizione LU) possono essere troppo costosi. I metodi iterativi producono una successione .
Metodo di Jacobi
Si decompone con diagonale, triangolare inferiore stretta, triangolare superiore stretta. L’iterazione è:
Componente per componente: .
Tutte le componenti di vengono usate contemporaneamente, il che permette la parallelizzazione.
Metodo di Gauss-Seidel
Come Jacobi, ma usa subito le componenti appena calcolate:
Converge tipicamente in metà delle iterazioni rispetto a Jacobi.
Convergenza: entrambi i metodi convergono se è a diagonale dominante stretta per righe, o se è simmetrica definita positiva (Gauss-Seidel).
Condizionamento
Il numero di condizionamento misura la sensibilità della soluzione alle perturbazioni dei dati:
Per (sistema mal condizionato) piccoli errori numerici nei dati producono grandi errori nella soluzione. La fattorizzazione LU con pivoting parziale migliora la stabilità numerica.