Il numero di condizionamento di una matrice misura quanto la soluzione di un sistema lineare è sensibile alle perturbazioni dei dati: un numero di condizionamento elevato indica che piccoli errori nei dati (o negli arrotondamenti) possono produrre grandi errori nella soluzione.
Vedi anche: Virgola Mobile, Norma, Decomposizione SVD.
Norme Vettoriali e Matriciali
Una norma matriciale indotta dalla norma vettoriale \|\cdot\| è:
\|A\| = \sup_{\vec{x} \neq 0} \frac{\|A\vec{x}\|}{\|\vec{x}\|}
Norme matriciali comuni:
| Norma | Definizione | Calcolo |
|---|---|---|
| \|A\|_1 | massima somma di colonna | \max_j \sum_i \lvert a_{ij}\rvert |
| \|A\|_\infty | massima somma di riga | \max_i \sum_j \lvert a_{ij}\rvert |
| \|A\|_2 (spettrale) | massimo valore singolare | \sigma_{\max}(A) |
| \|A\|_F (Frobenius) | radice somma quadrati | \sqrt{\sum_{ij} a_{ij}^2} |
Definizione del Numero di Condizionamento
Per una matrice invertibile A:
\kappa(A) = \|A\| \cdot \|A^{-1}\|
Con la norma spettrale: \kappa_2(A) = \sigma_{\max}(A) / \sigma_{\min}(A) (rapporto tra il massimo e il minimo valore singolare). Vedi: Decomposizione SVD.
Per una matrice ortogonale: \kappa_2(Q) = 1 (perfettamente condizionata). Per una matrice singolare: \kappa = \infty.
Sensibilità dei Sistemi Lineari
Dato il sistema A\vec{x} = \vec{b}, se i dati sono perturbati di \delta A e \delta \vec{b}, l’errore relativo sulla soluzione soddisfa:
\frac{\|\delta\vec{x}\|}{\|\vec{x}\|} \leq \kappa(A) \left(\frac{\|\delta A\|}{\|A\|} + \frac{\|\delta\vec{b}\|}{\|\vec{b}\|}\right)
Un sistema con \kappa(A) = 10^k può perdere fino a k cifre decimali significative per effetto degli errori di arrotondamento.
Interpretazione Geometrica
\kappa_2(A) è il rapporto tra il semiasse maggiore e il semiasse minore dell’ellissoide immagine della sfera unitaria. Una matrice mal condizionata «schiaccia» lo spazio in alcune direzioni più di altre.
Miglioramento del Condizionamento: Precondizionamento
Per sistemi mal condizionati si usa un precondizionatore P \approx A^{-1} per risolvere P^{-1}A\vec{x} = P^{-1}\vec{b}, che ha numero di condizionamento \kappa(P^{-1}A) \ll \kappa(A). Vedi: Gradiente Coniugato.
Applicazioni ingegneristiche
- FEM: le matrici di rigidezza di strutture con elementi molto diversi per dimensione o rigidezza hanno \kappa \gg 1; il precondizionamento è essenziale per la convergenza dei solvitori iterativi.
- Regolarizzazione: nei problemi inversi (tomografia, ricostruzione di immagini) le matrici di osservazione sono mal condizionate; la regolarizzazione di Tikhonov aggiunge \lambda I per limitare \kappa.
- Reti neurali: il condizionamento della matrice hessiana della funzione di perdita influenza la velocità di convergenza della discesa del gradiente; metodi del secondo ordine (Adam, L-BFGS) stimano e compensano il mal condizionamento.