I moltiplicatori di Lagrange permettono di risolvere problemi di ottimizzazione in cui una funzione obiettivo f(x) deve essere massimizzata o minimizzata sotto vincoli. Con un vincolo regolare g(x)=0:
La condizione \nabla g(x)\ne0 evita punti singolari del vincolo.
L’interpretazione geometrica è che, in un estremo vincolato, il gradiente della funzione obiettivo non ha componente tangenziale al vincolo: se l’avesse, si potrebbe ancora aumentare o diminuire f muovendosi lungo il vincolo.
Problema con un vincolo di uguaglianza
Il problema base è
La funzione lagrangiana è
oppure f(x)+\lambda g(x) a seconda della convenzione sul segno. Le condizioni del primo ordine sono
Con la convenzione sopra, questo equivale a
Il moltiplicatore \lambda è una nuova incognita: non è scelto prima, ma determinato insieme al punto candidato.
Interpretazione geometrica
Il vincolo g(x)=0 definisce, quando è regolare, una curva o superficie nello spazio. I vettori tangenti al vincolo sono ortogonali a \nabla g(x). In un estremo vincolato, la derivata direzionale di f lungo ogni direzione tangente deve annullarsi.
Questo significa che \nabla f(x) non può avere componente tangenziale e quindi deve essere parallelo a \nabla g(x). La condizione
esprime proprio questo parallelismo. In due dimensioni, le curve di livello di f sono tangenti alla curva del vincolo nel punto candidato.
Più vincoli
Con m vincoli di uguaglianza
la lagrangiana diventa
e la condizione del primo ordine è
I gradienti dei vincoli devono essere linearmente indipendenti nel punto candidato. Se non lo sono, il punto è singolare e le condizioni di Lagrange possono non descrivere correttamente gli estremi.
Vincoli di disuguaglianza
Per vincoli del tipo
non basta introdurre moltiplicatori liberi: bisogna distinguere vincoli attivi e inattivi. Le condizioni generali portano alle condizioni KKT, che includono fattibilità, stazionarietà, segno dei moltiplicatori e complementarità.
Un vincolo inattivo non influenza localmente l’ottimo; un vincolo attivo può comportarsi come un vincolo di uguaglianza. Questa distinzione è essenziale in programmazione matematica, controllo ottimo, economia, progetto strutturale e ottimizzazione di processo.
Significato del moltiplicatore
In molti problemi \lambda ha un’interpretazione di sensibilità. Se si sostituisce il vincolo g(x)=0 con
il moltiplicatore misura, sotto ipotesi regolari, quanto cambia il valore ottimo al variare di c. Per questo in economia e ottimizzazione è spesso chiamato prezzo ombra.
In ingegneria, questa lettura aiuta a capire quali vincoli sono realmente limitanti. Un moltiplicatore grande indica che un piccolo allentamento del vincolo potrebbe migliorare sensibilmente l’obiettivo.
Secondo ordine e classificazione
Le condizioni di Lagrange individuano punti candidati, non garantiscono da sole massimo o minimo. Per classificare il punto servono condizioni del secondo ordine sulla hessiana della lagrangiana ristretta allo spazio tangente del vincolo.
In alternativa, in problemi semplici si può parametrizzare direttamente il vincolo e ridurre il problema a una variabile libera. Nei problemi ad alta dimensione, però, la formulazione con moltiplicatori è spesso più sistematica.
Errori comuni
Un errore frequente è applicare il metodo senza controllare la regolarità del vincolo. Se \nabla g(x)=0, la condizione perde il suo significato geometrico. Un altro errore è confondere condizioni necessarie e sufficienti: trovare una soluzione delle equazioni di Lagrange non dimostra automaticamente che sia l’ottimo globale.
Infine, bisogna sempre verificare il vincolo originale. Le equazioni di stazionarietà senza la condizione g(x)=0 descrivono un problema diverso.