Formulario di Probabilità e Statistica

Questo formulario raccoglie gli strumenti principali di Probabilità e Statistica per un corso di ingegneria. L’obiettivo è dare formule utilizzabili, ma anche commentarle con le ipotesi e il significato operativo: una formula statistica senza modello, campione, livello di rischio e unità di misura è facile da applicare male.

La probabilità descrive l’incertezza prima dell’osservazione: eventi, variabili aleatorie, distribuzioni, dipendenze e limiti asintotici. La statistica usa dati osservati per stimare parametri, confrontare ipotesi, costruire modelli e quantificare l’incertezza residua. In ingegneria queste idee entrano in affidabilità, controllo qualità, misure sperimentali, simulazione, data analysis, manutenzione, rischio, reti, code, sistemi produttivi e sicurezza.

Le formule vanno lette sempre insieme a tre domande: quali dati ho, quale modello sto assumendo, quale decisione devo prendere. La stessa media può essere un valore atteso teorico, una media campionaria, una previsione di modello o una stima incerta; confonderle porta a conclusioni fragili.

1. Richiami iniziali: insiemi, somme e funzioni

Spazio degli esiti

$$\Omega=\{\omega:\omega \text{ è un esito possibile dell'esperimento}\}$$

$\Omega$ contiene tutti gli esiti elementari che il modello considera possibili. In un lancio di dado ideale, $\Omega=\{1,2,3,4,5,6\}$. In una misura continua, $\Omega$ può essere un intervallo o uno spazio più complesso. Scegliere correttamente $\Omega$ è il primo atto di modellazione.

Evento

$$A\subseteq \Omega$$

Un evento è un insieme di esiti. Dire che l’evento $A$ si verifica significa dire che l’esito osservato appartiene ad $A$. Per esempio, nel dado l’evento “numero pari” è $A=\{2,4,6\}$.

Complementare

$$A^c=\Omega\setminus A$$

Il complementare è l’evento “non $A$”. Se $A$ è l’evento guasto entro un certo tempo, $A^c$ è sopravvivenza oltre quel tempo. In probabilità, complementare e differenza tra insiemi permettono spesso di calcolare eventi difficili tramite eventi più semplici.

Unione e intersezione

$$A\cup B=\{\omega:\omega\in A \text{ oppure } \omega\in B\}$$ $$A\cap B=\{\omega:\omega\in A \text{ e } \omega\in B\}$$

L’unione rappresenta il verificarsi di almeno uno dei due eventi. L’intersezione rappresenta il verificarsi simultaneo. In affidabilità, se $A$ e $B$ sono guasti di componenti, $A\cup B$ descrive “almeno un componente guasto”, mentre $A\cap B$ descrive “entrambi guasti”.

Eventi disgiunti

$$A\cap B=\varnothing$$

Due eventi sono disgiunti se non possono verificarsi insieme. Non bisogna confondere disgiunzione e indipendenza: eventi disgiunti con probabilità positive non sono indipendenti, perché sapere che uno si è verificato esclude l’altro.

Partizione

$$\Omega=H_1\cup H_2\cup\dots\cup H_n,\qquad H_i\cap H_j=\varnothing \text{ se } i\ne j$$

Una partizione divide lo spazio degli esiti in casi alternativi e completi. Le formule di probabilità totale e di Bayes si basano su una partizione: prima si separano gli scenari possibili, poi si pesa il contributo di ciascuno.

Cardinalità

$$|A|=\text{numero di elementi di } A$$

La cardinalità conta gli elementi di un insieme finito. Nella probabilità classica, quando tutti gli esiti sono equiprobabili, la probabilità si riduce a un rapporto tra cardinalità.

Sommatoria finita

$$\sum_{i=1}^n a_i=a_1+a_2+\dots+a_n$$

La sommatoria abbrevia una somma finita. In probabilità discreta compare per normalizzare distribuzioni, calcolare valori attesi, varianze e probabilità marginali. L’indice $i$ è muto: può essere sostituito da un’altra lettera senza cambiare il significato.

Prodotto finito

$$\prod_{i=1}^n a_i=a_1a_2\dots a_n$$

Il prodotto finito compare in probabilità di eventi indipendenti, likelihood campionarie e densità congiunte di osservazioni indipendenti. Se i fattori sono probabilità, il prodotto può diventare molto piccolo; per questo in statistica computazionale si lavora spesso con logaritmi.

Indicatrice di un evento

$$\mathbf{1}_A(\omega)= \begin{cases} 1 & \text{se } \omega\in A,\\ 0 & \text{se } \omega\notin A. \end{cases}$$

La funzione indicatrice trasforma un evento in una variabile numerica. È utile perché permette di scrivere conteggi e frequenze come somme:

$$\text{numero di occorrenze di } A=\sum_{i=1}^n \mathbf{1}_A(\omega_i)$$

Questa idea collega direttamente probabilità, campionamento e statistica descrittiva.

Integrale come area ponderata

$$\int_a^b f(x)\,dx$$

Nelle distribuzioni continue l’integrale sostituisce la somma. Una densità $f$ non dà direttamente probabilità puntuali, ma probabilità di intervalli tramite area. Per questo, nel continuo, di solito $P(X=x)=0$ anche per valori possibili.

Funzione esponenziale e logaritmo

$$e^{a+b}=e^ae^b,\qquad \log(ab)=\log a+\log b$$

Esponenziale e logaritmo sono onnipresenti: distribuzione normale, esponenziale, Poisson, likelihood, modelli log-lineari e decadimento affidabilistico. Il logaritmo trasforma prodotti in somme, rendendo più stabile e interpretabile la stima di parametri.

2. Calcolo combinatorio

Fattoriale

$$n!=n(n-1)(n-2)\dots 2\cdot 1,\qquad 0!=1$$

Il fattoriale conta i modi di ordinare $n$ oggetti distinti. La convenzione $0!=1$ rende coerenti molte formule combinatorie, come il coefficiente binomiale per $k=0$.

Permutazioni semplici

$$P_n=n!$$

Le permutazioni semplici sono gli ordinamenti di $n$ oggetti distinti. Se si devono ordinare $n$ componenti, $n$ lavorazioni o $n$ etichette senza ripetizioni, il numero di sequenze possibili è $n!$.

Disposizioni semplici

$$D_{n,k}=\frac{n!}{(n-k)!}$$

Le disposizioni contano i modi di scegliere e ordinare $k$ oggetti distinti tra $n$. L’ordine conta e non sono ammesse ripetizioni. Si usano quando la posizione o la sequenza ha significato.

Disposizioni con ripetizione

$$D'_{n,k}=n^k$$

Si scelgono $k$ elementi da $n$ possibilità, ammettendo ripetizioni e distinguendo l’ordine. È il modello tipico di codici, password ideali a lunghezza fissa e sequenze di prove indipendenti con lo stesso numero di esiti.

Combinazioni semplici

$$\binom{n}{k}=\frac{n!}{k!(n-k)!}$$

Le combinazioni contano i modi di scegliere $k$ oggetti tra $n$ senza considerare l’ordine. La simmetria:

$$\binom{n}{k}=\binom{n}{n-k}$$

dice che scegliere $k$ oggetti equivale a scegliere gli $n-k$ esclusi.

Combinazioni con ripetizione

$$\binom{n+k-1}{k}$$

Questa formula conta i modi di scegliere $k$ oggetti da $n$ tipi ammettendo ripetizioni e senza ordine. È il modello delle distribuzioni di $k$ unità indistinguibili in $n$ categorie.

Permutazioni con ripetizioni

$$\frac{n!}{n_1!n_2!\dots n_r!}$$

Se tra $n$ oggetti ci sono gruppi indistinguibili di numerosità $n_1,\dots,n_r$, il fattoriale totale sovraconta gli scambi interni ai gruppi. Si divide quindi per i fattoriali delle ripetizioni. Questa formula è alla base del coefficiente multinomiale.

Coefficiente multinomiale

$$\binom{n}{n_1,n_2,\dots,n_r}= \frac{n!}{n_1!n_2!\dots n_r!}, \qquad n_1+\dots+n_r=n$$

Il coefficiente multinomiale conta i modi di ripartire $n$ prove in $r$ categorie con conteggi fissati. È l’estensione del coefficiente binomiale a più di due esiti.

Binomio di Newton

$$(a+b)^n=\sum_{k=0}^n \binom{n}{k}a^k b^{n-k}$$

Il coefficiente $\binom{n}{k}$ conta in quanti modi si scelgono i $k$ fattori da cui prendere $a$ nel prodotto di $n$ parentesi. La formula è il fondamento combinatorio della distribuzione binomiale.

Multinomio

$$(x_1+\dots+x_r)^n = \sum_{n_1+\dots+n_r=n} \binom{n}{n_1,\dots,n_r} x_1^{n_1}\dots x_r^{n_r}$$

Ogni termine corrisponde a una distribuzione dei $n$ fattori tra $r$ categorie. In probabilità porta direttamente alla distribuzione multinomiale, usata quando ogni prova può produrre più di due risultati.

3. Probabilità elementare e assiomi

Probabilità classica con esiti equiprobabili

$$P(A)=\frac{|A|}{|\Omega|}$$

La formula vale solo quando lo spazio campionario è finito e tutti gli esiti elementari hanno la stessa probabilità. Non è la definizione generale di probabilità: è un caso particolare basato su simmetria o equiprobabilità ragionevole.

Assiomi di Kolmogorov

$$P(A)\ge 0$$

Ogni probabilità è non negativa. Inoltre:

$$P(\Omega)=1$$

L’evento certo ha probabilità uno. Infine, per eventi a due a due disgiunti:

$$P\left(\bigcup_{i=1}^{\infty}A_i\right)=\sum_{i=1}^{\infty}P(A_i)$$

Questo assioma di additività numerabile permette di calcolare probabilità di unioni disgiunte anche infinite.

Probabilità dell’evento impossibile

$$P(\varnothing)=0$$

L’evento impossibile non contiene esiti e quindi non può verificarsi. La formula deriva dagli assiomi: poiché $\Omega$ e $\varnothing$ sono disgiunti e $\Omega\cup\varnothing=\Omega$, si ottiene $P(\Omega)=P(\Omega)+P(\varnothing)$.

Complementare

$$P(A^c)=1-P(A)$$

Evento e complementare sono disgiunti e la loro unione è $\Omega$. Questa formula è spesso il modo più semplice per calcolare probabilità di almeno un successo, almeno un guasto o almeno un errore: si calcola il contrario, cioè nessun successo, nessun guasto o nessun errore.

Monotonia

$$A\subseteq B \quad \Longrightarrow \quad P(A)\le P(B)$$

Se ogni esito che realizza $A$ realizza anche $B$, allora $B$ non può essere meno probabile di $A$. La probabilità rispetta l’inclusione tra eventi.

Differenza di eventi

$$P(A\setminus B)=P(A)-P(A\cap B)$$

$A\setminus B$ è la parte di $A$ che resta escludendo $B$. La formula è utile quando si vuole calcolare “A ma non B”. Richiede di sottrarre solo la parte di $A$ che cade effettivamente in $B$, cioè l’intersezione.

Unione di due eventi

$$P(A\cup B)=P(A)+P(B)-P(A\cap B)$$

Sommare $P(A)$ e $P(B)$ conta due volte gli esiti comuni. Per correggere il doppio conteggio si sottrae $P(A\cap B)$. Se gli eventi sono disgiunti, l’intersezione è vuota e la formula diventa semplicemente additiva.

Unione di tre eventi

$$\begin{aligned} P(A\cup B\cup C) &=P(A)+P(B)+P(C)\\ &\quad -P(A\cap B)-P(A\cap C)-P(B\cap C)\\ &\quad +P(A\cap B\cap C) \end{aligned}$$

La formula alterna somme e sottrazioni per correggere i conteggi multipli. Dopo aver sottratto le intersezioni a due a due, l’intersezione tripla è stata tolta troppe volte e va riaggiunta.

Disuguaglianza di Boole

$$P(A_1\cup\dots\cup A_n)\le \sum_{i=1}^n P(A_i)$$

È un limite superiore semplice per la probabilità di almeno uno tra più eventi. Non richiede indipendenza. È utile quando le intersezioni sono difficili da calcolare e serve una stima conservativa del rischio complessivo.

Continuità crescente

$$A_1\subseteq A_2\subseteq\dots,\qquad P\left(\bigcup_{n=1}^{\infty}A_n\right)=\lim_{n\to\infty}P(A_n)$$

Se gli eventi aumentano progressivamente, la probabilità del limite è il limite delle probabilità. Questa proprietà è importante nei modelli con eventi definiti come unioni infinite.

Continuità decrescente

$$A_1\supseteq A_2\supseteq\dots,\qquad P\left(\bigcap_{n=1}^{\infty}A_n\right)=\lim_{n\to\infty}P(A_n)$$

Se gli eventi si restringono progressivamente, la probabilità dell’intersezione limite è il limite delle probabilità. La proprietà vale in particolare quando $P(A_1)$ è finita, condizione sempre soddisfatta in uno spazio di probabilità.

4. Probabilità condizionata, indipendenza e Bayes

Probabilità condizionata

$$P(A\mid B)=\frac{P(A\cap B)}{P(B)},\qquad P(B)>0$$

La probabilità condizionata misura la probabilità di $A$ dopo aver saputo che $B$ si è verificato. Il denominatore $P(B)$ deve essere positivo: non si può condizionare su un evento impossibile. Il nuovo universo di riferimento diventa $B$.

Regola del prodotto

$$P(A\cap B)=P(A\mid B)P(B)=P(B\mid A)P(A)$$

La probabilità congiunta può essere scritta come probabilità del primo evento per probabilità del secondo dato il primo, o viceversa. La formula è la base per decomporre eventi complessi in passi successivi.

Regola del prodotto per più eventi

$$P(A_1\cap\dots\cap A_n) =P(A_1)P(A_2\mid A_1)\dots P(A_n\mid A_1\cap\dots\cap A_{n-1})$$

Questa catena scrive la probabilità di una sequenza di eventi come prodotto di probabilità condizionate. È utile in processi sequenziali, alberi di probabilità, catene di Markov e diagnostica.

Formula delle probabilità totali

$$P(E)=\sum_{i=1}^n P(E\mid H_i)P(H_i)$$

Gli eventi $H_1,\dots,H_n$ devono formare una partizione di $\Omega$ e avere probabilità positiva. La formula calcola la probabilità di $E$ sommando i contributi dei diversi scenari $H_i$, pesati per la loro probabilità.

Teorema di Bayes

P(H_j\mid E)= \frac{P(E\mid H_j)P(H_j)} \sum_{i=1}^n P(E\mid H_i)P(H_i)}

Bayes aggiorna la probabilità di un’ipotesi $H_j$ dopo aver osservato l’evidenza $E$. Il numeratore contiene quanto l’ipotesi era plausibile prima e quanto rende probabile l’evidenza. Il denominatore normalizza su tutte le ipotesi alternative.

Odds bayesiani

$$\frac{P(H_1\mid E)}{P(H_2\mid E)} = \frac{P(E\mid H_1)}{P(E\mid H_2)} \frac{P(H_1)}{P(H_2)}$$

Gli odds posteriori sono odds iniziali moltiplicati per il rapporto di verosimiglianza. Questa forma è molto chiara in diagnostica: un test cambia le probabilità in base a quanto l’evidenza è più probabile sotto un’ipotesi rispetto all’altra.

Indipendenza di due eventi

$$A \perp B \quad \Longleftrightarrow \quad P(A\cap B)=P(A)P(B)$$

Due eventi sono indipendenti se il verificarsi di uno non cambia la probabilità dell’altro. Se $P(B)>0$, la stessa condizione equivale a:

$$P(A\mid B)=P(A)$$

Indipendenza non significa disgiunzione: eventi indipendenti possono verificarsi insieme.

Indipendenza a coppie

$$P(A_i\cap A_j)=P(A_i)P(A_j)\qquad i\ne j$$

L’indipendenza a coppie richiede indipendenza per ogni coppia di eventi. Non basta però a garantire indipendenza collettiva. Questo punto è importante: molti errori nascono dal moltiplicare probabilità senza verificare l’indipendenza della famiglia intera.

Indipendenza mutua

$$P\left(\bigcap_{i\in I}A_i\right)=\prod_{i\in I}P(A_i)$$

La formula deve valere per ogni sottoinsieme finito di indici $I$. L’indipendenza mutua è più forte dell’indipendenza a coppie. È l’ipotesi tipica per prove ripetute identiche, misure indipendenti e componenti guastabili indipendentemente.

Probabilità di almeno un evento indipendente

$$P(A_1\cup\dots\cup A_n)=1-\prod_{i=1}^n \bigl(1-P(A_i)\bigr)$$

La formula vale se gli eventi sono indipendenti. Si calcola il complementare: nessun evento si verifica. È molto usata per “almeno un guasto”, “almeno un successo”, “almeno un errore”.

5. Variabili aleatorie

Variabile aleatoria

$$X:\Omega\to\mathbb{R}$$

Una variabile aleatoria assegna un numero reale a ogni esito dell’esperimento. Non è una variabile nel senso deterministico: prima dell’osservazione il suo valore è incerto; dopo l’osservazione assume un valore numerico.

Funzione di ripartizione

$$F_X(x)=P(X\le x)$$

La funzione di ripartizione accumula probabilità fino al valore $x$. È definita per qualunque variabile aleatoria reale, discreta o continua. È crescente, assume valori tra $0$ e $1$, tende a $0$ per $x\to -\infty$ e a $1$ per $x\to +\infty$.

Probabilità di un intervallo tramite ripartizione

$$P(a<X\le b)=F_X(b)-F_X(a)$$

La formula vale in generale. La scelta di includere $b$ ed escludere $a$ è coerente con la definizione $F_X(x)=P(X\le x)$. Nel caso continuo le inclusioni degli estremi non cambiano il valore; nel caso discreto possono contare.

Variabile discreta

$$p_X(x_i)=P(X=x_i)$$

Una variabile aleatoria discreta assume valori in un insieme finito o numerabile. La funzione $p_X$ assegna probabilità ai singoli valori. Deve valere:

$$\sum_i p_X(x_i)=1$$

La somma totale delle probabilità di tutti i valori possibili deve essere uno.

Variabile continua

$$P(a\le X\le b)=\int_a^b f_X(x)\,dx$$

La densità $f_X$ non è una probabilità puntuale. È una funzione che, integrata su un intervallo, restituisce probabilità. Deve essere non negativa e normalizzata:

$$\int_{-\infty}^{+\infty} f_X(x)\,dx=1$$

Nel continuo, la probabilità di un singolo punto è in genere zero.

Densità e funzione di ripartizione

$$F_X(x)=\int_{-\infty}^{x} f_X(t)\,dt$$

Se $X$ è continua con densità $f_X$, la ripartizione è l’integrale cumulato della densità. Quando $F_X$ è derivabile:

$$f_X(x)=F_X'(x)$$

Questa relazione collega area cumulata e densità locale.

Quantile

$$x_p=F_X^{-1}(p)$$

Il quantile di ordine $p$ è un valore sotto il quale cade probabilità $p$. Per esempio, la mediana è il quantile con $p=\frac12$. Se la ripartizione non è strettamente crescente, si usa una definizione generalizzata:

$$x_p=\inf\{x:F_X(x)\ge p\}$$

I quantili sono fondamentali in intervalli di confidenza, test e soglie di progetto.

Funzione di sopravvivenza

$$S_X(x)=P(X>x)=1-F_X(x)$$

La funzione di sopravvivenza è naturale quando $X$ rappresenta un tempo a guasto, una durata o una resistenza. In affidabilità si scrive spesso $R(t)=P(T>t)$.

Trasformazione monotona crescente

$$Y=g(X),\qquad g \text{ crescente}$$

Allora:

$$F_Y(y)=P(Y\le y)=P(X\le g^{-1}(y))=F_X(g^{-1}(y))$$

La monotonia crescente conserva l’ordine. La ripartizione di $Y$ si ottiene riportando la soglia $y$ sulla scala di $X$.

Trasformazione di densità

$$f_Y(y)=f_X(g^{-1}(y))\left|\frac{d}{dy}g^{-1}(y)\right|$$

La formula vale quando $g$ è invertibile e derivabile con derivata non nulla. Il fattore derivativo corregge la compressione o dilatazione della scala. Senza questo fattore, la densità trasformata non sarebbe correttamente normalizzata.

6. Valore atteso, varianza e momenti

Valore atteso discreto

$$\mathbb{E}[X]=\sum_i x_i\,p_X(x_i)$$

Il valore atteso è una media pesata dei valori possibili, con pesi pari alle probabilità. Non deve necessariamente essere un valore che la variabile può assumere. È un centro teorico della distribuzione, utile per previsioni medie e bilanci.

Valore atteso continuo

$$\mathbb{E}[X]=\int_{-\infty}^{+\infty}x f_X(x)\,dx$$

Nel caso continuo la somma pesata diventa un integrale. L’integrale deve convergere; non tutte le distribuzioni hanno valore atteso finito. La densità pesa i valori in base alla loro probabilità locale.

Valore atteso di una funzione

$$\mathbb{E}[g(X)]=\sum_i g(x_i)p_X(x_i)$$

per variabili discrete, mentre nel caso continuo:

$$\mathbb{E}[g(X)]=\int_{-\infty}^{+\infty}g(x)f_X(x)\,dx$$

Non serve trovare prima la distribuzione di $g(X)$: si può mediare direttamente la funzione sui valori di $X$. Questa formula è molto utile per calcolare momenti, costi attesi e trasformazioni.

Linearità del valore atteso

$$\mathbb{E}[aX+bY+c]=a\mathbb{E}[X]+b\mathbb{E}[Y]+c$$

La linearità vale sempre quando i valori attesi esistono, anche senza indipendenza. È una delle proprietà più robuste della probabilità. Permette di calcolare attese di somme anche quando le variabili sono dipendenti.

Momento di ordine $k$

$$m_k=\mathbb{E}[X^k]$$

I momenti grezzi descrivono la distribuzione rispetto all’origine. Il primo momento è il valore atteso. Momenti di ordine superiore contengono informazioni su dispersione, asimmetria e code.

Momento centrale di ordine $k$

$$\mu_k=\mathbb{E}\left[(X-\mathbb{E}[X])^k\right]$$

I momenti centrali misurano la distribuzione rispetto alla media. Il secondo momento centrale è la varianza. Il terzo è legato all’asimmetria, il quarto alla curtosi.

Varianza

$$\operatorname{Var}(X)=\mathbb{E}\left[(X-\mu)^2\right], \qquad \mu=\mathbb{E}[X]$$

La varianza misura la dispersione quadratica attorno alla media. Il quadrato penalizza maggiormente gli scostamenti grandi. L’unità di misura della varianza è il quadrato dell’unità di $X$.

Formula computazionale della varianza

$$\operatorname{Var}(X)=\mathbb{E}[X^2]-\bigl(\mathbb{E}[X]\bigr)^2$$

Questa forma è spesso più comoda per il calcolo. Deriva dallo sviluppo del quadrato:

$$\mathbb{E}[(X-\mu)^2]=\mathbb{E}[X^2]-2\mu\mathbb{E}[X]+\mu^2$$

Poiché $\mathbb{E}[X]=\mu$, resta $\mathbb{E}[X^2]-\mu^2$.

Deviazione standard

$$\sigma_X=\sqrt{\operatorname{Var}(X)}$$

La deviazione standard riporta la dispersione alla stessa unità di misura di $X$. Per questo è più interpretabile della varianza nelle applicazioni sperimentali.

Varianza di trasformazione affine

$$\operatorname{Var}(aX+b)=a^2\operatorname{Var}(X)$$

La traslazione $b$ non cambia la dispersione. Il fattore di scala $a$ moltiplica gli scostamenti dalla media, quindi la varianza viene moltiplicata per $a^2$.

Disuguaglianza di Jensen

$$\varphi(\mathbb{E}[X])\le \mathbb{E}[\varphi(X)]$$

La formula vale per $\varphi$ convessa. Dice che applicare una funzione convessa dopo aver mediato produce un valore non maggiore della media della funzione. È una disuguaglianza profonda: spiega perché la variabilità aumenta il valore atteso di costi convessi.

Disuguaglianza di Markov

$$P(X\ge a)\le \frac{\mathbb{E}[X]}{a},\qquad X\ge 0,\ a>0$$

Markov fornisce un limite superiore alla probabilità di code grandi usando solo il valore atteso. È generale ma spesso conservativa. Richiede che $X$ sia non negativa.

Disuguaglianza di Chebyshev

$$P(|X-\mu|\ge k\sigma)\le \frac{1}{k^2},\qquad k>0$$

Chebyshev usa media e varianza, senza assumere normalità. Garantisce che la probabilità di stare lontani dalla media decresce almeno come $1/k^2$. È utile quando la distribuzione non è nota.

Funzione generatrice dei momenti

$$M_X(t)=\mathbb{E}[e^{tX}]$$

Quando esiste in un intorno di zero, la funzione generatrice dei momenti determina la distribuzione e permette di ottenere i momenti derivando:

$$M_X^{(k)}(0)=\mathbb{E}[X^k]$$

È comoda per somme di variabili indipendenti.

Funzione caratteristica

$$\varphi_X(t)=\mathbb{E}[e^{itX}]$$

La funzione caratteristica esiste sempre, perché $|e^{itX}|=1$. È uno strumento teorico potente per convergenza in distribuzione e somme di variabili aleatorie.

7. Distribuzioni discrete notevoli

Bernoulli

$$X\sim\operatorname{Bernoulli}(p),\qquad P(X=1)=p,\quad P(X=0)=1-p$$

La Bernoulli modella una prova con due esiti: successo e insuccesso. Il parametro $p$ è la probabilità di successo. Valore atteso e varianza sono:

$$\mathbb{E}[X]=p,\qquad \operatorname{Var}(X)=p(1-p)$$

La varianza è massima per $p=\frac12$ e nulla se $p$ è zero o uno.

Binomiale

$$X\sim\operatorname{Bin}(n,p)$$

La variabile conta il numero di successi in $n$ prove Bernoulli indipendenti con la stessa probabilità $p$. La massa di probabilità è:

$$P(X=k)=\binom{n}{k}p^k(1-p)^{n-k},\qquad k=0,\dots,n$$

Il coefficiente binomiale conta quali prove sono successi; gli altri fattori pesano la probabilità della sequenza.

Media e varianza della binomiale

$$\mathbb{E}[X]=np,\qquad \operatorname{Var}(X)=np(1-p)$$

La media è il numero atteso di successi. La varianza cresce con $n$ ma dipende anche da $p(1-p)$: se il risultato è quasi certo o quasi impossibile, la variabilità è bassa.

Geometrica

$$P(X=k)=(1-p)^{k-1}p,\qquad k=1,2,\dots$$

Questa convenzione fa rappresentare a $X$ il numero della prova in cui si osserva il primo successo. Le prove sono indipendenti e tutte con probabilità $p$ di successo. La media e la varianza sono:

$$\mathbb{E}[X]=\frac{1}{p},\qquad \operatorname{Var}(X)=\frac{1-p}{p^2}$$

Se il successo è raro, il tempo medio di attesa cresce.

Proprietà senza memoria della geometrica

$$P(X>s+t\mid X>s)=P(X>t)$$

La distribuzione geometrica non ricorda quante prove senza successo sono già avvenute. Dopo una lunga attesa, il numero di prove ulteriori da aspettare ha la stessa distribuzione iniziale. Questa proprietà richiede indipendenza e probabilità costante di successo.

Binomiale negativa

$$P(X=k)=\binom{k-1}{r-1}p^r(1-p)^{k-r},\qquad k=r,r+1,\dots$$

In questa parametrizzazione, $X$ è il numero della prova in cui si osserva il successo numero $r$. Prima della prova $k$ devono esserci esattamente $r-1$ successi, e la prova $k$ deve essere un successo.

Ipergeometrica

$$P(X=k)= \frac{\binom{K}{k}\binom{N-K}{n-k}}{\binom{N}{n}}$$

La distribuzione ipergeometrica conta successi in un campione di ampiezza $n$ estratto senza reinserimento da una popolazione di $N$ elementi con $K$ successi. A differenza della binomiale, le prove non sono indipendenti: estrarre un elemento modifica la composizione residua.

Media e varianza dell’ipergeometrica

$$\mathbb{E}[X]=n\frac{K}{N}$$

La media è analoga alla binomiale con $p=K/N$. La varianza è:

$$\operatorname{Var}(X)= n\frac{K}{N}\left(1-\frac{K}{N}\right)\frac{N-n}{N-1}$$

Il fattore finale è la correzione per popolazione finita. Riduce la variabilità perché il campionamento senza reinserimento introduce dipendenza negativa.

Poisson

$$X\sim\operatorname{Poisson}(\lambda),\qquad P(X=k)=e^{-\lambda}\frac{\lambda^k}{k!}$$

La Poisson modella conteggi di eventi rari in un intervallo di tempo, spazio o volume, quando gli eventi avvengono con intensità media $\lambda$ e in modo indipendente su intervalli disgiunti.

Media e varianza della Poisson

$$\mathbb{E}[X]=\lambda,\qquad \operatorname{Var}(X)=\lambda$$

Nella Poisson media e varianza coincidono. Se nei dati osservati la varianza è molto più grande della media, il modello di Poisson semplice può essere inadeguato.

Approssimazione Poisson della binomiale

$$\operatorname{Bin}(n,p)\approx \operatorname{Poisson}(\lambda), \qquad \lambda=np$$

L’approssimazione è efficace quando $n$ è grande e $p$ è piccolo, con $\lambda=np$ moderato. Interpreta la binomiale come conteggio di eventi rari su molte prove.

Uniforme discreta

$$P(X=k)=\frac{1}{n},\qquad k=1,\dots,n$$

Tutti i valori hanno la stessa probabilità. La media e la varianza sono:

$$\mathbb{E}[X]=\frac{n+1}{2},\qquad \operatorname{Var}(X)=\frac{n^2-1}{12}$$

È il modello naturale per estrazioni simmetriche finite, come un dado ideale.

Multinomiale

$$P(N_1=n_1,\dots,N_r=n_r) = \frac{n!}{n_1!\dots n_r!}p_1^{n_1}\dots p_r^{n_r}$$

La multinomiale estende la binomiale a $r$ categorie. I conteggi devono soddisfare $n_1+\dots+n_r=n$ e le probabilità $p_1+\dots+p_r=1$. È il modello per classificazioni ripetute indipendenti.

8. Distribuzioni continue notevoli

Uniforme continua

$$X\sim U(a,b),\qquad f_X(x)=\frac{1}{b-a}\quad a\le x\le b$$

La distribuzione uniforme assegna uguale densità a tutti i punti dell’intervallo. Non significa che ogni singolo punto abbia probabilità positiva, ma che intervalli di uguale lunghezza hanno uguale probabilità.

Media e varianza dell’uniforme continua

$$\mathbb{E}[X]=\frac{a+b}{2},\qquad \operatorname{Var}(X)=\frac{(b-a)^2}{12}$$

La media è il punto medio dell’intervallo. La varianza cresce con il quadrato della lunghezza dell’intervallo.

Esponenziale

$$X\sim \operatorname{Exp}(\lambda),\qquad f_X(x)=\lambda e^{-\lambda x},\quad x\ge 0$$

La distribuzione esponenziale modella tempi di attesa senza memoria con tasso costante $\lambda$. È molto usata in affidabilità elementare e processi di Poisson.

Sopravvivenza esponenziale

$$P(X>t)=e^{-\lambda t}$$

La probabilità di sopravvivere oltre $t$ decresce esponenzialmente. La media e la varianza sono:

$$\mathbb{E}[X]=\frac{1}{\lambda},\qquad \operatorname{Var}(X)=\frac{1}{\lambda^2}$$

Un tasso maggiore implica tempi medi più brevi.

Proprietà senza memoria dell’esponenziale

$$P(X>s+t\mid X>s)=P(X>t)$$

L’esponenziale è l’analogo continuo della geometrica. Se un componente ha già funzionato per tempo $s$, il tempo residuo ha la stessa distribuzione iniziale. Questa ipotesi è forte e corrisponde a un tasso di guasto costante.

Gamma

$$X\sim \Gamma(\alpha,\lambda),\qquad f_X(x)=\frac{\lambda^\alpha}{\Gamma(\alpha)}x^{\alpha-1}e^{-\lambda x},\quad x>0$$

La gamma generalizza l’esponenziale. Può modellare il tempo necessario al verificarsi di più eventi in un processo di Poisson. Il parametro $\alpha$ è di forma, $\lambda$ è di tasso.

Media e varianza della gamma

$$\mathbb{E}[X]=\frac{\alpha}{\lambda},\qquad \operatorname{Var}(X)=\frac{\alpha}{\lambda^2}$$

Aumentare $\alpha$ sposta la distribuzione verso valori maggiori e modifica la forma. Aumentare $\lambda$ comprime la scala dei tempi.

Erlang

$$\alpha=k\in\mathbb{N}$$

La distribuzione Erlang è una gamma con forma intera. Modella il tempo di attesa fino al k-esimo evento di un processo di Poisson. È utile in code, telecomunicazioni e affidabilità.

Normale

$$X\sim \mathcal{N}(\mu,\sigma^2)$$

La densità è:

$$f_X(x)= \frac{1}{\sigma\sqrt{2\pi}} \exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)$$

La normale è il modello fondamentale per errori di misura, somme di effetti piccoli e distribuzioni limite. Il parametro $\mu$ è la media, $\sigma^2$ la varianza.

Standardizzazione normale

$$Z=\frac{X-\mu}{\sigma}\sim\mathcal{N}(0,1)$$

Standardizzare sottrae la media e divide per la deviazione standard. Così ogni probabilità normale può essere ricondotta alla normale standard:

$$P(X\le x)=\Phi\left(\frac{x-\mu}{\sigma}\right)$$

dove $\Phi$ è la funzione di ripartizione della normale standard.

Regola empirica della normale

$$P(\mu-\sigma\le X\le \mu+\sigma)\approx 0.68$$

Inoltre:

$$P(\mu-2\sigma\le X\le \mu+2\sigma)\approx 0.95$$

e:

$$P(\mu-3\sigma\le X\le \mu+3\sigma)\approx 0.997$$

Queste percentuali valgono per la normale, non per qualunque distribuzione. Sono utili per interpretare scostamenti standardizzati.

Lognormale

$$Y=e^X,\qquad X\sim\mathcal{N}(\mu,\sigma^2)$$

Allora $Y$ è lognormale. È positiva e spesso asimmetrica a destra. Modella grandezze ottenute come prodotto di molti fattori casuali positivi, per esempio alcune durate, concentrazioni, tempi e dimensioni.

Media e varianza della lognormale

$$\mathbb{E}[Y]=e^{\mu+\sigma^2/2}$$ $$\operatorname{Var}(Y)=\left(e^{\sigma^2}-1\right)e^{2\mu+\sigma^2}$$

La media della lognormale non è $e^\mu$, perché la trasformazione esponenziale è convessa. La variabilità su scala logaritmica aumenta la media sulla scala originale.

Weibull

$$F(t)=1-e^{-(t/\eta)^\beta},\qquad t\ge 0$$

La Weibull è molto usata in affidabilità. $\eta$ è un parametro di scala, mentre $\beta$ controlla la forma del tasso di guasto. Se $\beta=1$, si ottiene il caso esponenziale.

Rayleigh

$$f(x)=\frac{x}{\sigma^2}e^{-x^2/(2\sigma^2)},\qquad x\ge 0$$

La Rayleigh compare come modulo di un vettore bidimensionale con componenti normali indipendenti a media zero e stessa varianza. È usata in segnali, vibrazioni, errori radiali e telecomunicazioni.

Beta

$$f(x)=\frac{1}{B(\alpha,\beta)}x^{\alpha-1}(1-x)^{\beta-1}, \qquad 0<x<1$$

La beta modella variabili limitate tra zero e uno, come proporzioni e frazioni. I parametri $\alpha$ e $\beta$ controllano forma e concentrazione. È importante anche in inferenza bayesiana per probabilità di successo.

Chi-quadro

$$\chi^2_\nu=\sum_{i=1}^{\nu}Z_i^2,\qquad Z_i\sim\mathcal{N}(0,1) \text{ indipendenti}$$

La chi-quadro con $\nu$ gradi di libertà nasce come somma di quadrati di normali standard indipendenti. È centrale nella stima della varianza, nei test di bontà dell’adattamento e nei test su tabelle di contingenza.

t di Student

$$T=\frac{Z}{\sqrt{U/\nu}},\qquad Z\sim\mathcal{N}(0,1),\quad U\sim\chi^2_\nu$$

La t di Student compare quando si standardizza una media usando una varianza stimata dal campione. Ha code più pesanti della normale standard, soprattutto per pochi gradi di libertà.

F di Fisher

$$F=\frac{U_1/\nu_1}{U_2/\nu_2}, \qquad U_1\sim\chi^2_{\nu_1},\quad U_2\sim\chi^2_{\nu_2}$$

La distribuzione F è rapporto di due chi-quadro indipendenti normalizzate per i rispettivi gradi di libertà. È usata per confrontare varianze, in ANOVA e nei test globali di regressione.

9. Vettori aleatori e distribuzioni congiunte

Vettore aleatorio

$$X=(X_1,\dots,X_n)$$

Un vettore aleatorio raccoglie più variabili aleatorie nello stesso modello. Serve quando le grandezze osservate sono più di una: temperatura e pressione, carico e deformazione, tempo e costo, misure su più sensori.

Ripartizione congiunta

$$F_X(x_1,\dots,x_n)=P(X_1\le x_1,\dots,X_n\le x_n)$$

La ripartizione congiunta descrive simultaneamente tutte le componenti. Contiene informazione sulle distribuzioni marginali e sulla dipendenza tra variabili.

Massa congiunta discreta

$$p_{X,Y}(x,y)=P(X=x,Y=y)$$

La probabilità congiunta assegna probabilità a coppie di valori. Le marginali si ottengono sommando:

$$p_X(x)=\sum_y p_{X,Y}(x,y),\qquad p_Y(y)=\sum_x p_{X,Y}(x,y)$$

La somma elimina la variabile che non interessa.

Densità congiunta continua

$$P((X,Y)\in D)=\iint_D f_{X,Y}(x,y)\,dx\,dy$$

La densità congiunta va integrata su regioni del piano. Le marginali si ottengono integrando:

$$f_X(x)=\int_{-\infty}^{+\infty}f_{X,Y}(x,y)\,dy$$ $$f_Y(y)=\int_{-\infty}^{+\infty}f_{X,Y}(x,y)\,dx$$

Integrare su una variabile significa ignorarla, sommando tutti i suoi valori possibili.

Indipendenza di variabili aleatorie

$$F_{X,Y}(x,y)=F_X(x)F_Y(y)$$

Per variabili discrete, l’indipendenza equivale a:

$$p_{X,Y}(x,y)=p_X(x)p_Y(y)$$

Per variabili continue con densità:

$$f_{X,Y}(x,y)=f_X(x)f_Y(y)$$

L’indipendenza significa che conoscere una variabile non modifica la distribuzione dell’altra.

Densità condizionata

$$f_{X\mid Y}(x\mid y)=\frac{f_{X,Y}(x,y)}{f_Y(y)}$$

La formula vale quando $f_Y(y)>0$. La densità condizionata descrive la distribuzione di $X$ fissato il valore di $Y$. È una versione continua della probabilità condizionata.

Valore atteso condizionato discreto

$$\mathbb{E}[X\mid Y=y]=\sum_x x\,P(X=x\mid Y=y)$$

Il valore atteso condizionato è una media aggiornata dopo aver osservato $Y=y$. È una funzione del valore condizionante. In previsione statistica, $\mathbb{E}[X\mid Y]$ è spesso la migliore previsione quadratica di $X$ usando l’informazione contenuta in $Y$.

Formula dell’attesa totale

$$\mathbb{E}[X]=\mathbb{E}\left[\mathbb{E}[X\mid Y]\right]$$

La media complessiva si ottiene mediando le medie condizionate. È l’analogo per valori attesi della formula delle probabilità totali. Aiuta a decomporre problemi complessi in scenari.

Formula della varianza totale

$$\operatorname{Var}(X)= \mathbb{E}[\operatorname{Var}(X\mid Y)] + \operatorname{Var}(\mathbb{E}[X\mid Y])$$

La variabilità totale è somma di variabilità media interna agli scenari e variabilità tra le medie degli scenari. Questa decomposizione è utile in analisi della varianza, modelli gerarchici e simulazioni.

Covarianza

$$\operatorname{Cov}(X,Y)=\mathbb{E}[(X-\mu_X)(Y-\mu_Y)]$$

La covarianza misura la tendenza di due variabili a variare insieme. Se è positiva, valori sopra la media di una tendono ad associarsi a valori sopra la media dell’altra. Se è negativa, una tende ad aumentare quando l’altra diminuisce.

Formula computazionale della covarianza

$$\operatorname{Cov}(X,Y)=\mathbb{E}[XY]-\mathbb{E}[X]\mathbb{E}[Y]$$

Questa forma è spesso più comoda. Se $X$ e $Y$ sono indipendenti e hanno attese finite, allora $\mathbb{E}[XY]=\mathbb{E}[X]\mathbb{E}[Y]$, quindi la covarianza è zero. Il contrario non è sempre vero: covarianza nulla non implica indipendenza in generale.

Coefficiente di correlazione

$$\rho_{XY}= \frac{\operatorname{Cov}(X,Y)}{\sigma_X\sigma_Y}$$

La correlazione è la covarianza normalizzata. È compresa tra $-1$ e $1$. Misura dipendenza lineare, non dipendenza generica. Valori vicini a zero indicano assenza di relazione lineare, non necessariamente assenza di relazione.

Varianza della somma

$$\operatorname{Var}(X+Y)= \operatorname{Var}(X)+\operatorname{Var}(Y)+2\operatorname{Cov}(X,Y)$$

Il termine di covarianza corregge per la dipendenza. Se $X$ e $Y$ sono incorrelate, il termine misto scompare. Per molte variabili:

$$\operatorname{Var}\left(\sum_{i=1}^n X_i\right) = \sum_{i=1}^n\operatorname{Var}(X_i) +2\sum_{i<j}\operatorname{Cov}(X_i,X_j)$$

Ignorare covarianze può sottostimare o sovrastimare molto l’incertezza totale.

Matrice di covarianza

$$\Sigma=\mathbb{E}\left[(X-\mu)(X-\mu)^T\right]$$

La matrice di covarianza raccoglie varianze sulla diagonale e covarianze fuori diagonale. È simmetrica e positiva semidefinita. Descrive la dispersione multidimensionale di un vettore aleatorio.

Normale multivariata

$$X\sim\mathcal{N}_n(\mu,\Sigma)$$

La densità, quando $\Sigma$ è definita positiva, è:

$$f(x)= \frac{1}{(2\pi)^{n/2}|\Sigma|^{1/2}} \exp\left( -\frac12(x-\mu)^T\Sigma^{-1}(x-\mu) \right)$$

La matrice $\Sigma$ determina forma, orientazione e scala degli ellissoidi di densità. La normale multivariata è fondamentale in stima, regressione, controllo qualità multivariato e modelli gaussiani.

10. Somme, convergenza e teoremi limite

Somma di variabili indipendenti

$$S_n=X_1+\dots+X_n$$

Se le variabili sono indipendenti, molte proprietà della somma si semplificano. In particolare:

$$\mathbb{E}[S_n]=\sum_{i=1}^n\mathbb{E}[X_i]$$

e, se sono indipendenti:

$$\operatorname{Var}(S_n)=\sum_{i=1}^n\operatorname{Var}(X_i)$$

La seconda formula richiede assenza di covarianze.

Media campionaria teorica

$$\overline{X}_n=\frac{1}{n}\sum_{i=1}^n X_i$$

Se $X_i$ sono indipendenti e identicamente distribuite con media $\mu$ e varianza $\sigma^2$, allora:

$$\mathbb{E}[\overline{X}_n]=\mu,\qquad \operatorname{Var}(\overline{X}_n)=\frac{\sigma^2}{n}$$

La media campionaria ha la stessa media della popolazione ma varianza più piccola. Aumentare $n$ riduce l’incertezza media come $1/n$ in varianza, cioè come $1/\sqrt n$ in deviazione standard.

Errore standard della media

$$\operatorname{SE}(\overline{X}_n)=\frac{\sigma}{\sqrt n}$$

L’errore standard misura la dispersione della media campionaria come stimatore della media vera. Non è la deviazione standard dei dati, ma della media dei dati. Questa distinzione è essenziale nell’inferenza.

Legge debole dei grandi numeri

$$\overline{X}_n \xrightarrow{P} \mu$$

La media campionaria converge in probabilità alla media teorica. Significa che, aumentando la dimensione del campione, diventa sempre meno probabile osservare una media lontana da $\mu$. La legge giustifica l’uso delle frequenze e delle medie campionarie come stime.

Teorema centrale del limite

$$\frac{\overline{X}_n-\mu}{\sigma/\sqrt n} \xrightarrow{d} \mathcal{N}(0,1)$$

Se $X_i$ sono indipendenti e identicamente distribuite con media e varianza finite, la media standardizzata tende in distribuzione alla normale standard. Questo risultato spiega perché la normale compare in tanti problemi anche quando i dati originari non sono normali.

Approssimazione normale della media

$$\overline{X}_n\approx \mathcal{N}\left(\mu,\frac{\sigma^2}{n}\right)$$

Per campioni abbastanza grandi, la distribuzione della media può essere approssimata con una normale. La bontà dell’approssimazione dipende dalla distribuzione di partenza: code pesanti e forte asimmetria richiedono campioni più grandi.

Approssimazione normale della binomiale

$$X\sim\operatorname{Bin}(n,p) \quad \Rightarrow \quad X\approx\mathcal{N}(np,np(1-p))$$

L’approssimazione funziona quando $np$ e $n(1-p)$ sono sufficientemente grandi. Per probabilità discrete si usa spesso la correzione di continuità:

$$P(X\le k)\approx \Phi\left(\frac{k+0.5-np}{\sqrt{np(1-p)}}\right)$$

Il termine $0.5$ corregge il passaggio da conteggi discreti a intervalli continui.

Convergenza in probabilità

$$X_n\xrightarrow{P}X \quad \Longleftrightarrow \quad P(|X_n-X|>\varepsilon)\to 0$$

Per ogni tolleranza positiva $\varepsilon$, la probabilità di errore maggiore di $\varepsilon$ tende a zero. È la convergenza usata per definire consistenza degli stimatori.

Convergenza in distribuzione

$$X_n\xrightarrow{d}X$$

Significa che le funzioni di ripartizione convergono nei punti di continuità della distribuzione limite. È più debole della convergenza in probabilità ed è il linguaggio naturale del teorema centrale del limite.

Delta method

$$\sqrt n(\hat\theta_n-\theta)\xrightarrow{d}\mathcal{N}(0,\sigma^2)$$

Se $g$ è derivabile in $\theta$, allora:

$$\sqrt n\bigl(g(\hat\theta_n)-g(\theta)\bigr) \xrightarrow{d} \mathcal{N}\left(0,\bigl(g'(\theta)\bigr)^2\sigma^2\right)$$

Il delta method propaga l’incertezza attraverso trasformazioni non lineari approssimate localmente con una derivata. È molto utile per stimare errori standard di funzioni di parametri.

11. Statistica descrittiva

Campione osservato

$$x_1,x_2,\dots,x_n$$

Un campione osservato è una sequenza di dati numerici. Prima dell’osservazione si può modellare come variabili aleatorie $X_1,\dots,X_n$; dopo l’osservazione diventa una lista di valori fissati. La distinzione tra variabile aleatoria e valore osservato è fondamentale.

Media campionaria

$$\bar x=\frac{1}{n}\sum_{i=1}^n x_i$$

La media campionaria sintetizza il centro dei dati. È sensibile ai valori estremi: pochi dati molto grandi o molto piccoli possono spostarla sensibilmente.

Varianza campionaria corretta

$$s^2=\frac{1}{n-1}\sum_{i=1}^n (x_i-\bar x)^2$$

Il denominatore $n-1$ corregge il bias nella stima della varianza della popolazione quando la media è stimata dallo stesso campione. La quantità $n-1$ è il numero di gradi di libertà residui dopo aver stimato $\bar x$.

Deviazione standard campionaria

$$s=\sqrt{s^2}$$

Riporta la dispersione alla stessa unità di misura dei dati. È più leggibile della varianza, ma eredita la sensibilità ai valori estremi.

Formula computazionale per la varianza campionaria

$$s^2=\frac{1}{n-1} \left(\sum_{i=1}^n x_i^2-n\bar x^2\right)$$

La formula è algebricamente equivalente alla somma degli scarti quadratici. In calcolo numerico, però, per dati molto grandi e varianze piccole può soffrire cancellazione numerica; algoritmi stabili aggiornano media e varianza progressivamente.

Mediana campionaria

$$\tilde x=x_{((n+1)/2)}$$

La formula vale in modo diretto per $n$ dispari dopo aver ordinato i dati. Per $n$ pari, si usa spesso la media dei due valori centrali:

$$\tilde x=\frac{x_{(n/2)}+x_{(n/2+1)}}{2}$$

La mediana è robusta rispetto agli estremi: dipende dalla posizione ordinata, non dalla grandezza dei valori lontani.

Quantili campionari

$$\hat q_p \approx x_{(\lceil np\rceil)}$$

Il quantile campionario di ordine $p$ è un valore sotto cui cade circa la frazione $p$ dei dati. Esistono diverse convenzioni di interpolazione; bisogna dichiarare quella usata quando i risultati devono essere riproducibili.

Range

$$R=x_{(n)}-x_{(1)}$$

Il range è differenza tra massimo e minimo. È semplice ma molto sensibile agli outlier. In controllo qualità può dare un’indicazione rapida della dispersione in piccoli sottogruppi.

Intervallo interquartile

$$\operatorname{IQR}=Q_3-Q_1$$

Misura l’ampiezza del 50 percento centrale dei dati. È più robusto del range e della deviazione standard in presenza di code o valori estremi.

Frequenza relativa

$$f_j=\frac{n_j}{n}$$

$n_j$ è il numero di osservazioni nella categoria o classe $j$. La frequenza relativa è una stima empirica della probabilità della categoria. Le frequenze relative sommano a uno.

Funzione di ripartizione empirica

$$F_n(x)=\frac{1}{n}\sum_{i=1}^n \mathbf{1}_{\{x_i\le x\}}$$

La ripartizione empirica conta la frazione di osservazioni non superiori a $x$. È una stima non parametrica della funzione di ripartizione teorica. Cresce a gradini e salta in corrispondenza dei dati osservati.

Covarianza campionaria

$$s_{xy}=\frac{1}{n-1}\sum_{i=1}^n (x_i-\bar x)(y_i-\bar y)$$

Misura la variazione congiunta di due serie di dati osservati a coppie. Il segno indica l’orientamento della relazione lineare. La scala dipende dalle unità di misura delle due variabili.

Correlazione campionaria

$$r=\frac{s_{xy}}{s_xs_y}$$

La correlazione normalizza la covarianza e produce un numero tra $-1$ e $1$. Non misura causalità e non cattura necessariamente relazioni non lineari. Va sempre accompagnata da un grafico di dispersione quando possibile.

Asimmetria campionaria

$$g_1=\frac{\frac1n\sum_{i=1}^n (x_i-\bar x)^3}{\left(\frac1n\sum_{i=1}^n (x_i-\bar x)^2\right)^{3/2}}$$

L’asimmetria misura se la distribuzione empirica ha una coda più pronunciata a destra o a sinistra. Valori positivi indicano coda destra più lunga; valori negativi indicano coda sinistra più lunga.

Curtosi campionaria

$$g_2=\frac{\frac1n\sum_{i=1}^n (x_i-\bar x)^4}{\left(\frac1n\sum_{i=1}^n (x_i-\bar x)^2\right)^2}-3$$

La curtosi in eccesso confronta la pesantezza delle code con quella della normale, per cui il valore teorico è zero. Valori alti suggeriscono code pesanti o outlier frequenti.

12. Campionamento e distribuzioni campionarie

Campione casuale semplice

$$X_1,\dots,X_n \text{ indipendenti e identicamente distribuite}$$

Questa ipotesi, spesso abbreviata come i.i.d., significa che le osservazioni hanno la stessa distribuzione e non si influenzano tra loro. Molte formule inferenziali classiche dipendono da questa ipotesi.

Media campionaria come stimatore

$$\overline{X}=\frac{1}{n}\sum_{i=1}^n X_i$$

Prima di osservare i dati, la media campionaria è una variabile aleatoria. Dopo l’osservazione assume il valore numerico $\bar x$. Come stimatore di $\mu$, ha:

$$\mathbb{E}[\overline{X}]=\mu$$

quindi è non distorta.

Varianza campionaria come stimatore

$$S^2=\frac{1}{n-1}\sum_{i=1}^n (X_i-\overline{X})^2$$

Se le osservazioni sono i.i.d. con varianza $\sigma^2$, allora:

$$\mathbb{E}[S^2]=\sigma^2$$

Il denominatore $n-1$ rende lo stimatore non distorto.

Distribuzione della media per popolazione normale

$$X_i\sim\mathcal{N}(\mu,\sigma^2) \quad \Rightarrow \quad \overline{X}\sim\mathcal{N}\left(\mu,\frac{\sigma^2}{n}\right)$$

Se i dati sono normali, la media campionaria è esattamente normale per ogni $n$, non solo asintoticamente. Questo rende esatti molti intervalli e test classici.

Distribuzione della varianza campionaria normale

$$\frac{(n-1)S^2}{\sigma^2}\sim\chi^2_{n-1}$$

La formula vale per campione da popolazione normale. È la base degli intervalli di confidenza per la varianza e dei test sulla varianza.

Statistica t per media con varianza ignota

$$T=\frac{\overline{X}-\mu}{S/\sqrt n}\sim t_{n-1}$$

La sostituzione di $\sigma$ con $S$ introduce incertezza aggiuntiva, rappresentata dalla distribuzione t. Quando $n$ cresce, la t si avvicina alla normale standard.

Proporzione campionaria

$$\hat p=\frac{X}{n}$$

Se $X\sim\operatorname{Bin}(n,p)$, $\hat p$ è la frequenza relativa di successi. Ha:

$$\mathbb{E}[\hat p]=p,\qquad \operatorname{Var}(\hat p)=\frac{p(1-p)}{n}$$

È lo stimatore naturale di una probabilità di successo.

Approssimazione normale della proporzione

$$\frac{\hat p-p}{\sqrt{p(1-p)/n}}\approx \mathcal{N}(0,1)$$

L’approssimazione è ragionevole quando il numero atteso di successi e insuccessi è abbastanza grande. Se $p$ è vicino a zero o uno, possono servire metodi esatti o intervalli corretti.

13. Stima puntuale

Parametro e stimatore

$$\theta \quad \text{parametro ignoto},\qquad \hat\theta=T(X_1,\dots,X_n)$$

Il parametro è una quantità del modello, fissa ma ignota. Lo stimatore è una funzione del campione, quindi una variabile aleatoria prima dell’osservazione. La stima è il valore numerico ottenuto sui dati osservati.

Bias

$$\operatorname{Bias}(\hat\theta)=\mathbb{E}[\hat\theta]-\theta$$

Il bias misura lo scostamento medio dello stimatore dal parametro vero. Uno stimatore è non distorto se il bias è zero. Non distorsione non significa automaticamente precisione: serve anche bassa varianza.

Errore quadratico medio

$$\operatorname{MSE}(\hat\theta)=\mathbb{E}\left[(\hat\theta-\theta)^2\right]$$

L’MSE combina bias e varianza:

$$\operatorname{MSE}(\hat\theta)=\operatorname{Var}(\hat\theta)+\operatorname{Bias}(\hat\theta)^2$$

Uno stimatore leggermente distorto può avere MSE minore di uno non distorto se riduce molto la varianza.

Consistenza

$$\hat\theta_n\xrightarrow{P}\theta$$

Uno stimatore è consistente se converge in probabilità al parametro vero al crescere del campione. La consistenza è una proprietà asintotica: non garantisce che per piccoli campioni la stima sia accurata.

Efficienza relativa

$$\operatorname{Eff}(\hat\theta_1,\hat\theta_2)= \frac{\operatorname{Var}(\hat\theta_2)}{\operatorname{Var}(\hat\theta_1)}$$

A parità di non distorsione, lo stimatore con varianza minore è più efficiente. La definizione può variare nelle convenzioni, quindi va sempre chiarito quale rapporto si usa.

Metodo dei momenti

$$m_k(\theta)=\mathbb{E}_\theta[X^k]$$

Il metodo dei momenti uguaglia momenti teorici e momenti campionari:

$$m_k(\theta)=\frac1n\sum_{i=1}^n X_i^k$$

Si ottiene un sistema di equazioni per stimare i parametri. È spesso semplice, ma non sempre ottimale in efficienza.

Verosimiglianza

$$L(\theta)=\prod_{i=1}^n f_\theta(x_i)$$

Per dati indipendenti, la verosimiglianza è il prodotto delle densità o masse valutate nei dati osservati. Come funzione di $\theta$, misura quanto il modello con quel parametro rende plausibili i dati osservati.

Log-verosimiglianza

$$\ell(\theta)=\log L(\theta)=\sum_{i=1}^n \log f_\theta(x_i)$$

Il log trasforma il prodotto in somma. Massimizzare $\ell$ equivale a massimizzare $L$, perché il logaritmo è crescente. La log-verosimiglianza è più stabile numericamente e più facile da derivare.

Massima verosimiglianza

$$\hat\theta_{\operatorname{MLE}}=\arg\max_{\theta} L(\theta)$$

Lo stimatore di massima verosimiglianza sceglie il parametro che massimizza la plausibilità dei dati osservati. Spesso si trova risolvendo:

$$\frac{d}{d\theta}\ell(\theta)=0$$

e verificando massimo, vincoli e bordo dello spazio parametrico.

Informazione di Fisher

$$I(\theta)=\mathbb{E}_\theta\left[ \left(\frac{\partial}{\partial\theta}\log f_\theta(X)\right)^2 \right]$$

L’informazione di Fisher misura quanta informazione sul parametro è contenuta in un’osservazione. Maggiore informazione implica, in linea di principio, stime più precise.

Limite di Cramér-Rao

$$\operatorname{Var}(\hat\theta)\ge \frac{1}{nI(\theta)}$$

Per stimatori non distorti sotto ipotesi regolari, la varianza non può scendere sotto questo limite. È un riferimento teorico per valutare l’efficienza di uno stimatore.

Sufficienza intuitiva

$$T(X_1,\dots,X_n)$$

Una statistica è sufficiente per $\theta$ se conserva tutta l’informazione del campione riguardo a $\theta$. In pratica, dopo aver conosciuto $T$, il resto dei dati non aggiunge informazione sul parametro. È una nozione centrale per compressione statistica del campione.

14. Intervalli di confidenza

Forma generale

$$\hat\theta \pm q_{\alpha/2}\operatorname{SE}(\hat\theta)$$

Un intervallo di confidenza combina stima puntuale, quantile della distribuzione di riferimento ed errore standard. Il livello $1-\alpha$ non significa che il parametro casualmente cada nell’intervallo dopo aver osservato i dati; nel quadro frequentista, il metodo produce intervalli che coprono il parametro nel lungo periodo con frequenza $1-\alpha$.

Intervallo per media normale con varianza nota

$$\overline{X}\pm z_{1-\alpha/2}\frac{\sigma}{\sqrt n}$$

La formula vale se la popolazione è normale o se $n$ è grande e $\sigma$ è nota. Il quantile $z_{1-\alpha/2}$ appartiene alla normale standard. Per il 95 percento, è circa $1.96$.

Intervallo per media con varianza ignota

$$\overline{X}\pm t_{1-\alpha/2,n-1}\frac{S}{\sqrt n}$$

Quando $\sigma$ è ignota, si usa la deviazione standard campionaria $S$ e il quantile t con $n-1$ gradi di libertà. È esatto per popolazione normale e spesso approssimato per campioni grandi.

Intervallo per proporzione

$$\hat p\pm z_{1-\alpha/2} \sqrt{\frac{\hat p(1-\hat p)}{n}}$$

È l’intervallo normale approssimato per una proporzione. Può essere impreciso per campioni piccoli o proporzioni vicine a zero o uno. In quei casi sono preferibili intervalli più robusti, come Wilson o metodi esatti.

Intervallo di Wilson per proporzione

$$\frac{ \hat p+\frac{z^2}{2n} \pm z\sqrt{\frac{\hat p(1-\hat p)}{n}+\frac{z^2}{4n^2}} } {1+\frac{z^2}{n}}$$

L’intervallo di Wilson corregge alcune debolezze dell’intervallo normale semplice, soprattutto con campioni piccoli o proporzioni estreme. È spesso più affidabile senza diventare troppo complesso.

Intervallo per varianza normale

$$\left( \frac{(n-1)S^2}{\chi^2_{1-\alpha/2,n-1}}, \frac{(n-1)S^2}{\chi^2_{\alpha/2,n-1}} \right)$$

La formula deriva dalla distribuzione chi-quadro della varianza campionaria per dati normali. I quantili appaiono invertiti perché la quantità ignota $\sigma^2$ è al denominatore della statistica pivot.

Intervallo per differenza tra medie indipendenti con varianze note

$$(\overline{X}-\overline{Y}) \pm z_{1-\alpha/2} \sqrt{\frac{\sigma_X^2}{n_X}+\frac{\sigma_Y^2}{n_Y}}$$

La varianza della differenza è somma delle varianze delle due medie se i campioni sono indipendenti. La formula è utile per confrontare due processi, due materiali o due condizioni operative.

Intervallo per differenza tra proporzioni

$$(\hat p_1-\hat p_2) \pm z_{1-\alpha/2} \sqrt{ \frac{\hat p_1(1-\hat p_1)}{n_1} + \frac{\hat p_2(1-\hat p_2)}{n_2} }$$

Serve per confrontare due tassi di successo, difetto o guasto. Richiede campioni indipendenti e approssimazione normale ragionevole.

Ampiezza e dimensione campionaria per media

$$n\ge \left(\frac{z_{1-\alpha/2}\sigma}{E}\right)^2$$

$E$ è il margine di errore desiderato. La formula dice che dimezzare l’errore richiede circa quadruplicare il campione. Se $\sigma$ non è nota, si usa una stima preliminare.

Ampiezza e dimensione campionaria per proporzione

$$n\ge \frac{z_{1-\alpha/2}^2 p(1-p)}{E^2}$$

Se $p$ non è noto, la scelta conservativa è $p=0.5$, che massimizza $p(1-p)$. Anche qui la dimensione cresce con il quadrato dell’inverso del margine di errore.

15. Test di ipotesi

Ipotesi nulla e alternativa

$$H_0:\theta=\theta_0,\qquad H_1:\theta\ne\theta_0$$

L’ipotesi nulla rappresenta il modello di riferimento da mettere alla prova. L’alternativa rappresenta ciò che si vuole rilevare. Un test non dimostra che $H_0$ sia vera: decide se i dati sono sufficientemente incompatibili con $H_0$ rispetto a una soglia di rischio.

Livello di significatività

$$\alpha=P(\text{rifiutare } H_0\mid H_0 \text{ vera})$$

$\alpha$ è la probabilità massima tollerata di errore di primo tipo. Scegliere $\alpha=0.05$ significa accettare un rischio del 5 percento di rifiutare una nulla vera, nel lungo periodo.

Errore di secondo tipo e potenza

$$\beta=P(\text{non rifiutare } H_0\mid H_1 \text{ vera})$$

La potenza è:

$$1-\beta$$

La potenza misura la capacità del test di rilevare un effetto reale. A parità di tutto il resto, aumenta con la dimensione campionaria e con l’entità dell’effetto.

Statistica test

$$T=T(X_1,\dots,X_n)$$

La statistica test riassume i dati in una quantità confrontabile con una distribuzione nota sotto $H_0$. La regione critica contiene i valori di $T$ considerati troppo estremi per essere compatibili con $H_0$.

p-value

$$p\text{-value}=P_{H_0}(\text{osservare un risultato almeno così estremo})$$

Il p-value è calcolato assumendo vera l’ipotesi nulla. Non è la probabilità che $H_0$ sia vera. Un p-value piccolo indica che i dati sarebbero rari sotto $H_0$.

Regola decisionale

$$p\text{-value}\le \alpha \quad \Longrightarrow \quad \text{rifiuta } H_0$$

Se il p-value è sotto la soglia scelta, il risultato è statisticamente significativo al livello $\alpha$. La significatività statistica non coincide necessariamente con importanza pratica o ingegneristica.

Test z per media con varianza nota

$$Z=\frac{\overline{X}-\mu_0}{\sigma/\sqrt n}$$

Sotto $H_0:\mu=\mu_0$, se le ipotesi sono soddisfatte, $Z$ segue una normale standard. Si usa quando la varianza è nota o quando l’approssimazione normale è giustificata e $\sigma$ può essere considerata nota.

Test t per media con varianza ignota

$$T=\frac{\overline{X}-\mu_0}{S/\sqrt n}$$

Sotto normalità della popolazione, $T$ segue una t con $n-1$ gradi di libertà. È il test più comune per la media di un singolo campione quando la varianza è stimata.

Test su proporzione

$$Z= \frac{\hat p-p_0}{\sqrt{p_0(1-p_0)/n}}$$

Nel denominatore si usa $p_0$ perché la distribuzione della statistica è calcolata sotto l’ipotesi nulla. L’approssimazione normale richiede conteggi attesi sufficientemente grandi.

Test chi-quadro per varianza

$$\chi^2= \frac{(n-1)S^2}{\sigma_0^2}$$

Sotto $H_0:\sigma^2=\sigma_0^2$ e normalità, la statistica segue una chi-quadro con $n-1$ gradi di libertà. È sensibile alla violazione dell’ipotesi di normalità.

Test F per confronto tra varianze

$$F=\frac{S_1^2}{S_2^2}$$

Se i due campioni sono indipendenti e normali, sotto uguaglianza delle varianze la statistica segue una F con gradi di libertà $n_1-1$ e $n_2-1$. Spesso si mette al numeratore la varianza campionaria maggiore per lavorare nella coda destra.

Test t per due medie con varianze uguali

$$T= \frac{\overline{X}-\overline{Y}} {S_p\sqrt{\frac1{n_X}+\frac1{n_Y}}}$$

dove la varianza pooled è:

$$S_p^2= \frac{(n_X-1)S_X^2+(n_Y-1)S_Y^2}{n_X+n_Y-2}$$

La formula assume varianze uguali nelle due popolazioni. Se l’ipotesi è dubbia, è spesso preferibile il test di Welch.

Test di Welch

$$T= \frac{\overline{X}-\overline{Y}} {\sqrt{S_X^2/n_X+S_Y^2/n_Y}}$$

Il test di Welch non assume varianze uguali. I gradi di libertà sono approssimati con la formula di Welch-Satterthwaite. È una scelta robusta per confronti tra due medie con varianze campionarie diverse.

Test per dati appaiati

$$D_i=X_i-Y_i,\qquad T=\frac{\overline{D}}{S_D/\sqrt n}$$

Quando le osservazioni sono accoppiate, il confronto va fatto sulle differenze entro coppia. Questo elimina parte della variabilità tra unità e aumenta la potenza se l’appaiamento è informativo.

Test chi-quadro di bontà dell’adattamento

$$\chi^2=\sum_{j=1}^k \frac{(O_j-E_j)^2}{E_j}$$

$O_j$ sono frequenze osservate, $E_j$ frequenze attese sotto il modello. La statistica misura discrepanza relativa tra dati e attese. Le frequenze attese dovrebbero essere sufficientemente grandi per giustificare l’approssimazione chi-quadro.

Test chi-quadro di indipendenza

$$E_{ij}=\frac{R_iC_j}{n}$$

In una tabella di contingenza, $R_i$ è il totale della riga $i$, $C_j$ il totale della colonna $j$. Sotto indipendenza, l’atteso nella cella è prodotto dei marginali diviso per il totale. La statistica è:

$$\chi^2=\sum_{i,j}\frac{(O_{ij}-E_{ij})^2}{E_{ij}}$$

Misura quanto la tabella osservata si discosta da quella attesa sotto indipendenza.

16. Regressione lineare

Modello di regressione lineare semplice

$$Y=\beta_0+\beta_1X+\varepsilon$$

$Y$ è la risposta, $X$ il predittore, $\beta_0$ l’intercetta, $\beta_1$ la pendenza ed $\varepsilon$ l’errore. Il modello assume che la media condizionata di $Y$ sia una funzione lineare di $X$.

Stime dei minimi quadrati

$$\hat\beta_1=\frac{\sum_{i=1}^n (x_i-\bar x)(y_i-\bar y)} {\sum_{i=1}^n (x_i-\bar x)^2}$$ $$\hat\beta_0=\bar y-\hat\beta_1\bar x$$

La pendenza stimata è covarianza campionaria divisa per varianza campionaria di $x$, a fattori comuni cancellati. L’intercetta è scelta in modo che la retta passi per il punto medio $(\bar x,\bar y)$.

Valori stimati e residui

$$\hat y_i=\hat\beta_0+\hat\beta_1x_i,\qquad e_i=y_i-\hat y_i$$

Il valore stimato è la previsione del modello sul punto osservato. Il residuo è l’errore osservato. Analizzare i residui serve a controllare linearità, varianza costante, outlier e struttura non modellata.

Somma dei quadrati residui

$$\operatorname{SSE}=\sum_{i=1}^n e_i^2$$

I minimi quadrati scelgono i coefficienti che minimizzano SSE. Penalizzare i quadrati rende il problema derivabile e dà più peso agli errori grandi.

Decomposizione della variabilità

$$\operatorname{SST}=\operatorname{SSR}+\operatorname{SSE}$$

dove:

$$\operatorname{SST}=\sum_{i=1}^n (y_i-\bar y)^2$$ $$\operatorname{SSR}=\sum_{i=1}^n (\hat y_i-\bar y)^2$$

SST è variabilità totale della risposta, SSR è variabilità spiegata dal modello, SSE è variabilità residua. La decomposizione vale con intercetta nel modello.

Coefficiente di determinazione

$$R^2=\frac{\operatorname{SSR}}{\operatorname{SST}}=1-\frac{\operatorname{SSE}}{\operatorname{SST}}$$

$R^2$ misura la frazione di variabilità campionaria di $Y$ spiegata dal modello lineare. Non garantisce causalità, correttezza del modello o buona capacità predittiva fuori dal dominio osservato.

Modello lineare multiplo

$$y=X\beta+\varepsilon$$

$X$ è la matrice del disegno, $\beta$ il vettore dei coefficienti, $\varepsilon$ il vettore degli errori. Ogni riga di $X$ rappresenta un’osservazione, ogni colonna un predittore o un termine del modello.

Stima dei minimi quadrati multipla

$$\hat\beta=(X^TX)^{-1}X^Ty$$

La formula richiede che $X^TX$ sia invertibile, cioè che le colonne di $X$ siano linearmente indipendenti. Se c’è multicollinearità perfetta, i coefficienti non sono identificabili in modo unico.

Equazioni normali

$$X^T(y-X\hat\beta)=0$$

I residui sono ortogonali a tutte le colonne della matrice del disegno. Questa è la condizione geometrica dei minimi quadrati: la previsione è la proiezione ortogonale di $y$ sullo spazio generato dai predittori.

Stima della varianza degli errori

$$\hat\sigma^2=\frac{\operatorname{SSE}}{n-p}$$

$p$ è il numero di parametri stimati, inclusa l’intercetta se presente. Il denominatore $n-p$ è il numero di gradi di libertà residui.

Varianza dei coefficienti stimati

$$\operatorname{Var}(\hat\beta)=\sigma^2(X^TX)^{-1}$$

Sotto le ipotesi classiche, questa matrice descrive l’incertezza dei coefficienti. In pratica $\sigma^2$ viene sostituita da $\hat\sigma^2$. Diagonali grandi indicano coefficienti stimati con scarsa precisione.

Test t su un coefficiente

$$T_j=\frac{\hat\beta_j-\beta_{j,0}}{\operatorname{SE}(\hat\beta_j)}$$

Serve a verificare se un coefficiente differisce da un valore ipotizzato, spesso zero. Il test dipende dal modello completo: un coefficiente misura l’effetto del predittore mantenendo fissi gli altri predittori inclusi.

Test F globale di regressione

$$F=\frac{\operatorname{SSR}/(p-1)}{\operatorname{SSE}/(n-p)}$$

Nel modello con intercetta, il test globale verifica se almeno un predittore ha coefficiente non nullo. Confronta variabilità spiegata per grado di libertà e variabilità residua per grado di libertà.

Predizione

$$\hat y_0=x_0^T\hat\beta$$

La previsione in un nuovo punto $x_0$ si ottiene applicando i coefficienti stimati. L’incertezza della previsione cresce quando $x_0$ è lontano dalla regione dei dati osservati. Interpolare è molto più affidabile che estrapolare.

17. ANOVA e confronto tra gruppi

Modello ANOVA a un fattore

$$Y_{ij}=\mu+\tau_i+\varepsilon_{ij}$$

$i$ indica il gruppo, $j$ l’osservazione nel gruppo. $\mu$ è la media generale, $\tau_i$ l’effetto del gruppo. L’obiettivo è capire se le medie dei gruppi possono essere considerate uguali o se almeno una differisce.

Ipotesi ANOVA

$$H_0:\mu_1=\mu_2=\dots=\mu_k$$

L’alternativa è che almeno una media sia diversa. Il test non dice automaticamente quali gruppi differiscono: per quello servono confronti post-hoc o contrasti pianificati.

Somma dei quadrati tra gruppi

$$\operatorname{SSB}=\sum_{i=1}^k n_i(\bar y_i-\bar y)^2$$

Misura quanto le medie dei gruppi si discostano dalla media generale, pesando per le numerosità. Se le medie di gruppo sono molto diverse, SSB è grande.

Somma dei quadrati entro gruppi

$$\operatorname{SSW}=\sum_{i=1}^k\sum_{j=1}^{n_i}(y_{ij}-\bar y_i)^2$$

Misura la variabilità interna ai gruppi. È la variabilità non spiegata dall’appartenenza al gruppo.

Statistica F dell’ANOVA

$$F=\frac{\operatorname{SSB}/(k-1)}{\operatorname{SSW}/(n-k)}$$

Il numeratore è la variabilità media tra gruppi; il denominatore è la variabilità media entro gruppi. Se $H_0$ è vera, queste due quantità dovrebbero essere comparabili. Valori grandi di $F$ indicano differenze tra medie più grandi di quanto atteso dalla variabilità interna.

Decomposizione ANOVA

$$\operatorname{SST}=\operatorname{SSB}+\operatorname{SSW}$$

La variabilità totale si separa in variabilità spiegata dal fattore e variabilità residua. Questa identità è analoga alla decomposizione della regressione lineare.

Dimensione dell’effetto eta quadrato

$$\eta^2=\frac{\operatorname{SSB}}{\operatorname{SST}}$$

$\eta^2$ misura la quota di variabilità totale attribuibile al fattore. È una misura di importanza pratica, non solo di significatività statistica.

18. Affidabilità, rischio e tempi di guasto

Tempo al guasto

$$T\ge 0$$

$T$ rappresenta la durata fino al guasto di un componente o sistema. È una variabile aleatoria non negativa. La sua distribuzione descrive il comportamento affidabilistico.

Funzione di affidabilità

$$R(t)=P(T>t)=1-F_T(t)$$

$R(t)$ è la probabilità che il sistema funzioni oltre il tempo $t$. Decresce con $t$ e vale $R(0)=1$ se il sistema è inizialmente funzionante con certezza.

Densità di guasto

$$f_T(t)=-R'(t)$$

Se la distribuzione è continua, la densità di guasto è la derivata negativa della sopravvivenza. La densità descrive dove si concentra probabilisticamente il tempo di guasto.

Tasso di guasto

$$h(t)=\frac{f_T(t)}{R(t)}$$

Il tasso di guasto è una probabilità istantanea condizionata alla sopravvivenza fino a $t$. Non è una probabilità pura, perché ha dimensione inversa del tempo. Interpreta il rischio residuo di guasto.

Affidabilità da tasso di guasto

$$R(t)=\exp\left(-\int_0^t h(u)\,du\right)$$

Questa formula ricostruisce la sopravvivenza dal tasso di guasto. Se il tasso è costante $h(u)=\lambda$, si ottiene:

$$R(t)=e^{-\lambda t}$$

cioè il modello esponenziale.

MTTF

$$\operatorname{MTTF}=\mathbb{E}[T]=\int_0^\infty R(t)\,dt$$

Per variabili non negative, il valore atteso può essere calcolato integrando la funzione di sopravvivenza. MTTF significa mean time to failure ed è una misura media di durata fino al guasto.

Sistema in serie

$$R_{\text{serie}}(t)=\prod_{i=1}^n R_i(t)$$

La formula vale per componenti indipendenti quando il sistema funziona solo se tutti i componenti funzionano. Il sistema in serie è più fragile dei singoli componenti: basta un guasto per fermarlo.

Sistema in parallelo

$$R_{\text{parallelo}}(t)=1-\prod_{i=1}^n\bigl(1-R_i(t)\bigr)$$

Il sistema funziona se almeno un componente funziona. Si calcola il complementare: tutti i componenti sono guasti. La formula richiede indipendenza dei tempi di guasto.

Disponibilità stazionaria

$$A=\frac{\operatorname{MTTF}}{\operatorname{MTTF}+\operatorname{MTTR}}$$

La disponibilità considera sia guasti sia riparazioni. MTTR è il tempo medio di riparazione. Un sistema può avere guasti relativamente frequenti ma alta disponibilità se viene riparato molto rapidamente.

19. Processi stocastici essenziali

Processo stocastico

$$\{X_t:t\in T\}$$

Un processo stocastico è una famiglia di variabili aleatorie indicizzate dal tempo o da un altro parametro. Se $T$ è discreto, si scrive spesso $X_0,X_1,\dots$; se è continuo, $X(t)$.

Processo di Bernoulli

$$X_n\sim\operatorname{Bernoulli}(p)$$

Una successione di prove Bernoulli indipendenti con stessa probabilità $p$ genera conteggi binomiali. È il modello base per successi e insuccessi ripetuti.

Processo di Poisson

$$N(t)\sim\operatorname{Poisson}(\lambda t)$$

$N(t)$ conta il numero di eventi avvenuti entro il tempo $t$. Il parametro $\lambda$ è l’intensità media per unità di tempo. Il processo ha incrementi indipendenti e stazionari.

Tempi interarrivo nel processo di Poisson

$$T_i\sim\operatorname{Exp}(\lambda)$$

Nel processo di Poisson, i tempi tra eventi consecutivi sono esponenziali indipendenti con lo stesso tasso $\lambda$. Questo collega conteggi Poisson e tempi di attesa esponenziali.

Catena di Markov discreta

$$P(X_{n+1}=j\mid X_n=i,X_{n-1},\dots,X_0) =P(X_{n+1}=j\mid X_n=i)$$

La proprietà di Markov dice che, dato lo stato presente, il futuro non dipende dal passato. È un modello di memoria corta, adatto a sistemi che evolvono per stati.

Matrice di transizione

$$P=(p_{ij}),\qquad p_{ij}=P(X_{n+1}=j\mid X_n=i)$$

Ogni riga della matrice di transizione contiene probabilità e quindi somma a uno:

$$\sum_j p_{ij}=1$$

La matrice descrive le probabilità di passaggio da uno stato all’altro in un passo.

Distribuzione dopo n passi

$$\pi_n=\pi_0P^n$$

Se $\pi_0$ è la distribuzione iniziale sugli stati, moltiplicare per $P^n$ dà la distribuzione dopo $n$ passi. Le potenze della matrice di transizione descrivono l’evoluzione probabilistica.

Distribuzione stazionaria

$$\pi=\pi P,\qquad \sum_i \pi_i=1$$

Una distribuzione stazionaria resta invariata dopo una transizione. Se la catena parte da $\pi$, mantiene la stessa distribuzione a ogni passo. In molte catene regolari, $\pi_n$ converge a $\pi$ indipendentemente dallo stato iniziale.

Processo stazionario in senso debole

$$\mathbb{E}[X_t]=\mu,\qquad \operatorname{Cov}(X_t,X_{t+h})=\gamma(h)$$

La media è costante nel tempo e la covarianza dipende solo dal ritardo $h$, non dall’istante assoluto $t$. Questa è una nozione importante per serie temporali, segnali e rumore.

Autocorrelazione

$$\rho(h)=\frac{\gamma(h)}{\gamma(0)}$$

L’autocorrelazione misura la dipendenza lineare tra il processo e sé stesso dopo un ritardo $h$. Valori elevati indicano memoria temporale; valori vicini a zero indicano scarsa dipendenza lineare a quel ritardo.

20. Schemi operativi da esame

Impostare un problema di probabilità

$$\Omega,\quad A,\quad P(A)$$

Prima si definisce lo spazio degli esiti, poi l’evento richiesto, infine si sceglie il metodo di calcolo: conteggio, complementare, condizionamento, indipendenza o decomposizione per casi. Saltare la definizione degli eventi porta spesso a usare formule corrette nel contesto sbagliato.

Riconoscere il modello discreto

$$\text{conteggio di successi} \Rightarrow \operatorname{Bin}(n,p)$$

Se le prove sono indipendenti, identiche e con due esiti, il conteggio è binomiale. Se invece si campiona senza reinserimento da popolazione finita, il modello è ipergeometrico. Se si contano eventi rari in un intervallo, il modello può essere Poisson.

Riconoscere il modello continuo

$$\text{tempo di attesa senza memoria} \Rightarrow \operatorname{Exp}(\lambda)$$

Tempi di attesa con tasso costante suggeriscono l’esponenziale. Errori di misura come somma di molti contributi piccoli suggeriscono la normale. Tempi di vita con tasso non costante suggeriscono spesso Weibull o gamma.

Calcolare una probabilità continua

$$P(a\le X\le b)=\int_a^b f_X(x)\,dx$$

Nel continuo non si sommano probabilità puntuali. Si integra la densità sulla regione richiesta. Se la variabile è trasformata, bisogna correggere con il cambio di variabile.

Risolvere un problema con Bayes

P(H_j\mid E)= \frac{P(E\mid H_j)P(H_j)} \sum_i P(E\mid H_i)P(H_i)}

Si individuano ipotesi alternative complete e disgiunte. Si calcolano probabilità iniziali e probabilità dell’evidenza sotto ciascuna ipotesi. Solo alla fine si normalizza con la probabilità totale dell’evidenza.

Costruire un intervallo di confidenza

$$\text{stima} \pm \text{quantile}\cdot \text{errore standard}$$

Bisogna identificare il parametro, scegliere la distribuzione pivot corretta, stimare l’errore standard e usare il quantile coerente con il livello desiderato. La scelta tra normale, t, chi-quadro o F dipende dal parametro e dalle ipotesi.

Eseguire un test di ipotesi

$$H_0,\quad H_1,\quad T,\quad p\text{-value},\quad \alpha$$

Si dichiarano ipotesi, livello di significatività e statistica test prima di guardare la decisione. Poi si calcola il p-value o si confronta la statistica con la regione critica. La conclusione deve sempre essere espressa nel linguaggio del problema, non solo come “rifiuto” o “non rifiuto”.

Scegliere tra test indipendente e appaiato

$$D_i=X_i-Y_i$$

Se ogni osservazione di un gruppo è naturalmente collegata a una dell’altro, si usa il test appaiato sulle differenze. Se i due campioni sono formati da unità diverse e indipendenti, si usa un test per campioni indipendenti. Confondere i due casi altera errore standard e potenza.

Interpretare una regressione

$$\hat y=x^T\hat\beta$$

Si controllano segno, unità di misura e incertezza dei coefficienti. Un coefficiente in regressione multipla è un effetto condizionato agli altri predittori. Prima di fidarsi del modello, si guardano residui, outlier, linearità, varianza costante e collinearità.

Distinguere significatività e rilevanza

$$\text{p-value piccolo} \ne \text{effetto grande}$$

Con campioni molto grandi anche effetti minuscoli possono risultare significativi. Con campioni piccoli effetti importanti possono non essere rilevati. Per una decisione ingegneristica servono dimensione dell’effetto, intervallo di confidenza, costo dell’errore e contesto fisico.

Controllo finale di coerenza statistica

$$\text{dati}+\text{modello}+\text{ipotesi}+\text{incertezza}+\text{decisione}$$

Ogni esercizio o analisi di Probabilità e Statistica va chiuso verificando questi cinque elementi. I dati dicono che cosa è stato osservato; il modello dice come viene rappresentata l’incertezza; le ipotesi dicono quando le formule sono valide; l’incertezza quantifica il margine di errore; la decisione traduce il risultato in linguaggio operativo.