Ultimo aggiornamento: 2026-06-23

Definizione

La regressione lineare semplice descrive la relazione tra una variabile indipendente x e una variabile dipendente y adattando una retta della forma

$\hat{y} = a + b\,x$

dove b è la pendenza (la variazione media di y per ogni unità di variazione di x) e a è l'intercetta (il valore previsto di y quando x = 0). Il valore adattato ŷ è una stima di y per un dato x; la differenza tra un valore osservato yᵢ e il suo valore adattato, $e_i = y_i - \hat{y}_i$, è detta residuo.

Minimi quadrati

Attraverso una nube di punti si potrebbero tracciare infinite rette. Il metodo dei minimi quadrati sceglie quella che minimizza la somma dei quadrati dei residui,

$\sum_{i=1}^{n} e_i^2 = \sum_{i=1}^{n}\bigl(y_i - a - b\,x_i\bigr)^2.$

Elevare al quadrato penalizza gli scarti grandi più di quelli piccoli ed evita che i residui positivi e negativi si annullino a vicenda. La minimizzazione di questa somma ha una soluzione in forma chiusa, perciò non è richiesta alcuna iterazione.

Formule

Siano $\bar{x}$ e $\bar{y}$ le medie di x e y. La pendenza e l'intercetta ai minimi quadrati sono

$b = \frac{\sum_{i=1}^{n}(x_i - \bar{x})(y_i - \bar{y})}{\sum_{i=1}^{n}(x_i - \bar{x})^2}, \qquad a = \bar{y} - b\,\bar{x}.$

Il numeratore di b misura come x e y covariano; il denominatore rappresenta la dispersione di x. La formula dell'intercetta garantisce che la retta adattata passi per il punto medio $(\bar{x}, \bar{y})$.

Il coefficiente di determinazione

Il coefficiente di determinazione, $R^2$, indica la frazione della varianza di y che la retta adattata riesce a spiegare:

$R^2 = 1 - \frac{\sum_i (y_i - \hat{y}_i)^2}{\sum_i (y_i - \bar{y})^2}.$

Varia da 0 (la retta non spiega alcuna parte della variabilità) a 1 (la retta passa esattamente per ogni punto). Nella regressione lineare semplice $R^2$ è uguale al quadrato del coefficiente di correlazione di Pearson r, perciò una correlazione forte implica un $R^2$ elevato. Si veda il calcolatore del Calcolatore del Coefficiente di Correlazione di Pearson per la misura di associazione collegata.

Esempio svolto

Con il set di dati predefinito, X = [1, 2, 3, 4, 5] e Y = [2, 4, 5, 4, 5], le medie sono $\bar{x} = 3$ e $\bar{y} = 4$. Calcolando le somme degli scarti si ottiene $S_{xx} = \sum(x_i - \bar{x})^2 = 10$, $S_{xy} = \sum(x_i - \bar{x})(y_i - \bar{y}) = 6$ e $S_{yy} = \sum(y_i - \bar{y})^2 = 6$.

La retta adattata ŷ = 2,2 + 0,6·x cresce di 0,6 in y per ogni unità di x e spiega circa il 60% della variabilità di y.

Ipotesi e limiti

La retta dei minimi quadrati è più affidabile quando valgono alcune condizioni:

• Linearità. Una retta deve costituire una sintesi ragionevole dell'andamento. Se i punti seguono una curva, un adattamento lineare può comunque produrre un $R^2$ moderato pur trascurando sistematicamente la tendenza; conviene osservare il grafico a dispersione prima di fidarsi della pendenza.
• Valori anomali. Poiché i residui sono elevati al quadrato, un singolo punto lontano può attirare la retta verso di sé e distorcere sia la pendenza sia $R^2$. È opportuno esaminare i punti estremi prima di trarre conclusioni.
• Intervallo di previsione. Estrapolare ben oltre l'intervallo osservato di x è rischioso: la relazione lineare potrebbe non valere in quella zona e l'intercetta è interpretabile solo quando x = 0 è vicino ai dati.
• La correlazione non è causalità. Un buon adattamento mostra che x e y variano insieme, ma non stabilisce che x sia la causa di y. Una terza variabile nascosta potrebbe influenzare entrambe. Standardizzare le variabili con uno Calcolatore di Punteggio Z aiuta a confrontare gli effetti, ma le affermazioni causali richiedono uno studio controllato.

Pur con questi limiti, la regressione lineare semplice resta uno degli strumenti più diffusi in statistica e offre una sintesi trasparente e in forma chiusa di come una variabile dipenda da un'altra.