Dernière mise à jour : 2026-06-23

Définition

La régression linéaire simple modélise la relation entre une variable indépendante x et une variable dépendante y en ajustant une droite de la forme

$\hat{y} = a + b\,x$

où b est la pente (la variation moyenne de y par unité de variation de x) et a l'ordonnée à l'origine (la valeur prédite de y lorsque x = 0). La valeur ajustée ŷ est une estimation de y pour un x donné ; la différence entre une valeur observée yᵢ et sa valeur ajustée, $e_i = y_i - \hat{y}_i$, est appelée résidu.

Moindres carrés

De nombreuses droites peuvent être tracées à travers un nuage de points. La méthode des moindres carrés sélectionne celle qui minimise la somme des carrés des résidus,

$\sum_{i=1}^{n} e_i^2 = \sum_{i=1}^{n}\bigl(y_i - a - b\,x_i\bigr)^2.$

L'élévation au carré pénalise davantage les grands écarts que les petits et empêche les résidus positifs et négatifs de se compenser. La minimisation de cette somme admet une solution explicite, si bien qu'aucune itération n'est nécessaire.

Formules

Soient $\bar{x}$ et $\bar{y}$ les moyennes de x et y. La pente et l'ordonnée à l'origine des moindres carrés sont

$b = \frac{\sum_{i=1}^{n}(x_i - \bar{x})(y_i - \bar{y})}{\sum_{i=1}^{n}(x_i - \bar{x})^2}, \qquad a = \bar{y} - b\,\bar{x}.$

Le numérateur de b mesure la covariation de x et y ; le dénominateur représente la dispersion de x. La formule de l'ordonnée à l'origine garantit que la droite ajustée passe par le point moyen $(\bar{x}, \bar{y})$.

Le coefficient de détermination

Le coefficient de détermination, $R^2$, indique la fraction de la variance de y expliquée par la droite ajustée :

$R^2 = 1 - \frac{\sum_i (y_i - \hat{y}_i)^2}{\sum_i (y_i - \bar{y})^2}.$

Il varie de 0 (la droite n'explique aucune partie de la variation) à 1 (la droite passe exactement par chaque point). En régression linéaire simple, $R^2$ est égal au carré du coefficient de corrélation de Pearson r, de sorte qu'une forte corrélation implique un $R^2$ élevé. Voir le calculateur Calculateur du coefficient de corrélation de Pearson pour la mesure d'association associée.

Exemple résolu

À partir du jeu de données par défaut, X = [1, 2, 3, 4, 5] et Y = [2, 4, 5, 4, 5], les moyennes sont $\bar{x} = 3$ et $\bar{y} = 4$. Le calcul des sommes d'écarts donne $S_{xx} = \sum(x_i - \bar{x})^2 = 10$, $S_{xy} = \sum(x_i - \bar{x})(y_i - \bar{y}) = 6$ et $S_{yy} = \sum(y_i - \bar{y})^2 = 6$.

La droite ajustée ŷ = 2,2 + 0,6·x augmente de 0,6 en y pour chaque unité de x et explique environ 60 % de la variation de y.

Hypothèses et limites

La droite des moindres carrés est la plus fiable lorsque plusieurs conditions sont réunies :

• Linéarité. Une droite doit constituer un résumé raisonnable de la tendance. Si les points décrivent une courbe, un ajustement linéaire peut tout de même produire un $R^2$ modéré tout en manquant systématiquement la tendance ; examinez le nuage de points avant de vous fier à la pente.
• Valeurs aberrantes. Comme les résidus sont élevés au carré, un seul point éloigné peut attirer la droite vers lui et fausser à la fois la pente et le $R^2$. Examinez les points extrêmes avant de tirer des conclusions.
• Plage de prédiction. Extrapoler bien au-delà de la plage observée de x est risqué — la relation linéaire peut ne plus tenir, et l'ordonnée à l'origine n'est interprétable que lorsque x = 0 est proche des données.
• Corrélation n'est pas causalité. Un bon ajustement montre que x et y évoluent ensemble ; il n'établit pas que x cause y. Une troisième variable cachée peut entraîner les deux. Standardiser les variables à l'aide d'un Calculatrice de score Z peut aider à comparer les effets, mais une affirmation causale exige une étude contrôlée.

Malgré ces réserves, la régression linéaire simple reste l'un des outils les plus utilisés en statistique, offrant un résumé transparent et explicite de la dépendance d'une variable vis-à-vis d'une autre.