Régression pondérée : exemple pratique
Le problème de l'hétéroscédasticité
En analyse de régression, l'hétéroscédasticité désigne une situation dans laquelle la variance de la variable dépendante (Y) varie selon les niveaux de la variable indépendante (X). L'hétéroscédasticité peut compliquer l'analyse, car l'analyse de régression repose sur l'hypothèse d'une variance égale à tous les niveaux de la variable indépendante.
 |
 |
| Homoscédasticité | Hétéroscédasticité |
La régression pondérée permet de corriger l'hétéroscédasticité. Dans une procédure de régression pondérée, un poids plus important est accordé aux observations de plus faible variance, car elles fournissent des informations plus fiables sur la fonction de régression que celles de grande variance.
Neter et al. (1996) proposent la démarche suivante pour estimer les coefficients de régression en présence d'hétéroscédasticité :
- Ajuster le modèle de régression par les moindres carrés non pondérés et analyser les résidus.
- Estimer la fonction de variance ou la fonction d'écart type en régressant soit les carrés des résidus, soit les résidus absolus sur le ou les prédicteurs appropriés.
- Utiliser les valeurs ajustées de la fonction de variance ou d'écart type estimée pour obtenir les pondérations wi.
- Estimer les coefficients de régression à l'aide de ces pondérations.
Comment procéder automatiquement
MedCalc effectue ces étapes automatiquement lorsque vous sélectionnez la variable fictive "*** AutoWeight 1/SD^2 ***" pour « Pondérations » dans les boîtes de dialogue de régression.
Comment effectuer chaque étape dans MedCalc
Si vous souhaitez mieux contrôler le processus, par exemple parce que vous devez modifier une ou plusieurs étapes, vous pouvez effectuer chacune de ces étapes à l'aide de la régression pondérée et d'autres outils disponibles dans MedCalc.
Ce processus est décrit en détail ci-dessous.
Les données de cet exemple sont disponibles dans le dossier des fichiers d'exemple de MedCalc, fichier « Weighted regression (Neter).mc1 ». Ce fichier contient des données d'âge (Age) et de pression artérielle diastolique (DBP) recueillies chez 54 sujets.
Étape 1. Ajuster le modèle de régression par les moindres carrés non pondérés et analyser les résidus
Nous cliquons sur Régression dans le menu Statistiques et complétons la boîte de dialogue comme suit.
La variable Y, la variable dépendante, est DBP (pression artérielle diastolique) et la variable X, la variable indépendante, est Age.
Nous ne sélectionnons pas de variable pour les pondérations, car dans cette première étape nous effectuons une régression ordinaire par les moindres carrés non pondérés.
Nous obtenons les résultats suivants :
Dans la fenêtre des résultats, nous cliquons sur l'hyperlien « Enregistrer les résidus » pour enregistrer les résidus dans une nouvelle colonne de la feuille de calcul.
Les résidus sont les différences entre les valeurs observées de la variable dépendante DBP et les valeurs calculées à l'aide de l'équation de régression.
Dans la boîte de dialogue qui suit, nous cliquons sur OK.
Une nouvelle colonne contenant les résidus (variable « REGR_Resid1 ») est alors créée dans la feuille de calcul :
Étape 2. Estimer la fonction de variance ou la fonction d'écart type
Dans cette étape, nous construisons un modèle de régression de l'écart type en fonction de l'âge. Pour cela, nous régressons les valeurs absolues des résidus sur Age, car les résidus absolus sont un estimateur de l'écart type de DBP pour les différentes valeurs de Age.
Nous cliquons sur Régression dans le menu Statistiques et complétons la boîte de dialogue comme suit :
Pour la variable Y, nous sélectionnons d'abord la nouvelle variable "REGR_Resid1", puis nous modifions la sélection pour transformer la variable en "abs(REGR_Resid1)".
Nous obtenons les résultats suivants :
Étape 3. Utiliser les valeurs ajustées de la fonction de variance ou d'écart type estimée pour obtenir les pondérations
Dans la dernière fenêtre de résultats, nous cliquons sur l'hyperlien « Enregistrer les valeurs prédites » pour enregistrer les valeurs prédites dans une nouvelle colonne de la feuille de calcul.
Dans la boîte de dialogue qui suit, nous cliquons sur OK.
Une nouvelle colonne contenant les valeurs prédites (ou estimées) de l'écart type (variable « REGR_Pred1 ») est alors créée dans la feuille de calcul :
Étape 4. Estimer les coefficients de régression à l'aide de ces pondérations
Enfin, nous pouvons construire notre modèle de régression pondérée.
Comme pondérations, nous utilisons l'inverse du carré des valeurs prédites de l'écart type (la variance est le carré de l'écart type) : les observations à grand écart type reçoivent un poids moindre que les observations à plus faible écart type.
Nous cliquons sur Régression dans le menu Statistiques et complétons la boîte de dialogue comme suit.
Pour les pondérations, nous sélectionnons d'abord la nouvelle variable "REGR_Pred1", puis nous modifions la sélection pour transformer la variable en "1/REGR_Pred1^2" (nous pourrions aussi utiliser "1/(REGR_Pred1*REGR_Pred1)" ou "1/Power(REGR_Pred1,2)").
Nous obtenons les résultats suivants :
L'équation finale de la régression (pondérée) est
DBP = 55.5658 + 0.5963 Age
ce qui diffère peu de l'équation de régression initiale (non pondérée)
DBP = 56.1569 + 0.5800 Age
Toutefois, les erreurs types des coefficients de régression sont plus petites, ce qui donne des intervalles de confiance plus étroits.
Littérature
- Neter J, Kutner MH, Nachtsheim CJ, Wasserman W (1996) Applied linear statistical models. 4th ed. Boston: McGraw-Hill.