Gewichtete Regression – Rechenbeispiel
Das Problem der Heteroskedastizität
In der Regressionsanalyse bezeichnet Heteroskedastizität eine Situation, in der die Varianz der abhängigen Variable (Y) über die Stufen der unabhängigen Daten (X) hinweg variiert. Heteroskedastizität kann die Analyse erschweren, weil die Regressionsanalyse auf der Annahme gleicher Varianz über die Stufen der unabhängigen Daten beruht.
 |
 |
| Homoskedastizität | Heteroskedastizität |
Mit einer gewichteten Regression lässt sich die Heteroskedastizität korrigieren. Bei einem gewichteten Regressionsverfahren erhalten die Beobachtungen mit kleinerer Varianz ein größeres Gewicht, weil diese Beobachtungen zuverlässigere Informationen über die Regressionsfunktion liefern als jene mit großer Varianz.
Neter et al. (1996) schlagen folgendes Vorgehen zur Schätzung der Regressionskoeffizienten bei Vorliegen von Heteroskedastizität vor:
- Anpassen des Regressionsmodells mit der ungewichteten Methode der kleinsten Quadrate und Analyse der Residuen.
- Schätzen der Varianzfunktion oder der Standardabweichungsfunktion durch Regression entweder der quadrierten Residuen oder der absoluten Residuen auf den bzw. die geeigneten Prädiktor(en).
- Verwenden der angepassten Werte aus der geschätzten Varianz- oder Standardabweichungsfunktion, um die Gewichte wi zu erhalten.
- Schätzen der Regressionskoeffizienten mit diesen Gewichten.
Automatische Durchführung
MedCalc führt diese Schritte automatisch aus, wenn Sie in den Dialogfeldern für die Regression unter „Gewichte“ die Dummy-Variable "*** AutoWeight 1/SD^2 ***" auswählen.
Durchführung der einzelnen Schritte in MedCalc
Wenn Sie den Ablauf stärker selbst steuern möchten, etwa weil Sie einen oder mehrere Schritte abwandeln müssen, können Sie jeden dieser Schritte mit der gewichteten Regression und anderen in MedCalc verfügbaren Werkzeugen selbst durchführen.
Dieser Ablauf wird im Folgenden ausführlich beschrieben.
Die Daten für dieses Beispiel finden Sie im Ordner mit den MedCalc-Beispieldateien, Datei „Weighted regression (Neter).mc1“. Diese Datei enthält Daten zum Alter (Age) und zum diastolischen Blutdruck (DBP) von 54 Probanden.
Schritt 1. Anpassen des Regressionsmodells mit der ungewichteten Methode der kleinsten Quadrate und Analyse der Residuen
Wir klicken im Menü Statistiken auf Regression und füllen das Dialogfeld wie folgt aus.
Variable Y, die abhängige Variable, ist DBP (diastolischer Blutdruck), und Variable X, die unabhängige Variable, ist Age (Alter).
Unter „Gewichte“ wählen wir keine Variable aus, weil wir in diesem ersten Schritt eine gewöhnliche, ungewichtete Regression nach der Methode der kleinsten Quadrate durchführen.
Wir erhalten die folgenden Ergebnisse:
Im Ergebnisfenster klicken wir auf den Link „Residuen speichern“, um die Residuen in einer neuen Spalte des Tabellenblatts zu speichern.
Residuen sind die Differenzen zwischen den beobachteten Werten der abhängigen Variable DBP und den mit der Regressionsgleichung berechneten Werten.
Im nachfolgenden Dialogfeld klicken wir auf OK.
Dadurch wird im Tabellenblatt eine neue Spalte mit den Residuen angelegt (Variable „REGR_Resid1“):
Schritt 2. Schätzen der Varianzfunktion oder der Standardabweichungsfunktion
In diesem Schritt erstellen wir ein Regressionsmodell der Standardabweichung in Abhängigkeit vom Alter. Dazu führen wir eine Regression der Absolutwerte der Residuen auf das Alter (Age) durch, da die absoluten Residuen ein Schätzer der Standardabweichung von DBP bei den verschiedenen Werten von Age sind.
Wir klicken im Menü Statistiken auf Regression und füllen das Dialogfeld wie folgt aus:
Für Variable Y wählen wir zunächst die neue Variable "REGR_Resid1" aus, bearbeiten dann die Auswahl und ändern die Variable in "abs(REGR_Resid1)".
Wir erhalten die folgenden Ergebnisse:
Schritt 3. Verwenden der angepassten Werte aus der geschätzten Varianz- oder Standardabweichungsfunktion, um die Gewichte zu erhalten
Im letzten Ergebnisfenster klicken wir auf den Link „Vorhergesagte Werte speichern“, um die vorhergesagten Werte in einer neuen Spalte des Tabellenblatts zu speichern.
Im nachfolgenden Dialogfeld klicken wir auf OK.
Dadurch wird im Tabellenblatt eine neue Spalte mit den vorhergesagten (bzw. geschätzten) Werten der Standardabweichung angelegt (Variable „REGR_Pred1“):
Schritt 4. Schätzen der Regressionskoeffizienten mit diesen Gewichten
Schließlich können wir unser gewichtetes Regressionsmodell erstellen.
Als Gewichte verwenden wir den Kehrwert der quadrierten vorhergesagten Werte der Standardabweichung (die Varianz ist das Quadrat der Standardabweichung): Beobachtungen mit großer Standardabweichung erhalten ein geringeres Gewicht als Beobachtungen mit kleinerer Standardabweichung.
Wir klicken im Menü Statistiken auf Regression und füllen das Dialogfeld wie folgt aus.
Für die Gewichte wählen wir zunächst die neue Variable "REGR_Pred1" aus, bearbeiten dann die Auswahl und ändern die Variable in "1/REGR_Pred1^2" (wir könnten auch "1/(REGR_Pred1*REGR_Pred1)" oder "1/Power(REGR_Pred1,2)" verwenden).
Wir erhalten die folgenden Ergebnisse:
Die endgültige (gewichtete) Regressionsgleichung lautet
DBP = 55.5658 + 0.5963 Age
und unterscheidet sich damit kaum von der ursprünglichen (ungewichteten) Regressionsgleichung
DBP = 56.1569 + 0.5800 Age
Die Standardfehler der Regressionskoeffizienten sind jedoch kleiner, was zu engeren Konfidenzintervallen führt.
Fachliteratur
- Neter J, Kutner MH, Nachtsheim CJ, Wasserman W (1996) Applied linear statistical models. 4th ed. Boston: McGraw-Hill.