Regresja ważona – przykład obliczeniowy
Problem heteroscedastyczności
W analizie regresji heteroscedastyczność oznacza sytuację, w której wariancja zmiennej zależnej (Y) zmienia się w zależności od poziomu zmiennej niezależnej (X). Heteroscedastyczność może utrudniać analizę, ponieważ analiza regresji opiera się na założeniu jednakowej wariancji na wszystkich poziomach zmiennej niezależnej.
 |
 |
| Homoscedastyczność | Heteroscedastyczność |
Do korekty heteroscedastyczności można zastosować regresję ważoną. W procedurze regresji ważonej większą wagę nadaje się obserwacjom o mniejszej wariancji, ponieważ dostarczają one bardziej wiarygodnych informacji o funkcji regresji niż obserwacje o dużej wariancji.
Neter i wsp. (1996) proponują następujący sposób szacowania współczynników regresji w obecności heteroscedastyczności:
- Dopasuj model regresji metodą nieważonych najmniejszych kwadratów i przeanalizuj reszty.
- Oszacuj funkcję wariancji lub funkcję odchylenia standardowego przez regresję kwadratów reszt albo bezwzględnych wartości reszt względem odpowiednich predyktorów.
- Wyznacz wagi wi na podstawie wartości dopasowanych z oszacowanej funkcji wariancji lub odchylenia standardowego.
- Oszacuj współczynniki regresji z użyciem tych wag.
Jak zrobić to automatycznie
MedCalc wykona te kroki automatycznie, gdy w oknach dialogowych regresji wybierzesz jako „Wagi” zmienną pomocniczą "*** AutoWeight 1/SD^2 ***".
Jak wykonać poszczególne kroki w programie MedCalc
Jeśli chcesz mieć większą kontrolę nad tym procesem, na przykład dlatego, że potrzebujesz zmodyfikować jeden lub więcej kroków, możesz wykonać każdy z tych kroków za pomocą regresji ważonej i innych narzędzi dostępnych w programie MedCalc.
Proces ten opisano szczegółowo poniżej.
Dane do tego przykładu są dostępne w folderze plików przykładowych MedCalc, w pliku „Weighted regression (Neter).mc1”. Plik ten zawiera dane dotyczące wieku (Age) i rozkurczowego ciśnienia tętniczego (DBP) zebrane u 54 osób.
Krok 1. Dopasuj model regresji metodą nieważonych najmniejszych kwadratów i przeanalizuj reszty
Klikamy Regresja w menu Statystyki i wypełniamy okno dialogowe następująco.
Zmienna Y, czyli zmienna zależna, to DBP (rozkurczowe ciśnienie tętnicze), a Zmienna X, czyli zmienna niezależna, to Age.
Nie wybieramy zmiennej w polu Wagi, ponieważ w tym pierwszym kroku wykonujemy zwykłą, nieważoną regresję metodą najmniejszych kwadratów.
Otrzymujemy następujące wyniki:
W oknie wyników klikamy hiperłącze „Zapisz reszty”, aby zapisać reszty w nowej kolumnie arkusza kalkulacyjnego.
Reszty to różnice między obserwowanymi wartościami zmiennej zależnej DBP a wartościami obliczonymi z równania regresji.
W kolejnym oknie dialogowym klikamy OK.
Spowoduje to utworzenie w arkuszu kalkulacyjnym nowej kolumny zawierającej reszty (zmienna „REGR_Resid1”):
Krok 2. Oszacuj funkcję wariancji lub funkcję odchylenia standardowego
W tym kroku budujemy model regresji odchylenia standardowego względem zmiennej Age. Robimy to przez regresję bezwzględnych wartości reszt względem Age, ponieważ bezwzględne wartości reszt są estymatorem odchylenia standardowego DBP przy różnych wartościach Age.
Klikamy Regresja w menu Statystyki i wypełniamy okno dialogowe następująco:
Jako Zmienną Y najpierw wybieramy nową zmienną "REGR_Resid1", a następnie edytujemy wybór i zmieniamy zmienną na "abs(REGR_Resid1)".
Otrzymujemy następujące wyniki:
Krok 3. Wyznacz wagi na podstawie wartości dopasowanych z oszacowanej funkcji wariancji lub odchylenia standardowego
W ostatnim oknie wyników klikamy hiperłącze „Zapisz wartości prognozowane”, aby zapisać wartości prognozowane w nowej kolumnie arkusza kalkulacyjnego.
W kolejnym oknie dialogowym klikamy OK.
Spowoduje to utworzenie w arkuszu kalkulacyjnym nowej kolumny zawierającej prognozowane (czyli oszacowane) wartości odchylenia standardowego (zmienna „REGR_Pred1”):
Krok 4. Oszacuj współczynniki regresji z użyciem tych wag
Na koniec możemy zbudować nasz model regresji ważonej.
Jako wag używamy odwrotności kwadratów prognozowanych wartości odchylenia standardowego (wariancja jest kwadratem odchylenia standardowego): obserwacjom o dużym odchyleniu standardowym nadaje się mniejszą wagę niż obserwacjom o mniejszym odchyleniu standardowym.
Klikamy Regresja w menu Statystyki i wypełniamy okno dialogowe następująco.
W polu Wagi najpierw wybieramy nową zmienną "REGR_Pred1", a następnie edytujemy wybór i zmieniamy zmienną na "1/REGR_Pred1^2" (moglibyśmy też użyć "1/(REGR_Pred1*REGR_Pred1)" lub "1/Power(REGR_Pred1,2)").
Otrzymujemy następujące wyniki:
Końcowe (ważone) równanie regresji ma postać
DBP = 55,5658 + 0,5963 Age
i nie różni się znacznie od pierwotnego (nieważonego) równania regresji
DBP = 56,1569 + 0,5800 Age
Błędy standardowe współczynników regresji są jednak mniejsze, co daje węższe przedziały ufności.
Piśmiennictwo
- Neter J, Kutner MH, Nachtsheim CJ, Wasserman W (1996) Applied linear statistical models. 4th ed. Boston: McGraw-Hill.