Logistische Regression

Befehl:	Statistiken Regression Logistische Regression

Die logistische Regression ist ein statistisches Verfahren zur Analyse eines Datensatzes, in dem eine oder mehrere unabhängige Variablen ein Ergebnis bestimmen. Das Ergebnis wird mit einer dichotomen Variable gemessen (bei der es nur zwei mögliche Ausgänge gibt).

Bei der logistischen Regression ist die abhängige Variable binär bzw. dichotom, d. h. sie enthält nur Daten, die als 1 (WAHR, Erfolg, schwanger usw.) oder 0 (FALSCH, Misserfolg, nicht schwanger usw.) codiert sind.

Ziel der logistischen Regression ist es, das am besten passende (aber biologisch plausible) Modell zu finden, das die Beziehung zwischen dem interessierenden dichotomen Merkmal (abhängige Variable = Reaktions- oder Ergebnisvariable) und einer Reihe unabhängiger (Prädiktor- oder erklärender) Variablen beschreibt. Die logistische Regression erzeugt die Koeffizienten (sowie ihre Standardfehler und Signifikanzniveaus) einer Formel zur Vorhersage einer Logit-Transformation der Wahrscheinlichkeit des Vorliegens des interessierenden Merkmals:

$$ logit(p) = b_0 + b_1 X_1 + b_2 X_2 + b_3 X_3 + … + b_k X_k $$

wobei p die Wahrscheinlichkeit des Vorliegens des interessierenden Merkmals ist. Die Logit-Transformation ist definiert als die logarithmierten Odds:

$$ odds\ = \frac {p}{1-p} = \frac {Wahrscheinlichkeit\ des\ Vorliegens\ des\ Merkmals} {Wahrscheinlichkeit\ des\ Fehlens\ des\ Merkmals} $$

und

$$ logit(p) = \ln \left ( \frac {p} {1-p} \right ) $$

Anstatt Parameter zu wählen, welche die Summe der quadrierten Fehler minimieren (wie bei der gewöhnlichen Regression), wählt die Schätzung bei der logistischen Regression Parameter, welche die Likelihood der beobachteten Stichprobenwerte maximieren.

Eingabe von Daten

Im folgenden Beispiel gibt es zwei Prädiktorvariablen: AGE und SMOKING. Die abhängige Variable bzw. Reaktionsvariable ist OUTCOME. Die abhängige Variable OUTCOME ist mit 0 (negativ) und 1 (positiv) codiert.

Daten

A1

19

	A	B	C	D
	AGE	SMOKING	OUTCOME
1	19	0	0
2	20	0	0
3	21	0	0
4	21	1	0
5	22	0	0
6	22	0	0
7	22	0	0
8	22	0	0
9	23	1	0
10	23	0	0
11	24	1	0

Erforderliche Eingabe

Abhängige Variable

Die Variable, deren Werte Sie vorhersagen möchten. Die abhängige Variable muss binär bzw. dichotom sein und darf nur mit 0 oder 1 codierte Daten enthalten. Falls Ihre Daten anders codiert sind, können Sie das Werkzeug Status definieren verwenden, um Ihre Daten umzucodieren.

Unabhängige Variablen

Wählen Sie die verschiedenen Variablen aus, von denen Sie erwarten, dass sie die abhängige Variable beeinflussen.

Filter

Geben Sie (optional) einen Datenfilter ein, um nur eine ausgewählte Untergruppe von Fällen in die Analyse einzubeziehen.

Optionen

• Methode: Wählen Sie aus, wie unabhängige Variablen in das Modell aufgenommen werden.
  • Einschluss: Alle Variablen werden in einem einzigen Schritt ohne Prüfung in das Modell aufgenommen
  • Vorwärts: Signifikante Variablen werden sequenziell aufgenommen
  • Rückwärts: Zunächst werden alle Variablen in das Modell aufgenommen, anschließend werden die nicht signifikanten Variablen sequenziell entfernt
  • Schrittweise: Signifikante Variablen werden sequenziell aufgenommen; nach Aufnahme einer Variable in das Modell wird geprüft, ob Variablen nicht signifikant geworden sind, und diese werden gegebenenfalls entfernt.
• Variable aufnehmen, wenn P<
  Eine Variable wird in das Modell aufgenommen, wenn ihr zugehöriges Signifikanzniveau kleiner als dieser P-Wert ist.

• Variable entfernen, wenn P>
  Eine Variable wird aus dem Modell entfernt, wenn ihr zugehöriges Signifikanzniveau größer als dieser P-Wert ist.

• Trennwert für Klassifikationstabelle: ein Wert zwischen 0 und 1, der als Trennwert für eine Klassifikationstabelle verwendet wird. Die Klassifikationstabelle ist eine Methode zur Bewertung des logistischen Regressionsmodells. In dieser Tabelle werden die beobachteten Werte für das abhängige Ergebnis und die vorhergesagten Werte (beim ausgewählten Trennwert) kreuzklassifiziert.
• Kategorial: Klicken Sie auf diese Schaltfläche, um kategoriale Variablen zu identifizieren.

Diagramm

Die Option, ein Diagramm mit der logistischen Regressionskurve darzustellen, ist nur verfügbar, wenn nur eine einzige unabhängige Variable vorliegt.

Ergebnisse

Nachdem Sie auf OK geklickt haben, werden die Ergebnisse angezeigt.

Logistische Regression

Abhängiges Y	OUTCOME

Methode	Eingabe

Stichprobengröße	100
Positive Fälle a	44 (44.00%)
Negative Fälle b	56 (56.00%)

^a OUTCOME = 1
^b OUTCOME = 0

Gesamtanpassung des Modells

Nullmodell -2 Log-Likelihood	137.186
Vollmodell -2 Log-Likelihood	118.338
Chi-Quadrat	18.848
DF	2
Signifikanzniveau	P = 0.0001
Cox & Snell R2	0.1718
Nagelkerke R2	0.2302

Koeffizienten und Standardfehler

Variable	Koeffizient	Std. Fehler	Wald	P
AGE	0.11231	0.038619	8.4568	0.0036
SMOKING	1.16384	0.45374	6.5792	0.0103
Konstante	-4.47775	1.34565	11.0728	0.0009

Quotenverhältnisse und 95 % Konfidenzintervalle

Variable	Quotenverhältnis	95 % CI
AGE	1.1189	1.0373 bis 1.2068
SMOKING	3.2022	1.3159 bis 7.7926

Hosmer & Lemeshow-Test

Chi-Quadrat	14.8881
DF	8
Signifikanzniveau	P = 0.0614

Kontingenztabelle für Hosmer-Lemeshow-Test [Anzeigen]

Kontingenztabelle für Hosmer-Lemeshow-Test [Ausblenden]

Gruppe	Y=0		Y=1		Summe
	Beobachtet	Erwartet	Beobachtet	Erwartet
1	10	8.813	0	1.187	10
2	7	9.560	5	2.440	12
3	8	8.510	4	3.490	12
4	9	7.365	3	4.635	12
5	5	5.566	5	4.434	10
6	8	4.625	1	4.375	9
7	2	4.677	8	5.323	10
8	4	3.541	6	6.459	10
9	3	2.597	7	7.403	10
10	0	0.747	5	4.253	5

Klassifizierungstabelle (Grenzwert p = 0.5)

Tatsächliche Gruppe	Vorhergesagte Gruppe		Prozent korrekt
	0	1
Y = 0	44	12	78.57%
Y = 1	18	26	59.09%
Prozentsatz der richtig klassifizierten Fälle			70.00%

ROC-Kurvenanalyse

Fläche unter ROC-Kurve (AUC)	0.737
Standardfehler	0.0498
95 % Konfidenzintervall	0.639 bis 0.820

Vorhergesagte Wahrscheinlichkeiten speichern - Residuen speichern

Stichprobengröße und Fälle mit negativem und positivem Ergebnis

Zunächst gibt das Programm die Stichprobengröße sowie die Anzahl und den Anteil der Fälle mit negativem (Y=0) und positivem (Y=1) Ergebnis an.

Gesamtanpassung des Modells

Die −2-Log-Likelihood des Nullmodells ergibt sich aus −2 * ln(L₀), wobei L₀ die Likelihood ist, die Beobachtungen zu erhalten, wenn die unabhängigen Variablen keinen Effekt auf das Ergebnis hätten.

Die −2-Log-Likelihood des vollständigen Modells ergibt sich aus −2 * ln(L), wobei L die Likelihood ist, die Beobachtungen zu erhalten, wenn alle unabhängigen Variablen in das Modell einbezogen sind.

Die Differenz dieser beiden ergibt eine Chi-Quadrat-Statistik, die ein Maß dafür ist, wie stark die unabhängigen Variablen das Ergebnis bzw. die abhängige Variable beeinflussen.

Ist der P-Wert für die Gesamtanpassung des Modells kleiner als der übliche Wert von 0,05, gibt es Hinweise darauf, dass mindestens eine der unabhängigen Variablen zur Vorhersage des Ergebnisses beiträgt.

Cox & Snell R² und Nagelkerke R² sind weitere Anpassungsgütemaße, die als Pseudo-R-Quadrat bekannt sind. Zu beachten ist, dass das Pseudo-R-Quadrat nach Cox & Snell ein Maximum hat, das nicht 1 ist. Nagelkerke R² passt den Wert nach Cox & Snell so an, dass der Bereich der möglichen Werte bis 1 reicht.

Regressionskoeffizienten

Die Koeffizienten der logistischen Regression sind die Koeffizienten b₀, b₁, b₂, … b_k der Regressionsgleichung:

$$ logit(p) = b_0 + b_1 X_1 + b_2 X_2 + b_3 X_3 + … + b_k X_k $$

Eine unabhängige Variable mit einem Regressionskoeffizienten, der nicht signifikant von 0 verschieden ist (P>0,05), kann aus dem Regressionsmodell entfernt werden (drücken Sie die Funktionstaste F7, um das Verfahren der logistischen Regression zu wiederholen). Ist P<0,05, trägt die Variable wesentlich zur Vorhersage der Ergebnisvariable bei.

Die Koeffizienten der logistischen Regression zeigen die Veränderung (Zunahme bei b_i>0, Abnahme bei b_i<0) der vorhergesagten logarithmierten Odds für das Vorliegen des interessierenden Merkmals bei einer Änderung der unabhängigen Variablen um eine Einheit.

Sind die unabhängigen Variablen X_a und X_b dichotome Variablen (z. B. Rauchen, Geschlecht), kann der Einfluss dieser Variablen auf die abhängige Variable einfach durch Vergleich ihrer Regressionskoeffizienten b_a und b_b verglichen werden.

Die Wald-Statistik ist der Regressionskoeffizient geteilt durch sein quadriertes Standardfehler: (b/SE)².

Quotenverhältnisse mit 95%-KI

Durch Bildung des Exponenten auf beiden Seiten der obigen Regressionsgleichung kann die Gleichung wie folgt umgeschrieben werden:

$$ odds\ =\ \frac {p}{1-p}\ =\ e^{b_0} \times e^{b_1 X_1} \times e^{b_2 X_2} \times e^{b_3 X_3} \times … \times e^{b_k X_k} $$

Es ist klar, dass bei einer Zunahme einer Variable X_i um 1 Einheit, während alle anderen Faktoren unverändert bleiben, die Odds um einen Faktor e^b_i zunehmen.

$$ e^{b_i ( 1 + X_i ) } - e^{b_i X_i} = e ^{ b_i ( 1 + X_i) - b_i X_i} = e^{b_i + b_i X_i - b_i X_i} = e^{b_i} $$

Dieser Faktor e^b_i ist das „angepasste“ Quotenverhältnis (Odds Ratio, O.R.) für die unabhängige Variable X_i und gibt an, um welchen relativen Betrag sich die Odds des Ergebnisses erhöhen (O.R. größer als 1) oder verringern (O.R. kleiner als 1), wenn der Wert der unabhängigen Variable um 1 Einheit erhöht wird.

Z. B. Die Variable SMOKING ist mit 0 (= Nichtraucher) und 1 (= Raucher) codiert, und das Quotenverhältnis für diese Variable beträgt 2,64. Das bedeutet, dass im Modell die Odds für ein positives Ergebnis bei Rauchern 2,64-mal höher sind als bei Nichtrauchern.

Interpretation der angepassten logistischen Regressionsgleichung

Die Gleichung der logistischen Regression lautet:

Für 40-jährige Fälle, die rauchen, ergibt sich also logit(p) gleich 2,026. Logit(p) kann mit folgender Formel in p zurücktransformiert werden:

$$ p = \frac {1} { 1 + e^{-logit(p)}} $$

Alternativ können Sie die Logit-Tabelle oder den ALOGIT-Funktionsrechner verwenden. Für logit(p)=2,026 beträgt die Wahrscheinlichkeit p eines positiven Ergebnisses 0,88.

Hosmer-Lemeshow-Test

Der Hosmer-Lemeshow-Test ist ein statistischer Test auf Anpassungsgüte für das logistische Regressionsmodell. Die Daten werden in etwa zehn Gruppen aufgeteilt, die nach aufsteigendem geschätzten Risiko definiert werden. Die beobachtete und erwartete Anzahl der Fälle in jeder Gruppe wird berechnet, und eine Chi-Quadrat-Statistik wird wie folgt berechnet:

$$\chi^2_{HL} = \sum_{g=1}^{G}{\frac {(O_g-E_g)^2} {E_g(1-E_g/n_g) } } $$

wobei O_g, E_g und n_g die beobachteten Ereignisse, erwarteten Ereignisse und die Anzahl der Beobachtungen für die g-te Risikodezilgruppe sind, und G die Anzahl der Gruppen. Die Teststatistik folgt einer Chi-Quadrat-Verteilung mit G−2 Freiheitsgraden.

Ein großer Chi-Quadrat-Wert (mit kleinem P-Wert < 0,05) weist auf eine schlechte Anpassung hin, und kleine Chi-Quadrat-Werte (mit größerem P-Wert nahe 1) weisen auf eine gute Anpassung des logistischen Regressionsmodells hin.

Die Tabelle Kontingenztafel für den Hosmer-Lemeshow-Test zeigt die Details des Tests mit beobachteter und erwarteter Anzahl der Fälle in jeder Gruppe.

Klassifikationstabelle

Die Klassifikationstabelle ist eine weitere Methode zur Bewertung der Vorhersagegenauigkeit des logistischen Regressionsmodells. In dieser Tabelle werden die beobachteten Werte für das abhängige Ergebnis und die vorhergesagten Werte (bei einem benutzerdefinierten Trennwert, z. B. p=0,50) kreuzklassifiziert. In unserem Beispiel sagt das Modell 74 % der Fälle korrekt voraus.

ROC-Kurvenanalyse

Eine weitere Methode zur Bewertung des logistischen Regressionsmodells nutzt die ROC-Kurvenanalyse. Bei dieser Analyse wird die Fähigkeit der vorhergesagten Werte des Modells, zwischen positiven und negativen Fällen zu unterscheiden, durch die Fläche unter der ROC-Kurve (AUC) quantifiziert. Die AUC, manchmal auch als C-Statistik (oder Konkordanzindex) bezeichnet, ist ein Wert, der von 0,5 (Trennschärfe nicht besser als der Zufall) bis 1,0 (perfekte Trennschärfe) reicht.

Um eine vollständige ROC-Kurvenanalyse der vorhergesagten Wahrscheinlichkeiten durchzuführen, können Sie die vorhergesagten Wahrscheinlichkeiten speichern und diese neue Variable anschließend in der ROC-Kurvenanalyse verwenden. Die in der logistischen Regression verwendete abhängige Variable fungiert dann als Klassifizierungsvariable im Dialogfeld der ROC-Kurvenanalyse.

Propensity-Scores

Propensity-Scores sind vorhergesagte Wahrscheinlichkeiten eines logistischen Regressionsmodells. Um die Propensity-Scores in Ihrem Datenblatt zu speichern, klicken Sie im Ergebnisfenster auf den Link „Vorhergesagte Wahrscheinlichkeiten speichern“.

Überlegungen zur Stichprobengröße

Die Berechnung der Stichprobengröße für die logistische Regression ist ein komplexes Problem, aber basierend auf der Arbeit von Peduzzi et al. (1996) kann folgende Richtlinie für eine Mindestanzahl von Fällen in Ihre Studie vorgeschlagen werden.

Sei p der kleinere der Anteile negativer oder positiver Fälle in der Population und k die Anzahl der Kovariablen (die Anzahl der unabhängigen Variablen), dann beträgt die Mindestanzahl der einzubeziehenden Fälle:

N = 10 k / p

Zum Beispiel: Sie haben 3 Kovariablen in das Modell aufzunehmen, und der Anteil positiver Fälle in der Population beträgt 0,20 (20 %). Die erforderliche Mindestanzahl von Fällen ist

N = 10 x 3 / 0,20 = 150

Ist die resultierende Zahl kleiner als 100, sollten Sie sie auf 100 erhöhen, wie von Long (1997) vorgeschlagen.

Diagramm

MedCalc kann die Kurve der logistischen Regression darstellen, wenn nur eine einzige unabhängige Variable vorliegt.

Referenzen

• Hosmer DW Jr, Lemeshow S, Sturdivant RX (2013) Applied Logistic Regression. Third Edition. New Jersey: John Wiley & Sons.
• Long JS (1997) Regression Models for categorical and limited dependent variables. Thousand Oaks, CA: Sage Publications.
• Pampel FC (2020) Logistic regression: A primer. Quantitative Applications in the Social Sciences, 132. Thousand Oaks, CA: Sage Publications.
• Peduzzi P, Concato J, Kemper E, Holford TR, Feinstein AR (1996) A simulation study of the number of events per variable in logistic regression analysis. Journal of Clinical Epidemiology 49:1373-1379.

Siehe auch

• Regression
• ROC-Kurvenanalyse
• Probit-Regression (Dosis-Wirkungs-Analyse)
• Nichtlineare Regression

Externe Links

• Logistic regression bei Wikipedia.
• Hosmer-Lemeshow test bei Wikipedia.