回帰
| コマンド: | 統計 |
|---|
回帰分析は、2 つの変数の間の関係を記述し、一方の変数から他方の変数を予測するための統計的手法です(一方の変数がわかっているとき、もう一方の変数をどの程度よく予測できるか)。
相関では両方の変数が正規分布に従う必要がありますが、回帰分析ではこれは要件ではありません。変数 X は正規分布に従う無作為サンプルである必要はありません(X の値は研究者が選択できます)。ただし、Y のばらつきは X のすべての水準で同じでなければなりません。
必要な入力
変数
- 変数Yと変数X:従属変数 Y と独立変数 X を選択します。
- 重み:必要に応じて、個々の観測値に与える相対的な重みを含む変数を選択します(重み付き最小二乗回帰)。不均一分散を補正する自動重み付き回帰の手順を実行するには、疑似変数 "*** AutoWeight 1/SD^2 ***" を選択します(Neter et al., 1996)。この疑似変数は、重みのドロップダウンリストの最初の項目として表示されます。
- フィルター:選択したケースのサブグループだけを統計分析に含めるためのデータフィルターを入力することもできます。
回帰式
既定では、定数を方程式に組み込むオプションが選択されています。これは推奨されるオプションで、通常の最小二乗回帰になります。原点を通る回帰(式に定数 a を含まない回帰)が必要な場合は、このオプションの選択を解除できます(これが適切な場合の例は Eisenhauer, 2003 に示されています)。
MedCalc では、5 つの回帰式から選択できます。
| y | = | a + b x | 直線 |
| y | = | a + b log(x) | 対数曲線 |
| log(y) | = | a + b x | 指数曲線 |
| log(y) | = | a + b log(x) | 幾何曲線 |
| y | = | a + b x + c x2 | 二次回帰(放物線) |
ここで、
オプション
- サブグループ:さまざまなサブグループを識別するコードを含むカテゴリー変数を選択できます。回帰分析は、すべてのケースと各サブグループについて実行されます。
- 残差:残差に対する正規分布の検定を選択できます。
結果
結果ウィンドウには、次の統計量が表示されます。
従属Y | WEIGHT |
|---|---|
独立X | LENGTH |
最小二乗回帰
サンプルサイズ | 100 |
|---|---|
決定係数 R2 | 0.1988 |
残差標準偏差 | 8.6253 |
回帰式
y = -54.5957 + 0.7476 x | |||||
パラメーター | 係数 | 標準誤差 | 95% 信頼区間 | t | P |
|---|---|---|---|---|---|
切片 | -54.5957 | 26.7084 | -107.5975 から -1.5938 | -2.0441 | 0.0436 |
傾き | 0.7476 | 0.1516 | 0.4468 から 1.0485 | 4.9312 | <0.0001 |
分散分析
ソース | DF | 平方和 | 平均平方 |
|---|---|---|---|
回帰 | 1 | 1809.0613 | 1809.0613 |
残差 | 98 | 7290.7787 | 74.3957 |
F比 | 24.3167 |
|---|---|
有意水準 | P<0.0001 |
残差
Shapiro–Wilk 検定 | W=0.9844 |
|---|
| 予測値を保存 - 残差を保存 回帰直線を伴う散布図 |
サンプルサイズ:データの対の数
決定係数 R2:回帰モデルによって説明される従属変数の変動の割合で、モデルの適合度を表す尺度です。0 から 1 の値をとり、次のように計算されます。
ここで、y は従属変数の観測値、$\bar{y}$ は観測値の平均値、yest は従属変数の予測値(予測値は回帰式を用いて計算されます)です。
注:原点を通る回帰では、決定係数では原点を通る回帰モデルを適切に解釈できないため、MedCalc は決定係数を報告しません(Eisenhauer, 2003 を参照)。
残差標準偏差:残差(観測値と予測値の差)の標準偏差です。次のように計算されます。
残差標準偏差は、推定値の標準誤差とも呼ばれます(Spiegel, 1961)。
回帰曲線の式:a と b(放物線の場合は 3 番目の係数 c)の計算値を代入した、選択した式です。例:Y = a + b X
続いて、切片(a)と傾き(b)の標準誤差が示され、これらの係数が 0 であるという仮説に対する t 値と P値が示されます。P値が小さい場合(たとえば 0.05 未満)、係数は 0 と異なると結論づけることができます。
回帰式を予測に使用する場合は、実際の観測値の範囲内の値にのみ適用してください。たとえば、学童の身長と体重について回帰式を計算した場合、その式を成人に適用することはできません。
分散分析:分散分析表は、従属変数の全変動を、回帰モデルに起因する成分(回帰と表示)と、そうでない成分(残差と表示)の 2 つに分割します。F検定の有意水準が小さい場合(0.05 未満)、(線形の)関係がないという仮説を棄却できます。
回帰直線の比較
回帰のダイアログボックスでサブグループを選択した場合、MedCalc はサブグループで得られた回帰式の傾きと切片を自動的に比較します。
この比較は、次の場合に実行されます。
- サブグループが 2 つある場合
- 重み変数がない場合
- 式に定数が含まれている場合
この場合、結果ウィンドウには、2 本の回帰直線の傾きと切片を比較した表が含まれます。
傾きと切片の比較
傾きの比較 | |
|---|---|
差 | 0.1514 |
標準誤差 | 0.3065 |
t | 0.4942 |
DF | 96 |
P | 0.6223 |
共通の傾き | |
傾き | 0.7503 |
標準誤差 | 0.1532 |
切片の比較 | |
調整済みの差 | 0.5055 |
標準誤差 | 1.7458 |
t | 0.2895 |
DF | 96 |
P | 0.7728 |
計算は Armitage et al., 2002 に従って行われます。
まず、傾きの差が、標準誤差、t 統計量、自由度、対応する P値とともに報告されます。P が 0.05 より小さくない場合、傾きに有意な差はなく、回帰直線は平行です。P が 0.05 より小さい場合、回帰直線は平行ではなく、以下に示す切片の比較は妥当ではありません。
次に共通の傾きが計算され、これを用いて切片の調整済みの差が計算されます。
切片の調整済みの差は、標準誤差、t 統計量、自由度、対応する P値とともに報告されます。P が 0.05 より小さい場合、2 つの切片の間に有意な差があります。P が 0.05 より小さくない場合、2 本の回帰直線は区別できません。
ANCOVA を用いた回帰直線の比較
サブグループが 3 つ以上ある場合は、ANCOVA を用いて傾きと切片を比較できます。
ANCOVA モデルでは、まず従属変数を選択し、次に独立変数を共変量として選択します。因子にはグループ化変数を選択します。
ANCOVA の結果の「回帰の傾きの等質性」で、回帰の傾きの比較に対する有意水準である P値を確認できます。この P値が 0.05 より小さくない場合、回帰直線は平行です。
続いて、「対比較」で切片の差に対する P値を確認できます。
残差の分析
線形回帰分析では、残差(観測値と推定値の差)が正規分布に従うと仮定します。この仮定は、形式的な検定またはグラフによる方法で評価できます。
各種の形式的な正規分布の検定は、サンプルサイズが小さい場合、正規分布からの逸脱を検出するのに十分な検出力を持たないことがあります。一方、サンプルサイズが大きい場合は、中心極限定理により正規分布の要件はそれほど厳しくなくなります。
そのため、ヒストグラム、箱ひげ図、または正規確率プロットを用いて、残差の分布の対称性と尖度を視覚的に評価するほうが望ましい場合がよくあります。
そのためには、結果ウィンドウの「残差を保存」ハイパーリンクをクリックします。これにより、残差がスプレッドシートに新しい変数として保存されます。その後、この新しい変数を各種の分布グラフで使用できます。
結果の提示
分析の結果、2 つの変数の間の関係が弱すぎて実質的に重要でない場合は、当てはめた直線や曲線の式を示すことにはほとんど意味がありません。式を示す場合は、傾きの標準誤差と対応する P値も示す必要があります。残差標準偏差も報告すべきです(Altman, 1980)。回帰係数の小数点以下の桁数は、元データの精度に合わせる必要があります。
結果とともに示す散布図には、適切な場合、当てはめた回帰直線を含める必要があります。図には 95% 信頼区間、またはより有益な 95% 予測区間、あるいはその両方を加えることができます。どの区間を示しているかは、図の説明で明記する必要があります。
文献
- Altman DG (1980) Statistics and ethics in medical research. VI - Presentation of results. British Medical Journal 281:1542-1544.
- Armitage P, Berry G, Matthews JNS (2002) Statistical methods in medical research. 4th ed. Blackwell Science.
- Bland M (2000) An introduction to medical statistics, 3rd ed. Oxford: Oxford University Press.
- Eisenhauer JG (2003) Regression through the origin. Teaching Statistics 25:76-80.
- Neter J, Kutner MH, Nachtsheim CJ, Wasserman W (1996) Applied linear statistical models. 4th ed. Boston: McGraw-Hill.
$$ R^2 = \frac {\text{説明される変動}} {\text{全変動}} = \frac {\sum_{}^{}{(y_{est}-\bar{y})^2}} {\sum_{}^{}{(y-\bar{y})^2}} $$
$$s_{res} = \sqrt{\frac{\sum_{}^{}{(y-y_{est})^2}}{n-2}} $$