回帰分析は統計学の王道です。
洞察の際には必ずと言っていいほど利用する手法の一つです。
今回は回帰分析を行う上で、重要な意味を持つ回帰直線についてまとめていきます。
目次
回帰直線とは?
回帰直線の公式と導出
回帰直線の性質
回帰直線とは?
回帰直線とは、y = ax + bというシンプルな直線を求めて、変数間の線形関係の程度を調べる手法です。
最小二乗法を使って、誤差【イプシロン:ε(a,b)】を最小化し、回帰直線を求めます。

回帰直線の公式と導出
回帰直線を数式で見ていきます。
以下が回帰直線の公式です👇

ここから、回帰直線の公式の導出を行います。

まず、aを偏微分します。

同様に、bを偏微分します。


ひとまずbを求めることができました。

aも同様に求めることが出来ました。

上記が回帰直線の公式です。
導出できました。
ついでに相関係数の形も見ておきます。

回帰直線の性質
①予測値の平均は実測値の平均と等しい

②残差の平均は0となる

③予測値と残差の相関係数は0となる


④応答変数(yの全変動)=回帰変動+残差変動となる。【平方和の分解】


⑤【平方和の分解】のうち、全変動に占める回帰変動の割合が決定係数
