先程のentryの重回帰分析版です。

回帰式

単回帰も重回帰も同様の手順で、回帰係数を導出できますが、変数が多いと、手計算が手間ですので、今回は以下の回帰係数を算出します。

$\Large{ y= a_0 + a_1x_1 + a_2x_2 }$

偏微分と連立方程式による $\large{ a_0 ,a_1 ,a_2 }$ の導出

$\Large{ L = \sum_{i=1}^n {(y - (a_0 + a_1x_{1i} + a_2x_{2i}))}^2 }$

上記を $\large{ a_0 ,a_1 ,a_2 }$ のそれぞれで偏微分します

$\large{ \frac{\partial L}{\partial a_0} } = -2 \sum_{i=1}^n \quad {(y - (a_0 + a_1x_{1i} + a_2x_{2i}))} = 0 …(式0)$

$\large{ \frac{\partial L}{\partial a_1} } = -2 \sum_{i=1}^n x_{1i} {(y - (a_0 + a_1x_{1i} + a_2x_{2i}))} = 0 …(式1)$

$\large{ \frac{\partial L}{\partial a_m} } = -2 \sum_{i=1}^n x_{2i} {(y - (a_0 + a_1x_{1i} + a_2x_{2i}))} = 0 …(式2)$

式0の $\large{ a_0 }$ を式1、2へ代入する為、変形します。

$\large{ na_0 = \sum_{i=1}^n y_i - \sum_{i=1}^n a_1x_{1i} -\sum_{i=1}^n a_2x_{2i} }$

$\large{ a_0 = \frac{\sum_{i=1}^n y_i}{n} - \frac{\sum_{i=1}^n a_1x_{1i}}{n} - \frac{\sum_{i=1}^n a_2x_{2i}}{n} }$

$\large{ a_0 = \overline{y} - a_1 \overline{x_1} - a_2 \overline{x_2} …(式02) }$

式02を式1、2へ代入し、変形します。

$\large{ a_1 \sum_{i=1}^n (x_{1i} - \overline{x_1})^2 - a_2 \sum_{i=1}^n (x_{1i} - \overline{x_1})(x_{2i} - \overline{x_2}) \\\ = \sum_{i=1}^n (x_{1i} - \overline{x_1})(y_i - \overline{y}) …(式12) }$

$\large{ a_1 \sum_{i=1}^n (x_{1i} - \overline{x_1})(x_{2i} - \overline{x_2}) - a_2 \sum_{i=1}^n (x_{2i} - \overline{x_2})^2 \\\ = \sum_{i=1}^n (x_{2i} - \overline{x_2})(y_i - \overline{y}) …(式22) }$