【入門】単回帰分析【数値計算】

【入門】単回帰分析【数値計算】 数値計算
【入門】単回帰分析【数値計算】

MATLAB、Python、Scilab、Julia比較ページはこちら
https://www.simulationroom999.com/blog/comparison-of-matlab-python-scilab/

はじめに

の、
MATLAB,Python,Scilab,Julia比較 第2章 その52【単回帰分析①】

を書き直したもの。

正規方程式を用いた、単回帰分析について。

単回帰分析

前回で、正規方程式を導出したので、
これを使用して単回帰分析を行う。

具体的には以下の流れで実施する。

  • 最小化したい二乗和誤差関数の特定
  • 正規方程式の各成分の定義
  • 単回帰分析の実施

上二つは前回すでにやってはいるが、
念のため改めて再掲しておくってのが今回の趣旨。

単回帰分析の二乗和誤差関数

前回も見せたが、単回帰分析は1次関数によるフィッティングなので、以下が二乗和誤差関数になる。

\(
\displaystyle\sum_{i=1}^n\{(\alpha x_i+\beta)-y_i\}^2
\)

これが最小になる条件の線が求めたいものということになる。

正規方程式の各成分の定義

\((Ax-b)^2\)で最小化問題を解く場合はの各成分は以下となる。

\(
A=
\begin{bmatrix}
x_1 & 1\\
x_2 & 1\\
\vdots & \vdots\\
x_n & 1\\
\end{bmatrix},
\vec{x}=
\begin{bmatrix}
\alpha\\
\beta
\end{bmatrix},
\vec{b}=
\begin{bmatrix}
y_1\\
y_2\\
\vdots\\
y_n
\end{bmatrix}
\)

方程式が\((Ax-b)^2\)で一般化されてるので、
これをどう解釈したかということが表現されていると思えばOK。
一般化されたものを具体化して、利用可能にしたもの。

単回帰分析の実施

あとは正規方程式に上記パラメータを入れるだけで求めたい1次関数の各係数が求まる。

\(
x=(A^TA)^{-1}A^Tb
\)

これを各ツール、各言語でやっていく。
計算のステップ自体は大したことはない。(はず)

以下の流れとなる。

  • サンプリングデータの用意
  • 正規方程式のパラメータへ成形
  • 正規方程式で各係数算出
  • サンプリングデータと求めらえた関数のプロット

まとめ

  • 正規方程式を使って単回帰分析を行う。
  • 単回帰分析の二乗和誤差関数の定義。
  • 正規方程式の各成分の定義。
  • 上記を元に各ツール、各言語で演算を実施すればOK。

MATLAB、Python、Scilab、Julia比較ページはこちら

コメント

タイトルとURLをコピーしました