数値計算 【入門】逆伝播(Python)【数値計算】
逆伝播を行った際の重みの動き方を確認するプログラムをPythonで作成。
おおよそ狙ったところに収束。
Python
数値計算 
数値計算 MATLAB,Python,Scilab,Julia比較 第4章【バックナンバー】
はじめに MATLAB,Python,Scilab,Julia比較するシリーズの第4章。 第3章では画像処理、座標変換の話がメインだった。 第4章は分類問題関連の話がメインとなる。基本的には以下の流れとなる。 形式ニューロン 決定境界線の安...
数値計算 MATLAB,Python,Scilab,Julia比較 第4章 その62【逆伝播⑬】
逆伝播を行った際の重みの動き方を確認するプログラムをPythonで作成。
おおよそ狙ったところに収束。
数値計算 【入門】勾配降下法(Python)【数値計算】
勾配降下法の実験をPythonで実施。
予想通り局所最適解に陥った。
局所最適解の回避方法としては学習率を状況に応じて変更する様々は最適化アルゴリズムがある。
モーメンタム、AdaGrad、Adamなどなど。
数値計算 MATLAB,Python,Scilab,Julia比較 第4章 その47【勾配降下法⑤】
勾配降下法の実験をPythonで実施。
予想通り局所最適解に陥った。
局所最適解の回避方法としては学習率を状況に応じて変更する様々は最適化アルゴリズムがある。
モーメンタム、AdaGrad、Adamなどなど。
数値計算 【入門】シグモイド関数の導関数(Python)【数値計算】
シグモイド関数、シグモイド関数の導関数、シグモイド関数のオイラー法での微分をPythonで算出。
グラフで比較し、導出した導関数は正しいと言える結果となった。
数値計算 MATLAB,Python,Scilab,Julia比較 第4章 その34【連鎖律の前準備⑧】
シグモイド関数、シグモイド関数の導関数、シグモイド関数のオイラー法での微分をPythonで算出。
グラフで比較し、導出した導関数は正しいと言える結果となった。
数値計算 【入門】シグモイドによる決定境界安定化(Python)【数値計算】
活性化関数をシグモイド関数にした形式ニューロンをPython(NumPy)で実現。
結果はカスタムヘヴィサイドの時と一緒。
数値計算 MATLAB,Python,Scilab,Julia比較 第4章 その24【シグモイドによる決定境界安定化④】
活性化関数をシグモイド関数にした形式ニューロンをPython(NumPy)で実現。
結果はカスタムヘヴィサイドの時と一緒。
数値計算 【入門】決定境界直線の安定化(Python)【数値計算】
形式ニューロンの活性化関数をカスタムヘヴィサイド(造語)関数にしたものをPython(NumPy)で作成。
おおよそMATLABと同じ結果に。
毎度おなじみの表示上の誤差は出る。